文汇 10-10
同济大学文科学者成果登顶刊《科学》,展示AI监管的“中国智慧”
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

高校文科教授的论文,登上了国际知名科学期刊。

北京时间今天(10 月 10 日)凌晨,同济大学法学院助理教授朱悦,副教授张韬略、徐钢以及其他机构多位学者合作的一篇论文在学术顶刊《科学》杂志上发表。这篇题为《中国人工智能监管正在兴起,迈向人工智能开放未来》的论文,系统阐述了我国在人工智能这一前沿领域的监管制度与治理理念。

文章不仅创新地论述了我国开源人工智能(AI)兴起与人工智能监管制度发展间的联系,更重要的是,在全球 AI 监管路径尚在探索的当下,它清晰提炼并传递了一个平衡创新与风险、具有实操性的 " 中国方案 "。

" 我深刻感受到,国际上对中国开源 AI 和 AI 监管的浓厚兴趣。" 作为论文第一作者和共同通讯作者,朱悦今天(10 月 10 日)接受本报记者采访时如是说。

找到 " 鼓励创新 " 与 " 防控风险 " 的平衡点

面对 AI 的迅猛发展,如何在 " 鼓励创新 " 与 " 防控风险 " 之间找到平衡点,这是全球面临的共同难题。在学界,关于开源 AI 和加强对 AI 的规范和监管,两个话题均是研究热点,但对二者互动关系的系统性研究,直到今年初仍然不多。

出生于 1993 年的朱悦,一直对研究数字技术与法律感兴趣。过去几年,同济大学法学院和上海市人工智能社会治理协同创新中心共同举办了多次和 AI 监管相关的国际学术研讨会。会中他观察到,国际社会对中国 AI 监管制度高度关注,但缺乏对开源生态与监管框架互动机制的深入探讨。于是,他和其他论文合作者很快有了一个想法:可围绕这一重要问题,整合学术、政策和企业实务的视角,开展探索性研究。" 该选题的独特价值在于超越单一学科视角,能够构建两个重要领域间的互动叙事。" 朱悦说。

论文系统梳理了我国近年来的 AI 监管实践,并从中提炼出 " 包容、高效、试验 " 的治理理念,这一理念通过六项关键制度得以体现。这六项制度分别是:开源豁免、科研豁免、高效的专门司法、人工智能科研诚信、科技伦理以及先行先试。此外,论文还对中国 AI 监管的成效与未来展望进行了阐述。

" 中国智慧 " 为全球提供更多 AI 监管可能

面对一个具体的 AI 模型,在启动监管时该如何判断呢?以什么样的标准来判定,对它是采取 " 鼓励 " 还是 " 防控 "?

在文章看来,一个核心区分标准就是 AI 模型是否直接向终端用户提供服务。如果一个 AI 模型仅在科研社群内部使用,而不直接面向普通民众,那么监管会给予其更充分的豁免和发展空间。反之,如果它直接影响公众权益、可能造成损害,例如用于聊天陪伴或自动驾驶,则应当接受更严格的监管。

这种 " 分类分级 " 的智慧,目前已体现在中国《生成式人工智能服务管理暂行办法》等多部规章和规范性文件中。这些规则一方面对特定场景中的 AI 活动要求强制性的备案和评估,另一方面也规定,如果监管程序之间存在重叠,则可免于重复审查,体现了高效的原则。

" 我们的监管理念,实际上与欧盟《人工智能法》的严格监管形成了差异化,在我看来,中国方案为 AI 创新提供了更多空间,在全球也已处于前列。" 朱悦说。

为了说明这一点,朱悦在论文中专门提到了 " 沙盒监管 "。简单说," 沙盒监管 " 是一种分阶段测试机制,它为 AI 系统,尤其是处于研发或上市前阶段的创新 AI 应用,提供一个封闭、受控的实验与测试环境,目的是让 AI 系统在正式推向市场、面向终端用户前,识别、隔离并降低其潜在风险,同时为监管者与开发者提供实践依据,平衡 AI 创新与安全合规。

2023 年,上海浦东新区出台我国首部智能网联汽车创新应用地方性法规。在 2024 世界人工智能大会上,上海为四家企业发放了首批无驾驶人智能网联汽车示范应用许可,意味着无人驾驶出租车(Robotaxi)将在浦东新区部分区域投入运营。截至去年 7 月,全国已经累计发放 1.6 万张自动驾驶汽车测试牌照。这一过程就是从封闭沙盒到真实场景的典型实践,为其他领域 AI 应用的沙盒监管提供了参考范式。

4 页论文背后,是超过 100 页的答问记录

值得一提的是,此次的论文发表于《科学》杂志历史悠久的 " 政策论坛 " 栏目,该栏目此前从未专门发表过聚焦中国 AI 监管议题的研究。朱悦告诉记者,虽然论文全文只有 4 页,但 " 文章完整经历了投稿前询问、多轮审稿、拒稿后申诉、追加审稿意见 " 等流程。最终,往返答问记录超过 100 页。

让他印象深刻的是,在审稿过程中,匿名审稿人对中国公权力机关运用 AI 时是否有制约机制表现出了关注。" 我们比较了中美法学界对技术性正当程序的研究,发现彼此间在风险防控理念上存在诸多共通之处,在此基础上又补充了很多论述。" 朱悦说。团队最终说服了审稿人。

" 我非常感谢审稿人,他们让我们的论证更周密,提高了文章的质量,在往返的交流沟通中,也促进了中外学术界的相互理解。" 朱悦说。

徐钢介绍,近年来,同济大学法学院牵头建设上海市人工智能社会治理协同创新中心,发挥多学科交叉融合优势,与相关科研机构和企业开展协同创新,持续研究人工智能伦理、法律与治理问题。在朱悦看来,跨学科研究带给人最深刻的感受,在于从不同的学科切实推进对一个共同关心的问题的理解。论文合作者中,就有专家直接参与了《生成式人工智能服务管理暂行办法》的起草工作,为研究提供了宝贵的实践洞察。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 人工智能 同济大学 开源 科研
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论