瞭望｜人工智能时代的法治应对-人工智能发展对现有法律秩序的冲击

明晰技术“原则”，通过立法产生一套人工智能技术标准和评估体系来加以规范，是保障人工智能健康发展的关键“防火墙”

随着人工智能在千行百业运用场景扩宽，技术在便捷人们生产生活的与此同时，一旦发生法律纠纷，侵权主体的责任认定就成了摆在法学界面前的突出困局

数字化变革所催生的新业态带来政府监管障碍，社会结构、制度框架、法律体系都需随着数字化变革转型而持续互动演化

强化人工智能法制保障须以推动社会整体利益为导向，避开法律规范不当挤压人工智能发展的空间

文|《瞭望》新闻周刊记者冯维健

明年1月，深度求索公司的DeepSeek一经发布，迅速引爆国际国外市场，其在知识问答、长文本解决、代码生成和语文能力等方面的专业性，突显了我国在人工智能技术领域的突破性进展和创新性成就。

当前，人工智能技术急速发展，在诸多领域诠释出巨大潜力的与此同时，也引起了一系列关乎技术伦理、社会安全、版权保护等方面的疑虑。业内人士纷纷倡议，加强人工智能立法，以法制建设支持的背后和引导人工智能产业发展，建立在全球科技竞争中的制度优势。

听众在2025年上海市“人工智能+”创新发展推动会议上观看机器狗演出（2025年2月14日摄）李博摄/本刊

人工智能安全风险渐渐显现

随着生成式人工智能和大模型技术的广泛运用，人们开始发觉，在网路上，“眼见也不一定为实”。

青海民警2024年2月通报一起案件，某公司财务人员接到总监的视频通话，要求她汇款186亿元到一个指定帐户。由于视频通话中对方的声音、长相和言谈谈吐都与总监一样，财务人员迅速完成转帐。事后当上级领导寻问这笔资金的去向时才发觉受骗。本案中犯罪分子施行盗窃就是运用人工智能技术达成了声音和视频画面的深度伪造。

“十几分钟音频加上几张相片就可以‘换脸’并模仿这个声音，现实中一个普通中学生就可以做到。”黑龙江学院计算机与大统计大学（网路安全大学）校长王磊说。

“借助‘AI换脸’‘AI拟声’技术施行盗窃，犯罪成本越来越低，破获难度越来越大。”北京金诚同达律师事务所中级合伙人马林艳表示，技术被滥用是联通盗窃的“最后一环”，用户的个人统计和隐私信息泄漏则是后置条件。

2024年6月，公安部披露了多起涉及人工智能技术的深度伪造典型案例。其中一起案件中，犯罪嫌疑人利用人工智能技术对受害人相片进行“一键去衣”解决，批量生成了近7000张色情图片并通过网路走私，严重侵犯了别人的隐私权、名誉权等合法权益。

“在一些西方国家的补选中，通过深度伪造，制做出虚假的候选人宣传视频，这种内容可能被拿来贬低竞争对手或美化特定候选人，进而影响选民的判定和投票决策，破坏大选的公平；在战争中，极端势力基于传统游戏视频，简单加工后伪导致逼真的战争视频，制造民众恐慌甚至激化国际关系紧张。”王磊说，深度伪造涉政风险常常愈发突出，它可能伴随政治操纵风险、社会动乱风险、意识形态风险等害处国家安全。

国家工业信息安全发展调查中心党委副主任吴死歌表示，当前人工智能算法训练和使用过程中存在“算法暗箱”、不可解释等内生困难，以及过度使用、恶意运用，隐私泄漏、统计滥用、“统计投毒”等困难。

“在人工智能风险管理体系中，自身风险和衍生风险都值得关注。其中，自身风险出自人工智能技术系统本身，包括统计、框架、模型、芯片、算力、网络运用服务等风险，而衍生风险则应当置于个人、组织、社会、国家乃至全人类的场域下去讨论。”中国信息通讯调查院人工智能调查所中级业务主管呼娜英说，相较于自身风险可以通过技术标准提高加以防范，衍生风险的出现更要求法制跟进。

上海学院法大学院士、北京学院北京人工智能调查院副教授张平觉得，明晰技术“原则”，通过立法产生一套人工智能技术标准和评估体系来加以规范，是保障人工智能健康发展的关键“防火墙”。

多项法律存在空白

人工智能作品能够遭到知识产权保护？

“根据我国现行的《中华人民共和国专著权法》，人工智能的主体性正在知识产权界引起广泛争议。”上海理工学院出版大学讲师李想表示，多数观点觉得生成式人工智能不能满足《中华人民共和国专著权法》中的作者资格，其内容生成过程只是估算而非创作，应以创作工具视之。

而随着技术快速发展，一些人工智能生成物似已达成了从“复制”到“创造”的跨越，生成式人工智能的专著权侵权风险与制度应对面临“立法空白”。

2023年，上海互联网法庭针对人工智能生成图片作品专著权侵权纠纷做出二审裁定，认定上诉使用开源软件StableDiffusion通过输入提示词形式生成的图片作品彰显了上诉的智力投入，具备“智力成果”要件和“独创性”要件，应该认定为作品，受《中华人民共和国专著权法》保护。

上述案件庭审曾在多个平台直播，吸引了17万网友观看，引起较大关注。上诉在庭审最后表示，自己的目的并不是为了赔付，而是希望法庭通过这个案件，才能对AI油画作品的专著权困难给出明晰的裁量和认定标准，便捷所有创作者参考。

“在人机融合的状态下，司法实践有必要进行明晰分辨，究竟什么是人创造出的内容，什么是机器创造出的内容。”华东政法学院知识产权大学副校长于波称，人工智能生成物出现后，现有创作模式形成颠覆性变化，给知识产权法律保护带来前所未有的障碍。

随着人工智能在千行百业运用场景扩宽，一旦发生法律纠纷，侵权主体的责任认定就成了摆在法学界面前的突出困局。

以无人驾驶为例，在手动驾驶模式下，一旦发生交通车祸，责任可能与此同时涉及汽车制造商、软件系统开发设计者、车主等多个主体，责任追究和分配显得十分复杂。

“我国现有法规主要针对传统机动车交通车祸侵权责任的解决办法，缺乏对手动驾驶车辆驾驶主体的划分、统计采集等相关条例，也缺乏对责任主体、责任承当、统计保护的法律规定。”同济学院法大学副院长张韬略称，非常是紧急情况下，机器拥有步入“安全状态”的“自主权”，由此导致的车祸怎样进行责任认定，须要在立法和司法实践中加以解决。

由于训练统计不均衡、算法设计缺陷等诱因，人工智能容易出现偏见。在求职急聘、信贷审批、司法裁判等领域，可能因算法对特定群体特点的不当学习而形成歧视性决策，减缓社会不公正，损害部份弱势群体的权益。

长春交通学院法大学院士焦和平表示，在求职急聘、信贷审批、司法裁判等过程中，平台自身拥有一定的“裁判权”。人工智能技术的运用，促使这一流程全部算法化，由此导致的法律纠纷，须要法律进一步明晰。

人工智能在司法实践中的运用也成为法学界关注的焦点。长春学院法大学院士谢登科觉得，人工智能证据的认定存在一定实践窘境。当前，传统电子统计分类方式可能不完全适用于人工智能证据，由于人工智能证据在产生过程中彰显了机器深度学习的经验，其真实性须要结合详细运用场景进行审查认定。

中国科大学学院公共新政与管理大学副院长、中国科学技术法学会人工智能专业委员会执行校长刘朝表示，当前需进一步总结人工智能的技术特点、运行规律，科学掌握人工智能整治的发展逻辑，借此为基础构建一套行之有效的法律制度体系，妥善规范人工智能技术可能带来的风险障碍。

参访者在宁波举行的2024世界设计之都会议上体验虚拟现实墨镜（2024年9月27日）陈浩明摄/本刊

怎样对人工智能前瞻性立法

拥抱人工智能时代，怎么做到有法可依？

上海学院法大学院士孙晋觉得，数字化变革催生新业态带来政府监管障碍，很难再承袭工业时代的管理思维给以应对，社会结构、制度框架、法律体系都需随着数字化变革转型而持续互动演化。

从2022年日本发布《人工智能权力法案》蓝图，到2024年欧共体通过《人工智能法案》，人工智能相关困难在全球范围内越来越得到立法部门的广泛注重，欧美一些国家先后颁布相应法律。

合肥学院法大学副校长王晓燕说，我国近些年来逐渐颁布了有关算法备案、大模型备案和伦理审查登记等领域的指导意见，但技术发展之快已超出现有法律制度的规范，在强化技术检查、强化行业自律的与此同时，应考虑人工智能前瞻性立法。

中国科大学学院公共新政与管理大学院士、科技与法律调查中心所长方新表示，我国近些年来早已颁布了多部关于人工智能和网路统计方面的新政法规和指导意见，但人工智能发展迅猛，对一些新的法律困难尚未达成共识，人工智能相关法律法规散见于各部门法中，仍未产生系统完备的人工智能立法。

深度求索公司的DeepSeek爆火后，其服务状态页面曾挂出黄色警报，其线上服务遭到持续的超大规模恶意功击。据悉，DeepSeek还受到一些境外敌对势力的调查、禁用和网路功击，其背后是对我国科技企业的技术打压、经济杜绝和意识形态围攻。

“在国防、政务、关键基础设施等领域，人工智能安全至关关键。立法才能规范相关技术研制、使用标准，防范外部势力利用人工智能漏洞对国家主权、安全导致恐吓，更好守护国家核心利益。”王磊说，对于人工智能立法，应当置于总体国家安全观的场域下去考量。

中国法学会党组主任，全省人大常委会委员、全国人大宪法和法律委员会副书记委员王洪祥表示，当前，一些西方国家在人工智能技术领域筑起“小院高墙”，对我进行全方位的遏止打压。在此背景下，应积极进行科技领域的涉外法制斗争，积极参与科技法制领域的国际规则和标准制订，以法制建设支持的背后和引导人工智能发展，建立在全球科技创新竞争中的制度优势。

“随着科技创新成为国际战略博弈的主要战场，与之相对应的制度竞争也日渐成为促使未来国际秩序演化的关键力量。”北京理工学院智能科技法律调查中心调查员张心宇称，我国如针对人工智能产业采取前瞻性的法律制度设计，才能更好防治安全风险，促使技术创新，促使国际合作。

在张心宇看来，人工智能技术具有明显的跨国属性。推进促使人工智能规则制订，产生具有中国特色的整治理论和实践，也能为促进人工智能全球整治提供科学方案，贡献中国智慧，提高我国在全球人工智能整治中的话语权和影响力。

随着人工智能技术的快速发展，技术整治须要与法律实践紧密结合，在防范潜在风险的与此同时，更应着眼于推动技术创新。广州民航航天学院法大学副院长赵精武称，统一监管在任何法律的整治当中都只是起点，还应该关注不同科技创新主体的制度需求。

中国科大学教授房建成觉得，强化科技法学调查和科技法制建设，更须要引进科学家为科技立法工作开拓前沿视野。

“当前，有关人工智能相关立法，早已从谈原则的软法时代步入讲权力义务实体规定的硬法时代。”清华学院法大学院士、智能法制调查院教授申卫星坦承，在制订法律时应坚持安全和发展并重，两者之间怎样协调是立法最大的困局之一。张心宇也表示，强化人工智能法制保障必须以推动社会整体利益为导向，防止法律规范不当挤压人工智能发展的空间。

孙晋建议，尽早推进拟定一部才能覆盖数字经济核心产业的数字经济推动法，借以作为发展数字经济的基本法、上位法，统领反垄断监管和数字化整治实践，因而促使已有地方性法规、政策之间有效衔接，推动数字经济行业可持续发展。