人工智能的快速发展及其带来的恐惧和担忧，使得各界形成了对其必须进行监管的共识。制定人工智能法已经成为世界潮流。欧盟、美国、非洲联盟、新加坡、加拿大等组织和国家都已制定出监管人工智能发展和运用的政策或法律框架。在中国，继去年8月社科院发布《人工智能法示范法1.0(专家建议稿)》之后，2024年3月16日，在“AI善治论坛 人工智能法律治理前瞻”专题研讨会上，与会者公布了由7家研究机构携手起草的《中华人民共和国人工智能法（学者建议稿）》。对于健全并提升中国在人工智能监管方面的制度和能力，这份学者建议稿无疑是一次非常有益的尝试。本栏目邀请到组织并参与该建议稿撰写的学者，对建议稿起草的背景、过程及亮点等进行了详细解读，并请他们阐述了各自对于人工智能立法的观点，敬请读者关注。

（张凌寒）

2024年3月16日，在北京举办、由中国政法大学数据法治研究院等单位主办的“AI善治论坛 人工智能法律治理前瞻”专题研讨会上，中国政法大学数据法治研究院、西北政法大学法治学院、中国信息通信研究院、北京航空航天大学法学院、华东政法大学数字法治研究院、西南政法大学科技法学研究院、中南政法大学知识产权研究中心7家单位专家联合起草的《中华人民共和国人工智能法（学者建议稿）》（以下简称建议稿）正式发布。

据了解，这份建议稿一经发布，立即引发了国内和国际广泛关注。《法治周末》记者对建议稿起草专家组牵头专家、联合国高级别人工智能咨询组的中方专家、中国政法大学数据法治研究院教授张凌寒进行了专访，请她介绍建议稿的起草背景、历程与创新之处。

“以人为本”的治理主张

《法治周末》：您如何看待建议稿的发布背景与意义？

张凌寒：建议稿的发布是对人工智能产业发展的时代背景和国际治理格局的回应。人工智能正在成为引领未来变革的战略性技术，在重塑生产方式、优化产业结构、提升生产效率、赋能千行百业的同时，也带来了安全、隐私、公平等问题和挑战。实现人工智能产业的健康发展，离不开包容审慎、行之有效的良法善治。

从立足国内法治建设角度，人工智能立法站在中国法治建设继往开来的节点上，既是对既往30年网络领域立法经验的总结与升华，也将成为未来5年立法规划中“加强重点领域、新兴领域、涉外领域立法，统筹推进国内法治和涉外法治”的典型示范。

放眼全球，新一代人工智能技术的可持续发展不仅是技术层面的竞争，也是法治软实力的竞争。随着人工智能产业的突破性发展以及联合国人工智能咨询机构的成立，人工智能国际治理的紧迫性日益凸显，世界主要国家和经济体纷纷在监管建设、国际合作、产业发展、政策研究等多个层面加大投入，希望发挥在国际人工智能治理中的主导作用。

我国作为最大的发展中国家经济体，在2023年10月发布了《全球人工智能治理倡议》，彰显了我国在全球人工智能治理中的共同体理念和大国担当。建议稿在制度设计上积极贯彻我国《全球人工智能治理倡议》中“以人为本”的人工智能治理主张，“高擎发展旗帜，彰显人本主义”，探索人工智能治理的中国路径，提升我国在全球人工智能治理中的影响力。

建议稿意在抛砖引玉、凝练共识，通过对制度设计的重点和焦点问题的讨论汇聚各界主张与观点，在多轮讨论中深化产学研共识，营造监管、学界和业界充分交流的良好生态，为我国人工智能立法提供参考。建议稿以促进产业发展为主要特色，立足我国人工智能产业发展实际，坚守安全风险防范底线，力争具有前瞻性、先进性和本土性。其发布既能推动建立健全我国人工智能治理体系，确保技术发展与社会价值观的和谐统一，引导和规范我国人工智能产业健康、有序、向善发展；又能在国际层面展现人工智能治理的中国主张与中国智慧，成为我国在全球人工智能治理合作与交流中的一张名片。

《法治周末》：在建议稿的起草过程中，哪些问题是学者们讨论较多的？

张凌寒：建议稿的起草工作开始于一年前。2023年6月6日，国务院发布的《国务院2023年度立法工作计划》明确将人工智能法列入立法规划。为服务人工智能发展国家战略，承担以“善治”促“善智”的法治使命，我们开始了建议稿的起草工作。

起草专家组由我牵头，《法律科学》主编、西北政法大学法治学院教授杨建军，中国信通院政策与经济研究所高级工程师程莹，北京航空航天大学法学院副教授、院长助理赵精武，华东政法大学数字法治研究院副教授、副院长韩旭至，西南政法大学科技法学院教授、副院长郑志峰，中南财经政法大学知识产权研究中心副教授徐小奔共同组成。

在起草过程中，如何立足我国人工智能产业实际，兼顾发展与安全需求，是专家组成员讨论最多的问题。落实到具体的制度设计上，包括如何促进生产要素服务与人工智能产业发展、如何确保个人权益不受侵害、如何回应知识产权问题、如何保护弱势群体、如何斟酌问责制度等。最终，学者建议稿共九章九十六条，主要内容包括一般原则、发展与促进、权益保护、安全义务、监督管理、特殊应用场景、国际合作、法律责任等，涵盖了当下和未来人工智能治理的主要问题，为未来我国人工智能立法和实践提供了宝贵的思路和方向。

《法治周末》：在建议稿起草过程中，法律学者是如何与人工智能相关技术专家沟通与合作的？

张凌寒：起草专家组成员在过去一年中辛勤工作、广泛征求意见，特邀国内人工智能治理领域的技术专家、法律专家、实务专家提出建议。在起草过程中，来自北京大学、清华大学、中国人民大学、中国人民公安大学、中国社会科学院、对外经济贸易大学、北京电子科技学院等二十余所全国高校的专家学者纷纷提出宝贵意见，专家组成员也与我国人工智能产业的重点企业进行了深入沟通交流，了解业界紧迫的发展需求和对监管的期待。

本建议稿推出目的在于打造一个讨论的平台，推动产学研深入交流，凝聚共识。起草专家组期待更多的建议稿版本，也期待更多业界学界专家加入讨论，共同回应现实需求，为立法建言献策。

创新性地设置两项监管

《法治周末》：如何看待此建议稿与个人信息保护法、互联网信息服务深度合成管理规定、生成式人工智能服务管理暂行办法等法律法规的关联？相较于以往，此建议稿是否有创新之处？

张凌寒：个人信息保护法、互联网信息服务深度合成管理规定、生成式人工智能服务管理暂行办法等法律法规，凝结了我国在互联网治理与科技治理中累积的宝贵本土经验与本土法治理念，是中国人工智能立法的经验来源。在建议稿的起草中，专家组充分借鉴了既往法治实践中累积的应对不确定性技术发展、社会关系和风险的经验，判断当下的人工智能技术发展阶段和未来走向，进行回应性和前瞻性立法。

建议稿总结和发展了我国过往的网络治理的理念和制度经验。首先，我国在以往的网络立法中采用了“小、快、灵”的立法思路，这一思路表面上是通过位阶较低的规范来应对技术高度发展带来的不确定性，实则是法律制度不断根据其调整对象进行定位并作出回应。建议稿设置了动态分级分类监管制度，及时调整监管对象，适应人工智能产业发展。

其次，在具体制度上，建议稿吸收了目前我国法律制度中互联网治理领域的评估制度。通过安全风险评估，在事前到事中阶段激励人工智能开发者和提供者构建应对机制来预防、规避风险。

建议稿创新性地设置了关键人工智能监管和特殊应用领域人工智能监管。

关键人工智能是指包括应用于关键信息基础设施的人工智能，对个人的生命、自由、人格尊严等人身权益有重大影响的人工智能以及达到一定能力级别的基础模型等人工智能产品和应用。关键人工智能开发者和提供者需要在组织机构、风险评估、风险披露、安全应急处理等方面承担更重义务。

特殊应用领域的人工智能，则包括了国家机关、司法、新闻、医疗、社交、生物识别、自动驾驶、社会信用、通用人工智能等。特殊领域的人工智能则是根据不同的应用场景，分别遵守相应的监管原则，进行有针对性的安全义务加码。

此外，建议稿考虑到国际人工智能治理形势，设置了国际合作专章，在人工智能安全风险全球化背景下，重视人工智能治理的国际合作与交流，积极参与制定人工智能有关国际规则、标准，推动构建开放、公正、有效的全球人工智能治理机制。

《法治周末》：相比去年中国社科院发布的《人工智能法示范法1.0（专家建议稿）》，这部建议稿有何不同？

张凌寒：相比于《人工智能法示范法1.0（专家建议稿）》，此次建议稿没有采用负面清单制度，而是设置了关键人工智能和特殊应用领域人工智能监管制度。

相比于负面清单制度的事前许可审批制度，关键人工智能没有设置事前准入门槛，仅在接收到被主管部门认定为关键人工智能的通知后，才需履行监管平台备案等义务。关键人工智能的义务加重主要包括，开发者和提供者需要建立风险披露机制和安全事件应急处置机制，以此确保关键人工智能发展的安全性。

特殊领域的人工智能则是根据不同的应用场景，分别进行有针对性的安全义务加码。建议稿希望通过这一制度设计，为产业创新减轻事前的准入负担，在确保安全需求的同时，鼓励我国企业积极参与人工智能开发和创新，促进我国人工智能产业健康发展。

主要以本土化为导向

《法治周末》：就在建议稿发布前不久，欧盟发布的《人工智能法案》引发全球关注。在起草过程中，是否借鉴了其他国家和地区的相关法案或立法？

张凌寒：首先需要强调的是，我国的人工智能产业在治理需求和国际生态位上，都与其他国家和地区有很大的不同。互联网领域的法律移植，无论是基于对产业发展的法域还是对制度设计占据优势法域的学习，都一直保持有扎根本土的理性。

人工智能领域的法律借鉴必须考虑中国产业独特的国际生态位，谨慎移植学习国外的人工智能治理制度，避免法律与产业实践的悬隔。因此，建议稿的起草主要以本土化为导向。

美国作为全球人工智能产业的领跑者，其人工智能治理完全被产业发展所主导，目前没有任何一个大模型能够达到白宫行政令中的浮动算力指标。换言之，美国的监管完全是一种“口号式”监管，通过设置高门槛的监管指标，在事实层面放松了对现有大模型的监管。

欧盟作为人工智能的重要市场，其自身人工智能产业相对薄弱，《人工智能法案》延续以往“产业跟随、规则引领”的路径，通过单方面制定法律制度，对全球商业环境和规则体系形成“布鲁塞尔效应”，进而获取谈判资本和再次利益分配。例如，设置若干项禁用人工智能，对高风险人工智能设置基本权利影响评估、公共数据库登记等义务要求，对未来中美大型企业进入欧盟企业设置较高准入门槛。但同时看到，欧盟也面临部分成员国人工智能产业发展强烈诉求，例如德、法、意曾发布联合文件，要求采用“自愿承诺、暂不制裁”的方式为大模型开发“松绑”，以期对本国正处于发展之中的人工智能公司予以保护。

而我国的人工智能产业属于“领先的追赶者”，一方面需要大力支持产业发展，另一方面又有切实的安全需求。因此，建议稿设置了发展与促进、权益保护、安全义务、监督管理等章节，在尽可能促进产业发展的同时，坚守安全底线。建议稿结合我国实际，对关键人工智能，如应用于关键信息基础设施的人工智能和对个人的生命、自由、人格尊严等人身权益有重大影响的人工智能等，以及司法、新闻、医疗等特殊领域的人工智能，采取更高程度的监管措施。

总体来说，建议稿立足于我国本土，其充分考虑了我国产业发展实际和安全监管需求，并结合我国在网络和人工智能法治建设中已有的监管理念和经验，是人工智能治理领域中国智慧与中国方案的集中体现。

《法治周末》：具体而言，本次建议稿有何特点？

张凌寒：本次建议稿最大的亮点是从各项制度设计上促进产业发展。在目前全球激烈竞争的格局下，“不发展是最大的不安全”。我国人工智能产业“领先的追赶者”的独特国际生态位要求我们在技术和产业的国际竞争中必须以发展为制度设计的主要目标，安全问题也需要通过技术发展来回应和解决。因此，建议稿中设立“促进与发展”专章，也在监督管理、责任设置等方面对此予以充分考虑，减轻人工智能产品和服务提供者的义务，对产业创新予以一定的容错空间和责任豁免。

不同于以往的信息技术立法活动，建议稿“促进与发展”专章更加关注产业实践发展问题，创新性地提出围绕数据、算力、算法三个领域推动产业发展，直接从国内人工智能企业的发展需求切入，提出应当提供更大范围的高质量数据资源和算力资源支撑。此外，建议稿还设置了人工智能保险制度，以政策鼓励性条款鼓励保险市场的介入，在既有的网络安全保险、第三方责任险等传统商业险种基础上，探索适合于人工智能产业的保险产品。面对用户不当使用可能导致的虚假信息泛滥等风险，该章节还以整体性风险治理的理念提出公民数字素养的提升，从用户端预防和控制人工智能技术安全风险。这些产业创新发展的具体制度建构起围绕法律、技术、市场等多个维度的治理体系，真正实现技术创新安全与权益保护的统筹兼顾。

针对人工智能跨部门、跨行业的发展特点，建议稿提出建立人工智能监管统筹协调机制，在研究制定战略规划、建立风险管控工作机制、制定关键人工智能等具体规则、建立社会化服务体系等方面发挥总体协调作用；相关人工智能主管部门在各自职责范围内负责制定本领域监管规范、宣传指导等工作，制定本行业本领域监管规范，组织风险评测等活动。

建议稿还结合人工智能产业现状和未来发展情况，建立了综合问责体系。尤其是在民事责任部分，建议稿根据一般人工智能与关键人工智能对提供者责任进行区分，前者采取过错归责，后者适用过错推定责任；使用者的民事责任则明确适用过错责任。同时，建议稿还充分考虑了现有的法律制度，使得问责体系与产品责任、避风港规则、惩罚性赔偿、公益诉讼等制度相协调。

此外，建议稿充分考虑了企业的合规负担并设置免责事由，一方面明确了利用基础模型以及开源基础模型从事人工智能研发、提供、使用活动的，由衍生利用一方承担法律责任，同时基础模型提供者需要负担适当的注意义务；另一方面规定了合规免责条款，明确开发者、提供者、使用者在合规基础可以相应豁免行政和刑事责任。

《法治周末》：人工智能技术进步可谓日新月异，如何看待建议稿对此的适应性？

张凌寒：建议稿充分认识到人工智能产业处于高速发展中的这一特点，设计了一系列能够动态适应技术发展的制度，以此应对技术进步带来的不确定性和不可预见性。

在起草过程中，建议稿从底层逻辑上高度重视对未来发展的适应性，力求以良好的制度设计应对调整对象、社会关系以及相应风险的高度不确定性。首先，针对调整对象，建议稿设置了动态的人工智能分级分类监管机制，通过区分关键人工智能和一般人工智能，避免了“一刀切”的不合理监管。根据人工智能在经济社会发展中的重要程度，以及对国家安全、公共利益或者个人、组织的合法权益可能造成危害的程度，对其进行分级分类监督管理，依法对关键人工智能实施特殊监管。在分级分类监管时，由人工智能主管部门根据技术发展、行业领域、应用场景等因素进行评估并动态调整，及时更新人工智能分级分类指南，适应技术发展进步，实现敏捷治理。

其二，建议稿在体系设计上为人工智能治理预留了充分的接口。例如，针对备受关注的知识产权问题，考虑到目前相关理论与实践仍然存在很大争议，建议稿并没有试图全面规范人工智能行业的知识产权问题，而是为著作权法和专利法的调整留出了充分的适应空间。这使得我国未来的人工智能法治体系建设更具灵活性和发展空间。

通过上述制度设计，我认为建议稿事实上成为了一部能够灵活适应技术发展进步的敏捷治理法案，为我国人工智能的立法与实施提供了宝贵的治理思路。

文章来源：探索人工智能治理的中国路径专访人工智能法（学者建议稿）起草组牵头专家张凌寒教授_法治周末官网 (legalweekly.cn)