作者|郑智航

责编|薛应军

正文共3143个字，预计阅读需9分钟▼

党的二十届四中全会通过的《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》（以下简称《建议》）提出，“加快人工智能等数智技术创新，突破基础理论和核心技术，强化算力、算法、数据等高效供给。”全会立足新的时代方位和发展阶段，以深远的战略眼光与系统的全局谋划，开启了未来五年经济社会发展的新航程。这将成为加快人工智能等数智技术创新、促进实体经济和数字经济深度融合发展的重要驱动力。实践中，人工智能越来越多地运用于工业、医疗、家居、零售、交通、公共安全、环境保护等诸多领域。然而，人工智能等数智技术是一把“双刃剑”，它在成为推动社会进步强大引擎的同时，也潜藏着滥用或失控风险，可能给社会带来安全、伦理、舆情等诸多方面的问题。对此，习近平总书记强调，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。《建议》要求，“加强人工智能治理，完善相关法律法规、政策制度、应用规范、伦理准则”。因此，亟须加强人工智能立法促进数智技术创新发展。

人工智能可能带来的问题

第一，人工智能可能带来的安全问题。所谓人工智能，是指通过机器学习、深度学习、自然语言处理等技术，模拟人类智能，从数据中识别规律和特征，并进行一定程度的自动化决策。实践中，人工智能带来的安全风险主要体现在以下方面：一是处理数据资源过程中的安全风险。数据是人工智能的基础，它既是人工智能和训练人工智能的“养料”，又是人工智能处理问题和作出决策的依据。然而，人工智能在处理数据时可能存在数据泄露、侵犯隐私、植入恶意信息等问题。二是人工智能系统错误带来的安全风险。人工智能主要包括传感系统、算法系统和执行系统等。任何一个系统出现问题都可能偏离预设目标，输出不可预期的结果，引发系统失控风险。三是关键基础设施的安全问题。人工智能广泛运用于金融、交通、电网、水利等关键领域。一旦人工智能系统出现问题，就可能引发系统性安全风险。

第二，人工智能可能带来的伦理问题。受算法主导，人工智能主要遵循概率统计逻辑和效率逻辑。其在运行过程中易出现关联歧视、特征选择歧视等问题。这些歧视具有较强的隐蔽性，难以有效追责和纠正。同时，算法在很大程度上是一个“黑箱子”，普通人很难知道算法决策如何产生，也不知道算法决策所依据的具体数据和遵循的决策原则。“算法黑箱”的存在使得传统透明性原则和告知同意原则对人工智能的规范作用愈来愈小，使得人容易成为被计算的对象。除此之外，人工智能对于不同主体的赋能也有区别，如弱势群体可能不仅缺乏访问人工智能技术和互联网的必要设备、网络和资金，而且缺乏使用和理解人工智能所需要的数字素养和技能。这又反过来进一步加剧了弱势群体的弱势地位。

第三，人工智能可能带来的舆情问题。人工智能在推动社会发展的同时，对相关部门的舆情处置与网络治理工作带来巨大挑战。一方面，它通过大型语言模型和深度伪造技术，可以快速生成以假乱真的文字、图片和视频，凭空捏造虚假新闻。犯罪分子可能通过人工智能操纵社交机器人网络、伪装信息源等手段进行病毒式传播，并动态优化内容，混淆视听、误导公众。另一方面，人工智能通过大数据分析，可根据用户的兴趣特点、行为动态精准投放信息，这成为一种高效且隐蔽的舆论操控工具。它通过对用户海量数据的算法解析，为其勾勒出精细的“心理画像”，并据此构建高度个性化的“信息茧房”，从而为其“投喂”和灌输某些片面或极端观点，冲击主流意识形态。

第四，人工智能可能带来的就业替代问题。人工智能高度智能化释放出巨大的生产力，越来越多原本由人所从事的劳动和工作被其接管，从而出现就业替代问题。这种替代呈现出速度快、规模大、领域广、全球性等特点。这会大大减少人类的工作岗位，而且被替代的劳动者很难通过短期培训重新上岗。人工智能带来的“技术鸿沟”也可能导致大量人群陷入永久性失业状态，带来大量社会保障难题和社会治理问题。

人工智能立法应坚持的基本原则

面对人工智能带来的一系列问题，我们应当加强人工智能治理，尽快制定完善相关法律法规。这既关系到国家安全保障和产业发展，又涉及新一轮技术革命背景下的全球制度竞争和人工智能全球治理中的话语权和影响力。具体来讲，人工智能立法应坚持以下基本原则：

第一，坚持发展和安全统筹原则。统筹高质量发展和高水平安全，是以习近平同志为核心的党中央站在“两个一百年”奋斗目标历史交汇点，立足新发展阶段国际国内新形势新情况所作出的重大战略部署，是中国共产党治国理政的一个重大原则。党的二十届四中全会进一步指出，“十五五”时期经济社会发展必须坚持统筹发展和安全。人工智能立法也应坚持这一原则。人工智能发展具有典型的复杂性、快速变化和不可预测性等特点。立法时，必须既要看到人工智能发展的重要性，又要看到人工智能潜在的风险性。应当推动人工智能安全可靠可控发展，反对追求绝对安全和将人工智能安全泛化，坚持在法律治理稳定性与人工智能治理灵活性之间保持平衡。

第二，坚持产业促进与底线管控并重原则。作为引领未来的基础性、战略性技术，人工智能远超任何其他单一技术的战略价值已经在实践中显现，并且深刻改变着人类生产生活方式。人工智能立法的定位应当是大力推动人工智能技术与产业创新发展，营造开放包容、充满活力的制度环境；系统规范人工智能技术的研发与应用行为，构建敏捷协同、科学审慎的治理体系；切实维护个人的合法权益与人格尊严，筑牢以人为本、公平正义的法治屏障；坚决确保国家安全与社会稳定，防范化解各类潜在风险与挑战。因此，人工智能立法既是人工智能产业的促进法，又是公民合法权益的保障法。人工智能立法既要确立清晰的法律边界与规则，提供稳定的预期，扫清创新道路上的障碍，释放产业活力，又要树立底线管控意识，通过建立清晰、可预期的负面清单和监管框架，将人工智能发展过程中的不确定性降至最低。

第三，坚持软法与硬法协同发展原则。人工智能是一种技术，具有不同的应用场景，应有不同的制度规则，且不同规则之间的规范强度应有所区别。因此，我国在加强人工智能立法时，应当坚持软法与硬法相结合原则，除进一步完善国家层面的《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律外，还需要加快制定相关地方性和行业性法规、政策制度、标准规范、伦理准则等。通过倡议、指南、标准、准则等软法方式弥补国家法律在应对人工智能快速变化时的滞后性。

第四，坚持国家治理与全球治理耦合原则。人工智能与互联网之间存在紧密关系。互联网增强了人工智能自我学习和进化能力，人工智能增强了互联网的创新应用场景。人工智能与互联网的深度融合使得其发展具有跨国性。因此，进行人工智能立法时，既需要加强国内层面的人工智能治理，又要考虑全球人工智能治理问题，并将国家治理与全球治理进行耦合。《建议》提出，“维护大国关系总体稳定，深化同发展中国家团结合作，落实全球发展倡议、全球安全倡议、全球文明倡议、全球治理倡议，引领国际秩序朝着更加公正合理的方向发展。”这自然也涉及人工智能的发展与安全问题。因此，我国人工智能立法应在充分考虑中国国情和国家治理需要的同时，呼应全球范围内对于人工智能可信、安全、可控的共同关切，并在具体措施上借鉴其他国家先进法律制度和经验。总体来看，我国人工智能立法应积极回应全球人工智能治理过程中的关键问题和重要问题，为国际人工智能治理标准与规则的制定贡献中国智慧、中国方案。

本文为国家社会科学基金重大项目“当代中国数字法学基本范畴体系研究”（项目编号：23&ZD153）的阶段性研究成果。

（作者为中国法学会法理学研究会秘书长、山东大学法学院教授）

特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.