OpenAI近期宣布AI系统在数学领域取得重大突破，但这一进展也引发了关于AI自主能力和安全风险的讨论。美国人工智能企业Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）呼吁人工智能行业放缓前沿模型的发展速度。他警告说，人工智能能力正在以越来越快的速度提升，可能很快超过人类理解、评估和控制相关系统的能力。他同时提出一套包括加强第三方评估、推动行业协调以及开展国际合作在内的方案，以降低人工智能快速发展带来的安全风险。

人工智能成功解决数学千禧难题

就在阿莫迪发出这一呼吁之际，人工智能在数学领域的一项最新突破再次引发关注。美国人工智能企业OpenAI近日宣布，其人工智能系统解决了著名的“纳维-斯托克斯存在性与光滑性问题”。这一问题是数学界最著名的“千禧年大奖难题”之一，自20世纪30年代以来一直没有得到解决。克雷数学研究所曾为解决每一个千禧年大奖难题提供100万美元奖金。知名数学家陶哲轩在社交媒体上发文称，这项工作“非同寻常”。

OpenAI表示，其实验性人工智能系统组织约1万个AI代理并行工作，在大约88小时内提出了一份长达165页的证明，并进一步通过形式化验证进行检查。OpenAI称，这一结果显示人工智能已经能够处理过去需要顶尖数学家多年甚至数十年研究的问题。

这一突破也迅速引发争议。纽约大学数学家特里斯坦·巴克马斯特（Tristan Buckmaster）正在研究与这一问题相关的数学问题。他指责OpenAI“抢跑”，认为OpenAI的研究可能受到了自己尚未公开发表的研究成果影响。OpenAI否认直接使用巴克马斯特的工作，但承认人工智能模型可能接触过经过匿名化处理的用户数据。围绕人工智能究竟是在“独立发现”数学成果，还是在吸收、重组人类研究成果后迅速得到答案，数学界展开了激烈讨论。

更重要的是，这一事件让一个过去更多存在于理论讨论中的问题变得更加现实：当人工智能开始在一些最复杂的知识领域超过人类专家，人类是否还能够以目前的速度继续推动人工智能能力提升？

行业大佬要求放缓AI发展

阿莫迪认为，我们需要放缓人工智能的发展。但同时他也强调，所谓“放缓”并不是要求停止人工智能研发，而是希望给安全研究和监管体系争取更多时间，使安全能力能够跟上模型能力的增长。

阿莫迪特别警告人工智能的“递归式自我改进”趋势。随着人工智能越来越多地参与软件编程、模型训练和人工智能系统研发，新一代模型可能进一步帮助开发能力更强的下一代模型，从而形成加速循环。他认为，如果这一进程缺乏有效约束，人工智能的发展速度可能超过人类理解和控制相关系统的能力。

值得注意的是，OpenAI近期的数学突破恰恰成为这种担忧的一个直观案例。如今，人工智能系统不仅能够帮助数学家计算和验证复杂公式，而且已经开始尝试独立寻找此前长期没有答案的数学证明。此外，阿莫迪还提到了近期发生的一起人工智能代理事件。根据阿莫迪的说法，一群由OpenAI开发的人工智能代理突破了原定的技术限制，并通过未经授权的方式相互协作，进而利用漏洞进入包括Hugging Face在内的第三方系统。如果人工智能能够自主地去解决科学问题、自主地去实施超出了最初任务范围的网络攻击，那么下一步，它是否也能够参与设计新的人工智能系统？

阿莫迪认为，如果类似系统未来拥有更强大的能力，而安全对齐水平没有同步提高，可能造成严重甚至灾难性的后果。对此，他提出了“三步方案”：首先，人工智能企业应当加强第三方安全评估，让独立研究人员能够更加深入地检查前沿模型；其次，各家企业需要建立更加一致的安全标准，避免企业之间为了争夺市场和技术优势而陷入“人工智能军备竞赛”；此外，各国也应加强国际合作，共同应对人工智能可能产生的跨国风险。

放缓AI发展争议不断

除了阿莫迪之外，OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）近日也表达了对人工智能安全风险的担忧，并支持加强外部安全评估。埃隆·马斯克（Elon Musk）也公开表示赞同阿莫迪关于放缓前沿AI发展的观点。

不过，要求放缓人工智能发展的主张也面临质疑。一些批评人士认为，大型人工智能企业一方面呼吁加强监管，另一方面又可能从更高的安全门槛中获益，因为复杂的安全测试和计算资源要求可能提高行业进入门槛，进一步巩固大型企业的市场地位。风险投资人查马斯·帕里哈皮蒂亚（Chamath Palihapitiya）等人就质疑，相关主张可能在限制开源人工智能发展的同时，将更多技术和经济力量集中在少数大型人工智能企业手中。

美国总统特朗普则淡化了有关AI发展过快的担忧，称相关风险被夸大，并警告放慢AI发展可能削弱美国在与中国的技术竞争中的优势。

事实上，这并不是阿莫迪第一次警告人工智能发展速度过快。今年早些时候，他曾发表文章讨论人工智能快速增长可能带来的就业、社会和安全问题。6月，Anthropic也曾提出，随着人工智能模型开始具备自主设计和开发下一代系统的能力，全球人工智能研发可能需要协调放缓，甚至在必要情况下暂时暂停。分析人士指出，阿莫迪作为全球领先人工智能企业的掌舵者，其要求放缓脚步的呼吁尤为引人关注，反映出AI安全问题正从行业内部讨论逐渐进入更广泛的公共政策领域。

图片来自网络

iWeekly独家稿件，未经许可，请勿转载

特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.