2026年3月25日消息:

从“养龙虾”现象看人工智能应用的治理

最新高纬度讯息,请点击下图围观:

0

分享至

用微信扫码二维码

分享至好友和朋友圈

开春以来,人工智能领域刮起了一场破壁跨圈的“养龙虾”热潮。开源智能体“OpenClaw”,因其能协助用户处理文件管理等复杂任务而迅速走红。但热潮来得快,去得也快。相关话题“第一批养虾人已经开始卸载了”登上热搜,引发网友热议。

此类自治智能体的强执行能力在给人带来诸多便利的同时也给用户带来了严峻的安全挑战。以“OpenClaw”为例,它在运行时需要获取多个平台的账号权限,用以完成具体操作。如果权限设置不够清晰,就有可能导致账户资金异常转移、远程控制、工作文件被清空等实际安全事件。此外,自治智能体跨应用运行特征明显,任务执行涉及多方主体,增加了监管协调难度,若责任划分机制不清晰,出现数据滥用或异常调用时追责界定复杂。

针对这些潜在风险,部分学者指出,自治智能体技术正从“被动工具”向“自主实体”转型升级,这一发展态势带来了涵盖认知完整性、执行交互以及系统级协同等多个层次的安全风险。然而,现有的安全防护框架尚难以实现全面覆盖,因此,必须构建更为完善的多层次防护架构,以此实现智能体系统的可信可靠运行。

工信部提出了一系列具有指导性的建议,包括坚持最小权限原则,按需授予必要权限,并针对关键操作增设二次确认环节;谨慎使用技能插件,仅从官方渠道进行下载并严格审查代码;建立长效防护机制,定期修补漏洞、启用日志审计并密切关注安全预警。这些建议为技术的规范应用划定了具有可操作性的安全底线。

推动人工智能健康发展,关键在于兼顾创新和安全。“要把握人工智能发展趋势和规律,加紧制定完善相关法律法规、政策制度、应用规范、伦理准则,构建技术监测、风险预警、应急响应体系,确保人工智能安全、可靠、可控。”落实好这一重要要求,才能平衡技术发展与安全,推动人工智能更好造福社会。

而对于我们绝大多数普通人而言,在新技术面前,保持观察和学习的耐心,远比“抢先入场”险更为重要,无论技术如何发展,人才应该是工具最终的主人。这不仅是技术理性的选择,更是人文精神的坚守——当算法日益自主,人对价值的判断、对边界的守护、对责任的担当,才真正构成智能时代的“不可替代性”。(作者:杨咏霖)

声明:包含AI生成内容

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

/阅读下一篇/

返回网易首页
下载网易新闻客户端

返回顶部