0
用微信扫码二维码
分享至好友和朋友圈
人工智能军控,延续了传统核军控、常规武器军控的框架,以装备、算法、数据作为管控对象,以条约、核查、制裁作为实施手段。但这套移植而来的理论体系,面对人机环境系统智能的新形态,暴露出多处难以回避的理论盲区。
第一,传统军控以实体武器为核心,难以界定智能体的边界。传统军备管控对象是导弹、战机这类可清点、封存、销毁的物理实体。而AI作战智能体、数字人、分布式自主集群,软硬件可远程迭代、跨节点迁移,软件模型可以复制、隐匿、快速升级。武器不再是固定硬件,而是动态演化的能力。军控理论里“什么算受管控武器”这一基础定义开始失效,无法区分普通AI模型与具备杀伤能力的自主武器;算法可以在云端静默更新,核查实体装备无法获知模型当下的作战能力,实体核查思路遭遇根本性困境。
第二,难以区分“人的意图”与“机器涌现行为”,责任溯源理论失效。传统战争法与军控规则预设:作战行动的发起、杀伤决策的主体是人,责任可追溯到指挥官与国家。在人机混合作战体系中,人机协同、有人-无人跨界融合,AI智能体可能出现训练数据之外的涌现行为,出现并非设计者预先设定的作战动作。一旦发生误判、意外杀伤,很难厘清责任链条:是算法设计者、模型使用者,还是系统本身的问题?现有军控理论没有适配人机耦合场景下的责任划分框架,无法应对机器自主行为带来的追责难题,这也是致命自主武器系统(LAWS)谈判陷入僵局的深层理论根源。
第三,军控博弈只关注对抗双方,忽略环境要素带来的不确定性。现有军控理论大多是双边或多边主体博弈模型,将战场环境看作外部不变条件。而人机环境系统智能中,环境是系统内生变量:电磁干扰、气象地形、舆情信息、社会认知都会实时改变人机体系的能力。同样一套AI作战系统,在不同环境下表现天差地别。传统军控只评估装备本身性能,不纳入环境变量,无法评估真实作战效能;环境带来的非计划涌现效应,无法通过静态模型推演、兵棋仿真完全预判,造成军备评估体系的巨大盲区。
第四,静态条约范式,跟不上AI技术迭代的速度。传统军控条约,谈判周期漫长,条款固化,管控的是相对稳定的武器技术。AI模型迭代以月甚至以周为单位,递归自我改进(RSI)的自动化研发,会持续改变系统能力。条约刚达成,相关技术形态就已经迭代更新。静态法律文本,无法约束动态持续演化的智能能力;同时,AI技术军民两用属性极强,基础大模型、仿真工具既可用于民用科研,也可快速改造用于军事,军民边界模糊,传统“军民分割”的管控思路不再适用。
第五,重“抑制军备”,轻文明层面的价值与信任博弈。现有AI军控理论,大多聚焦技术限制、军备限制、危机预防,缺少对人机之间、人与人之间信任关系、价值体系的考量。未来智能战争不止是装备对抗,更是认知博弈。西方路线偏向超级智能(SI),追求机器替代人的决策;融合智能(FI)坚持人机协同,守住人类价值底线。不同文明对智能、战争、伦理的理解存在根本差异,单一西式军控框架难以兼容多元价值。同时,诡、诈、诱这类认知对抗手段,可以不依靠杀伤性硬件,仅凭信息篡改、认知欺骗就达成作战目的,这类非物理杀伤手段,是当前AI军控几乎尚未触及的盲区。
第六,过度聚焦“防止AI失控”,缺少正向塑造人机协同体系的理论。当前国际讨论大多局限于风险防控,思考如何限制、禁止危险自主武器。但智能时代军备竞争不只是“管住危险武器”,还包括如何构建以人为本、可控可信的人机环境系统,把人道约束嵌入智能作战全流程。现有军控理论偏向被动防御式管控,缺少一套主动塑造人机协同、保持人类最终决策权的建设性理论。
综上,人工智能军控不能简单照搬核武器、常规武器军控的旧范式。想要填补这些理论盲区,需要跳出单纯“管控装备”的思路,引入人机环境系统智能的视角,兼顾实体、算法、环境、人、价值多维度,建立动态、多元、兼顾安全与发展的新型智能军备治理体系。
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
下载网易新闻客户端
