致命自主武器系统

什么是致命性自主武器系统?

目前,致命性自主武器系统(LAWS)尚无共同认可的定义。
关于致命性自主武器系统政府专家组内提出的这些系统的特征概述,请参阅此处:CCW/GGE.1/2023/CRP.1(截至2023年)

致命性自主武器系统是否存在?

各国正在越来越多地开发和部署具有自主功能的武器。然而,某些包含基本自主功能的系统已经存在了几十年。

最常见的具有自主功能的武器类型是防御系统。其中包括反车辆地雷和杀伤人员地雷等系统,这些系统一旦启动,就会根据触发机制自主运行。

采用日益尖端技术的较新系统包括导弹防御系统和哨兵系统,可自主探测和锁定目标并发出警告。其他例子还包括闲逛弹药(也称自杀式、神风特攻队或爆炸式无人机),这种无人机内置弹头(弹药),在预定区域内等待(闲逛),直到地面操作人员或机载自动传感器发现目标,然后攻击目标。这些系统最初出现于 20 世纪 80 年代,但后来其系统功能变得越来越复杂,除其他外,可实现更远的射程、更重的有效载荷,并有可能纳入人工智能(AI)技术。

具有自主能力的陆地和海上飞行器也越来越多地得到开发。这些系统主要用于侦察和信息收集,但也可能具有攻击能力。

人工智能 (AI) 在致命性自主武器系统中的作用是什么?

自主武器系统需要 "自主性",以便在没有人类行为者指挥或输入的情况下执行其功能。人工智能并不是自主武器系统发挥作用的先决条件,但人工智能一旦融入其中,就能进一步增强此类系统的能力。换句话说,并非所有的自主武器系统都需要人工智能来执行特定任务。自主能力可以通过基于特定参数的预定义任务或行动序列来提供,也可以通过使用人工智能工具从数据中推导出行为,从而使系统能够根据不断变化的情况独立做出决策或调整行为。人工智能还可以在由人类直接操作的系统中发挥辅助作用。例如,由人类操作的计算机视觉系统可以利用人工智能来识别视野中值得注意的物体并提请注意,而不具备以任何方式自主应对这些物体的能力。

联合国对 LAWS 的立场是什么?

自 2018 年以来,联合国秘书长安东尼奥-古特雷斯一直认为致命自主武器系统在政治上不可接受,在道义上令人厌恶,并呼吁根据国际法禁止这些系统。秘书长在《2023 年和平新议程》中重申了这一呼吁,建议各国在 2026 年之前缔结一项具有法律约束力的文书,禁止在没有人类控制或监督的情况下运作且无法按照国际人道主义法使用的致命自主武器系统,并对所有其他类型的自主武器系统进行监管。他指出,在缺乏具体多边法规的情况下,这些系统的设计、开发和使用引起了人道主义、法律、安全和道德方面的关切,并对人权和基本自由构成直接威胁。

联合国独立专家也对致命自主武器系统表示关切。联合国法外处决、即决处决或任意处决问题特别报告员克里斯托夫-海恩斯在2013年向人权理事会提交的一份报告中首先对致命性自主武器系统发出了警告。联合国反恐和人权问题特别报告员菲奥努拉-尼-奥拉因(Fionnuala Ní Aoláin)在2023年向人权理事会提交的一份报告中,与秘书长一道呼吁全球禁止致命性自主武器系统。

缔约方关于致命性自主武器系统领域新兴技术的政府专家小组(关于致命性自主武器系统的政府专家小组)

有关致命性自主武器系统政府专家小组会议的信息,请访问裁军事务厅会议网站