活动日期2025 年 10 月 16 日

军事领域负责任的人工智能全球委员会(GC REAIM)于 2025 年 9 月 24 日发布了其报告《设计负责任的人工智能在军事领域的风险、机遇和治理战略指导报告》(Responsible by Design Strategic Guidance Report on the Risks, Opportunities and Governance of Artificial Intelligence in the Military Domain)。
在第一委员会会外活动期间,荷兰王国、军事领域负责任的人工智能全球委员会(GC)成员及其秘书处(海牙战略研究中心)与从事人工智能交叉领域工作的各方和各界人士进行了对话。
这次会外活动标志着委员会跨学科和跨区域专家历时18个月的工作达到了顶峰,旨在确定切实可行的方案,确保在整个生命周期负责任地开发和使用人工智能。高级官员、委员和专家汇聚一堂,讨论报告的结论和建议,分享初步思考和问题,并着眼于下一步的治理工作。
裁军事务高级代表中满泉、荷兰王国常驻日内瓦裁军谈判会议代表罗伯特-登博 斯大使和大韩民国常驻日内瓦裁军谈判会议代表宋时镇大使在活动中致开幕词。致开幕词后,全球理事会REAIM项目协调员索菲亚-罗曼斯基简要介绍了《战略指导报告》。随后,在会外活动中与理事会另外两名成员进行了讨论和初步思考:Michael Horowitz 博士(理事会 REAIM 专员)和 Giacomo Persi Paoli 博士(理事会 REAIM 专家)。
高级代表强调负责任的人工智能治理的紧迫性和重要性
Izumi Nakamitsu 致开幕词,强调了国际社会对人工智能关注的快速发展。她指出,委员会的组成代表了跨区域和多样化的专业知识,可以作为将政策选择与研究专业知识相结合的典范。
高级代表指出,报告的五大贡献与联合国大会关于军事领域人工智能的讨论直接相关。首先,报告包括实用的内容,如指导原则和对各国的生命周期指导。其次,报告深入浅出地介绍了人工智能的技术特点,缩小了技术界与政策界之间的差距。第三,报告提出了 "设计责任 "方法,将伦理和法律合规纳入整个人工智能生命周期。第四,报告提出了关键的警戒线和红线,包括禁止人工智能自主选择和攻击目标,防止人工智能融入核决策。第五,报告建议就军事领域负责任的人工智能问题开展长期和包容性的多边对话,这与秘书长在其报告(A/80/78)中提出的类似建议不谋而合。
强调人类对核武器的控制
高级代表特别注意到委员们呼吁制定一项具有法律约束力的文书,以确保 "授权使用核武器的决定始终处于人的控制之下"。她强调,秘书长在这一问题上的态度是明确的:在消除核武器之前,任何使用核武器的决定都必须由人做出。她鼓励各国利用一切可利用的论坛,包括大会和《不扩散核武器条约》(NPT)审议进程,解决人工智能与核武器惊人的潜在融合问题。"她指出:"处理人工智能政策的人和负责核武器相关政策的人都必须认识到两者之间联系的内在风险。
报告结构和内容
高级科学委员会项目协调员索菲亚-罗曼斯基介绍了报告的结构和内容。报告以'负责任的设计'原则为指导,探讨了军事领域与人工智能之间的内在复杂性,研究了与人工智能集成相关的风险和机遇,并提供了贯穿人工智能系统生命周期的指导原则和核心建议,为国家、军队和行业提供了具体指导。
专家观点
全球理事会REAIM专员、宾夕法尼亚大学佩里世界之家主任迈克尔-霍洛维茨强调,有必要就人类对核武器的控制制定一份具有法律约束力的文书,并指出该报告弥合了有关人工智能安全的民事对话与有关人工智能应用的军事对话之间的差距,提供了所有国家都应支持的实用建议。
全球协调理事会REAIM专家、联合国裁军研究所安全与技术项目负责人Giacomo Persi Paoli强调,按设计承担责任发出了正确的信息:这是一个深思熟虑的选择,不能是偶然的。他还指出,报告建议各国在国家层面采取大量行动来降低风险。他欢迎报告对军事领域人工智能的概念和范围进行了澄清。
行动呼吁
荷兰裁军大使罗伯特-登博斯指出,荷兰王国提出了关于军事领域的人工智能的联大后续决议草案(A/C.1/80/L.46),并请各方就报告提出反馈意见。大韩民国常驻代表宋时镇大使强调,必须确保创新以责任为基础。他指出,技术发展的速度超过了政策框架所能处理的速度,因此需要采取循序渐进、多方利益攸关方参与的方法。
中满女士鼓励委员会优先在国家和多边层面落实其建议,并敦促会员国考虑可在联合国论坛上推进哪些建议。
"她指出:"本报告奠定了坚实的基础--但其真正价值将由其所激励的行动来衡量。
报告全文可在海牙战略研究中心主办的海牙全球理事会 REAIM 网站上查阅。