支持人工智能从业人员应对重大风险--推出《人工智能促进国际和平与安全负责任创新手册
2025 年 8 月 5 日
在机器学习的突破、数据获取和硬件创新等因素的推动下，人工智能的进步正被应用于从药物发现到供应链管理的各个领域。然而，同样的进步也给国际和平与安全带来了真正的风险。
虽然其中一些风险源于人工智能用于军事目的的潜力，但即使是完全用于民用目的的人工智能开发也可能被重新用于恶意或有害的目的，从虚假信息宣传、网络攻击到恐怖主义行动，不一而足。技术本质上并不是中立的，在整个人工智能生命周期中所做的决定以及人工智能所推动的行动也必然会对国际和平与安全产生影响。
人工智能从业者可能很难预见到他们的工作会产生意想不到的负面影响，但鉴于他们在人工智能生命周期中所处的位置，他们特别适合帮助应对这些风险，并能在减轻风险方面发挥关键作用。 自 2023 年初以来，联合国裁军事务厅（UNODA）和斯德哥尔摩国际和平研究所（SIPRI）一直与世界各地的人工智能从业人员合作，包括学术界、民间社会和工业界的从业人员，以测试和开发可引入 STEM 教育的教育材料，并帮助未来的人工智能从业人员从源头上应对国际和平与安全的风险。
在这项工作的基础上，联合国裁军事务厅和斯德哥尔摩国际和平研究所于7月推出了《人工智能促进国际和平与安全负责任创新手册》，这是为寻求负责任创新的人工智能教育工作者和学生提供的宝贵资源。该手册旨在支持人工智能从业人员注意其工作如何对国际和平与安全产生下游影响，帮助减轻其工作可能带来的风险，并参与有关人工智能与国际和平与安全之间关系的讨论。该手册旨在供希望将相关材料纳入其课程的教育工作者以及个人读者使用。该手册是联合国裁军事务厅（UNODA）和斯德哥尔摩国际和平研究所（SIPRI）在欧洲联盟的慷慨支持下开展的 "促进负责任的人工智能创新以促进和平与安全"这一更广泛项目的成果之一。
让人工智能安全地造福人类--应对滥用民用人工智能给国际和平与安全带来的风险
2025 年 7 月 10 日
是否有可能从源头上解决滥用民用人工智能（AI）给国际和平与安全带来的风险？在国际电信联盟于日内瓦举办的人工智能公益年度峰会上，联合国裁军事务厅走上解决方案舞台，探讨这一问题。
民用人工智能界的许多人没有意识到，当今的人工智能创新可能会对国际和平与安全造成严重后果。然而，人工智能从业者本身可以在降低风险，特别是滥用民用人工智能产品的风险方面发挥关键作用，并在人工智能生命周期的早期就这样做。
查理-奥文克（联合国裁军事务厅）、朱尔斯-帕拉耶（斯德哥尔摩国际和平研究所）和薇薇安-曼莱（Talos Network）向 200 多名听众强调，变革需要从人工智能从业人员的教育开始，并从人工智能专家、教育工作者和学生的角度提出了所需的条件。在欧洲对外行动局的慷慨支持下，作为 "促进负责任的人工智能创新，促进和平与安全 "项目的一部分，斯德哥尔摩国际和平研究所和联合国裁军事务厅一直在与来自世界各地的人工智能教育工作者和学生合作，以应对这一挑战和其他挑战。
STEM 教育如何帮助未来的人工智能从业人员应对国际和平与安全面临的风险？民间人工智能专家在纽约举行会议
2025 年 5 月 10 日
2025年5月8日至9日，联合国裁军事务厅（UNODA）、斯德哥尔摩国际和平研究所（SIPRI）和纽约大学（NYU）在纽约大学坦登分校（NYU Tandon）和联合国总部举办了为期两天的讲习班，汇聚了顶尖的人工智能研究人员、教育工作者和学生，重点讨论人工智能领域负责任的创新，并为民用人工智能界--尤其是下一代人工智能从业人员--提供必要的知识和手段，以参与负责任的创新，帮助确保民用人工智能技术的和平应用。第一天探讨了将双重用途和其他风险意识纳入科学、技术、工程和数学课程的问题，并为与会者提供了一个分享人工智能教育最佳做法的平台。第二天与政策界人士进行了高级别对话，包括阿曼迪普-吉尔（副秘书长兼秘书长数字和新兴技术特使，ODET）、阿德吉-埃博（裁军事务高级代表办公室主任兼副代表）和玛丽扎-陈-巴尔韦德（联合国大会第一委员会主席）。此次研讨会得到了欧洲联盟的慷慨支持，是在 "促进负责任的人工智能创新，促进和平与安全 "项目下举办的。
让民用人工智能界参与进来，帮助防止滥用人工智能技术
2025 年 5 月 8 日
民用人工智能界如何帮助防止滥用人工智能技术？2025年5月7日，联合国裁军事务厅、斯德哥尔摩国际和平研究所、纽约大学负责任的人工智能中心和纽约大学机器人与嵌入式智能中心汇聚了一批国际人工智能从业人员、学者、会员国代表等，就降低民用人工智能滥用风险展开了一场声势浩大的讨论。此次活动的特色是对纽约大学机器人与嵌入式智能中心进行互动式参观，随后是一个活跃的小组讨论和公开讨论，专家们就负责任的创新、双重用途挑战以及教育和国际合作在降低风险过程中的作用分享了自己的见解。本次活动是 "促进负责任的人工智能创新，促进和平与安全 "项目的一部分，该项目得到了欧洲联盟的慷慨捐助。
联合国裁军事务厅、斯德哥尔摩国际和平研究所（SIPRI）和欧盟在联合国大会第一委员会会外活动中牵头开展负责任的人工智能对话
2024 年 11 月 8 日
2024 年 10 月 18 日
10月18日，联合国裁军事务厅（UNODA）与斯德哥尔摩国际和平研究所（SIPRI）和欧洲联盟合作，主办了一次联合国大会第一委员会会外活动，重点关注人工智能（AI）促进和平与安全方面负责任的创新。这次活动的主题是 "负责任的人工智能促进和平与安全"：迎接应对滥用民用人工智能所带来风险的时刻"，来自学术界、民间社会、工业界和国际组织的 60 多名不同利益攸关方参加了此次活动。
开幕致辞：
欧盟驻日内瓦代表团裁军和不扩散政治科科长 Marketa Homolkova 女士和联合国裁军事务厅区域裁军、信息和外联处处长 Radha Day 女士宣布活动开幕。霍莫尔科娃女士讨论了欧盟对裁军项目的支持，指出有必要使军备控制工作适应新兴技术以及在化学武器和生物武器等领域滥用人工智能的日益严重的威胁。戴女士强调，人工智能是裁军讨论中的一个 "热点领域"，指出需要多边参与和专门知识，以应对人工智能对国际和平与安全构成的挑战。
主要讨论：
小组探讨了主持人联合国裁军事务厅政治事务干事 Charles Ovink 先生提出的三个核心问题：民用人工智能对国际和平与安全的影响、当前的治理努力以及加强各治理结构之间联系的方法。
SIPRI人工智能治理项目主任Vincent Boulanin先生概述了三个风险类别：人工智能设计失误造成的意外风险、滥用人工智能造成的政治风险以及人工智能融入军用机器人等造成的物理风险。他强调，欧盟的《人工智能法》和加利福尼亚州的《人工智能透明度法》是近期监管取得重大进展的例子。布兰宁先生还提到，联合国秘书长的人工智能高级别咨询机构是监督民用人工智能应用影响的一个重要发展，包括对国际和平与安全的影响。
来自私营部门的前沿模式论坛执行主任 Chris Meserole 先生讨论了从早期技术进步中吸取的经验教训，并强调公司已准备好参与负责任的人工智能实践。他强调了最近美国政府与主要人工智能公司的合作，以促进人工智能发展中的安全、安保和信任原则。Meserole 先生认为，这一承诺表明业界认识到需要监管限制，以确保人工智能的安全发展。
纽约大学坦登工程学院和数据科学中心副教授 Julia Stoyanovich 女士谈到了自动人工智能安全所面临的挑战。她认为，必须开展跨部门对话，以确立人工智能发展的共同价值观。斯托扬诺维奇指出，人工智能教育的责任在于开发者和政策制定者，平衡的对话对于确保人工智能系统的安全和伦理考虑至关重要。
约翰-霍普金斯大学应用物理实验室高级分析师 Kerstin Vignard 女士批评了 "创新 "本质上是脆弱的或有益的这一观点，她敦促人工智能的发展要以强有力的监管标准为指导，创新必须符合一套共同的道德价值观，特别是在军事应用方面。维纳尔指出，许多研究人员没有意识到政府对合作的兴趣，并强调政策制定者需要有效地宣传人工智能的挑战。
关键主题和成果：
在回答有关改善利益相关者合作的问题时，小组成员一致认为有必要对人工智能扫盲进行监管和采取多方位的方法。斯托扬诺维奇女士强调了教育和前瞻性视角对人工智能影响的重要性，而梅塞洛先生则强调，人工智能社区和最终用户应共同理解监管扫盲。Vignard 女士强调了吸引专业技术人才以支持政策努力和在国际层面宣传人工智能复杂性的重要性。
活动最后呼吁各利益攸关方继续开展对话与合作，确保人工智能创新支持和平与安全，加强联合国对负责任的人工智能治理的承诺。
本次会外活动是 "促进负责任的人工智能创新以实现和平与安全"项目的一部分，该项目得到了欧洲联盟的慷慨资助。欲了解更多信息，请联系政治事务干事 Charles Ovink 先生，电子邮件：charles.ovink@un.org。
征集学生：关于负责任的人工智能促进和平与安全的教育讲习班
联合国裁军事务厅(UNODA)和斯德哥尔摩国际和平研究所(SIPRI)
联合国裁军事务厅（UNODA）和斯德哥尔摩国际和平研究所（SIPRI
参加为期两天的 "负责任的人工智能促进和平与安全 "教育讲习班。
和安全。
时间和地点2024 年 11 月 20-21 日，布鲁塞尔 VUB 人工智能体验中心
谁可以申请？隶属于欧洲、非洲、中南美洲、中东、大洋洲和亚洲大学的人工智能、机器人以及科学、技术、工程和数学相关学科（如计算机科学、数据科学、机械工程）的博士生和硕士生。
如何：非本地学生的差旅费和住宿费将由 "促进负责任的人工智能创新以实现和平与安全 "倡议承担。
正如人工智能（AI）对人们日常生活的影响一样，它对国际和平与安全的影响也包括广泛而重大的机遇和挑战。人工智能有助于实现联合国可持续发展目标，但其双重用途的性质意味着和平应用也可能被滥用于有害目的，如政治造谣、网络攻击、恐怖主义或军事行动。与此同时，那些在民用领域研究和开发人工智能的人往往仍未意识到滥用民用人工智能技术可能对国际和平与安全造成的风险，也不确定他们在应对这些风险时能发挥什么作用。
在此背景下，联合国裁军事务厅和斯德哥尔摩国际和平研究所于 2023 年发起了一项为期三年的 "促进负责任的人工智能创新以促进和平与安全 "教育倡议。该倡议得到了欧洲联盟理事会的支持，旨在支持民用人工智能界更多地参与减少民用人工智能研究和创新对和平与安全造成的意外后果。
作为该倡议的一部分，斯德哥尔摩国际和平研究所（SIPRI）和联合国裁军事务厅（UNODA）正在为科学、技术、工程和数学专业的学生（博士和硕士）组织一系列能力建设讲习班。这些讲习班旨在为新兴的人工智能从业人员提供与专家合作的机会，以了解：a）和平的人工智能研究和创新如何可能对国际和平与安全产生风险；b）他们如何能够通过负责任的研究和创新帮助预防或减轻这些风险；c）他们如何能够支持促进负责任的人工智能以促进和平与安全。
该系列讲习班的第四期将于 2024 年 11 月 20-21 日在比利时布鲁塞尔与 VUB 人工智能体验中心合作举办。
讲习班面向欧洲、中美洲和南美洲、中东和非洲、大洋洲和亚洲各大学的学生。
欢迎感兴趣的学生通过此在线表格提交意向：
https://forms.office.com/e/Wb1t8bEE6F
SIPRI和联合国裁军事务厅将根据参与者的动机以及多样性考虑（包括地域代表性、性别平衡、学科重点、职业抱负）来选择参与者。请注意，事先了解人工智能伦理或国际和平与安全并非必要条件，讲习班之外也不会分配工作。该倡议将为需要前往布鲁塞尔的学员支付差旅费并提供住宿。
所有顺利完成讲习班的学员都将获得联合国颁发的参加证书。
该讲习班与 VUB 人工智能体验中心合作举办，由
欧洲联盟资助。
在高等理工学院举行的关于负责任的创新促进和平与安全以及未来人工智能从业人员教育的圆桌会议
2024年 8 月 16 日
联合国裁军事务厅（UNODA）和斯德哥尔摩国际和平研究所（SIPRI）与里斯本大学高等理工学院（Instituto Superior Técnico）合作，在第四届 可信人工智能基础：整合学习、优化和推理（TAILOR）会议结束后组织了一次圆桌讨论。圆桌会议根据查塔姆大厦规则于 2024 年 6 月 5 日在葡萄牙里斯本大学高等技术研究所举行。 此次会议汇集了包括人工智能专家、专门从事人工智能课程开发的教育工作者和治理代表在内的不同群体。
圆桌会议与会者在里斯本大学高等理工学院讨论将和平与安全因素纳入人工智能培训的问题。圆桌会议与会者与项目工作人员讨论了将和平与安全因素纳入人工智能培训的问题。讨论的重点是将和平与安全风险因素纳入未来人工智能从业人员培训的主流。与会者探讨了将人工智能伦理和负责任的创新原则纳入教育框架的战略，同时还探讨了与防止滥用民用人工智能技术有关的治理挑战。
圆桌会议强调了合作与对话在形成负责任的人工智能实践中的关键作用，突出了利益相关者对推进人工智能开发中的道德标准的承诺。
敬请关注有关推动未来人工智能教育和管理的倡议的更多更新。有关裁军事务厅负责任的创新和人工智能活动的更多信息，请联系政治事务干事 Charles Ovink 先生，电子邮件：charles.ovink@un.org。
在里斯本和平与安全讲习班上增强年轻人工智能从业人员的能力
2024 年8 月 16 日
作为促进负责任的人工智能（AI）发展的国际努力的一部分，联合国裁军事务厅（UNODA）和斯德哥尔摩国际和平研究所（SIPRI）于2024年6月6日至7日在葡萄牙里斯本举办了 "负责任的人工智能促进和平与安全 "能力建设讲习班。此次活动标志着一个正在进行的项目的里程碑，该项目旨在解决民用人工智能研究和创新给国际和平与安全带来的风险。
在里斯本大学高级技师学院的协助下，来自世界各地的一批精选的青年人工智能从业者聚集在里斯本，参加了为期两天的能力建设研讨会。
该讲习班是联合国裁军事务厅和斯德哥尔摩国际和平研究所计划举办的四期系列讲习班中的第三期，旨在让年轻的人工智能从业人员掌握必要的知识和技能，以应对民用人工智能研究和创新可能对国际和平与安全构成的风险。在两天的时间里，与会者参加了旨在提高他们对民用人工智能研究和创新对国际和平与安全构成的潜在风险的认识的互动会议。通过负责任的研究和创新预防或减轻这些风险的方法，以及如何为促进负责任的人工智能促进和平与安全做出贡献，是讨论的重要议题。
研讨会通过互动讨论和会议，包括红蓝组队练习，让与会者更多地接触到负责任的人工智能做法。除了让与会者有机会进行自己的风险评估、挑战各种想法和创造性地参与之外，研讨会与会者还探讨了民用人工智能可能被滥用对和平与安全的影响以及国际治理格局。
来自巴西、中国、法国、德国、印度、意大利、墨西哥、葡萄牙、大韩民国、叙利亚和越南等 11 个国家的 18 名与会者参加了此次活动。该小组由八名女性和十名男性组成，代表了一个多元化和包容性的团队。
本次研讨会是欧盟资助的 "促进负责任的人工智能创新以促进和平与安全 "倡议的一部分。该倡议是吸引科学、技术、工程和数学（STEM）专业学生参与并为他们提供面对面能力建设机会的更广泛努力的一部分。目的是向他们介绍民用人工智能发展带来的和平与安全风险，以及如何通过负责任的研究和治理过程来识别、预防或减轻这些风险。
下一次也是最后一次研讨会将以教育工作者、课程开发人员、人工智能行业和其他相关利益攸关方为重点。
有关裁军事务厅负责任的创新和人工智能活动的更多信息，请联系政治事务干事 Charles Ovink 先生，电子邮件：charles.ovink@un.org。
多利益攸关方公开对话： 应对滥用风险：人工智能界可从生物技术行业学到什么？
2024年5 月 29 日
我们最近的公开活动深入探讨了人工智能与生物技术之间的迷人重叠。我们聚集了包括 Eleonore Pauwels、Rik Bleijs 和 Clarissa Rios 在内的著名专家，对这些领域的交汇和其中涉及的风险进行了剖析。通过引人入胜的讨论，我们探讨了负责任的创新和降低风险的策略。
来自世界各地的新一代人工智能从业人员齐聚爱沙尼亚，学习人工智能在促进和平与安全方面的负责任创新
2024 年3 月
2月14日和15日，来自世界各地的一批精选的年轻人工智能（AI）从业人员在塔林聚会，参加由联合国裁军事务厅（UNODA）和斯德哥尔摩国际和平研究所（SIPRI）与塔林理工大学合作举办的为期两天的 "负责任的人工智能促进和平与安全"能力建设讲习班。
此次研讨会是四期系列研讨会中的第二期，旨在为新兴的人工智能从业人员提供机会，学习如何应对民用人工智能研究和创新可能对国际和平与安全造成的风险。在两天的时间里，来自不同背景的年轻参与者参与了互动活动，旨在提高他们对以下问题的认识：(a) 民间人工智能研究和创新如何可能对国际和平与安全构成风险；(b) 他们如何能够通过负责任的研究和创新帮助预防或减轻这些风险；以及(c) 他们如何能够为推动负责任的人工智能促进和平与安全做出贡献。
通过互动研讨会、现场投票、基于情景的红队和蓝队演练，研讨会让与会者了解了负责任的人工智能领域、滥用民用人工智能对和平与安全的特殊影响、国际治理环境，并有机会通过自己的风险评估、质疑观点和创造性地参与。
来自中国、埃及、爱沙尼亚、希腊、印度、印度尼西亚、伊朗、意大利、立陶宛、菲律宾、罗马尼亚、新加坡和土耳其等 13 个国家的 18 人参加了此次活动。
该研讨会是欧盟资助的 "促进负责任的人工智能创新以实现和平与安全"倡议的一部分，也是一个持续支柱的一部分，该支柱的重点是与科学、技术、工程和数学（STEM）专业的各类学生接触，并提供面对面的能力建设，向他们介绍如何在研究和创新过程中或通过其他治理过程来识别、预防或减轻不负责任的行为者转移和滥用民用人工智能开发所带来的和平与安全风险。
成功举办的系列研讨会将持续到 2024 年，同时还将举办以教育工作者和课程开发人员以及人工智能行业和其他方面为重点的支柱研讨会。
有关裁军事务厅负责任的创新和人工智能活动的更多信息，请联系政治事务干事 Charles Ovink 先生，电子邮件：charles.ovink@un.org。
来自世界各地的人工智能专家就负责任的人工智能促进和平与安全问题进行多方利益相关者对话
2023 年 9 月 25 日
9月13日和14日，联合国裁军事务厅及其在斯德哥尔摩国际和平研究所（SIPRI）的合作伙伴汇集了来自工业界、学术界、民间社会和管理部门的15位人工智能（AI）专家，进行了为期两天的讨论。在多利益攸关方对话过程中，与会者探讨了可能给和平与安全带来风险的人工智能研究和创新趋势，并研究了如何减轻这种风险，包括通过推广负责任的创新做法。
斯德哥尔摩国际和平研究所（SIPRI）和联合国裁军事务厅（UNODA）与下一代人工智能从业人员接触
2023年12月4日
11月16日至17日，斯德哥尔摩国际和平研究所（SIPRI）和联合国裁军事务厅（UNODA）为一批精选的STEM学生举办了为期两天的 "负责任的人工智能促进和平与安全 "能力建设讲习班。
该讲习班是四期系列讲习班中的第一期，旨在为新晋人工智能（AI）从业人员提供机会，学习如何应对民用 AI 研究和创新可能对国际和平与安全造成的风险。
这次活动是与马尔默大学和于默奥大学合作在马尔默举行的，有来自澳大利亚、孟加拉国、中国、厄瓜多尔、法国、芬兰、德国、希腊、印度、墨西哥、荷兰、新加坡、瑞典、英国和美国等17个国家的24名与会者参加。
在两天的时间里，与会者参加了互动活动，目的是提高他们对以下问题的认识：(a) 和平的人工智能研究和创新如何可能对国际和平与安全构成风险；(b) 他们如何能够通过负责任的研究和创新帮助预防或减轻这些风险；以及(c) 他们如何能够为推动负责任的人工智能促进和平与安全做出贡献。
来自于默奥大学和马尔默大学的教授参加了此次活动。
该系列讲习班将持续到2024年，是欧洲联盟资助的 "负责任的人工智能促进和平与安全创新 "倡议的一部分，由斯德哥尔摩国际和平研究所和联合国裁军事务厅联合举办。
下一期讲习班将于2024年2月14日至15日在爱沙尼亚塔林与塔林理工大学合作举办。
资金声明
本计划得到了欧洲联盟的慷慨支持
