古特雷斯：人类命运不能交由算法决定

联合国安理会日前举行高级别会议，主题是：人工智能与维护国际和平与安全。联合国秘书长古特雷斯现场发表讲话，敦促会员国迅速采取行动，为人工智能技术的迅猛发展制定出一套全面的国际规范。他警告说，任何拖延都可能导致全球和平与安全面临更为严峻的风险。

© 联合国视频

古特雷斯指出，人工智能技术的发展速度已远超当前人类治理人工智能的能力，这给人类的决策体系带来了前所未有的挑战，特别是在问责制、公平性、安全性以及人类监督方面。他警告说，每拖延一刻，全球面临的风险就会增加。

古特雷斯强调，任何国家都不应在武装冲突中设计、开发、部署或使用违反国际人道法和人权法的人工智能军事应用，特别是那些能够自主选择和攻击目标的人工智能系统。他明确指出，新兴技术所引发的地缘政治竞争绝不能以牺牲国际和平与安全为代价。

上下滑动查看更多

古特雷斯秘书长讲话全文（英、法双语）

主席先生，各位阁下，

我感谢美国召开关于人工智能和维护国际和平与安全的会议。

我在 2023 年 7 月向理事会简要介绍了人工智能。正如我当时所说，那些觉得技术发展非常快的人必须理解一个简单的事实：

技术在未来永远不会像今天这样缓慢。

从那以后的短时间内，人工智能以惊人的速度发展。

在创纪录投资的推动下，今天的 AI 模型变得越来越强大、更通用、更容易获得——不仅结合了语言、图像、声音、视频……而且还能实现决策自动化。

人工智能不仅在重塑我们的世界，而且还在彻底改变它。

需要多年人类专业知识的任务现在只需一瞬间即可完成。

但风险同样巨大。

这种快速增长的速度超过了我们治理它的能力——引发了关于问责制、平等、安全和保障的根本问题。

以及人类在决策过程中的作用。

没有人类监督的人工智能将使世界蒙蔽——也许没有比全球和平与安全更危险和鲁莽的地方了。

总统先生

人工智能工具已经在遭受冲突和不安全的国家产生了积极的影响。

确定粮食不安全并预测极端事件和气候变化造成的流离失所。

探测和清除地雷。

很快，AI 就可以在暴力爆发之前发现动荡模式。

但 AI 也以更令人不安的方式进入了战场。

最近的冲突已成为 AI 军事应用的试验场。

AI 向安全系统的扩展引发了 对人权、尊严和法治的根本担忧——从自主边境监控到预测性警务等等。

长期以来，我一直警告人工智能支持的系统会产生不可预见的后果：每一次进步都会产生新的、难以想象的漏洞。

“AI 军备竞赛”为误解、误判和错误创造了肥沃的土壤。

人工智能支持的网络攻击可能会削弱一个国家的关键基础设施并瘫痪基本服务。

最关键的是，人工智能正在侵蚀人类控制武力使用的基本原则。

据报道，从基于情报的评估到目标选择，算法已经被用于做出生死攸关的决策。

AI 与其他技术的融合使这些风险呈指数级放大。

人工智能与核武器的整合尤其令人担忧，并可能带来灾难性的后果。

我们必须不惜一切代价避免它。

展望未来，量子人工智能系统可能会在一夜之间突破最坚固的防御，改写数字安全规则。

让我们明确一点：人类的命运绝不能留给算法的“黑匣子”。

人类必须始终保持对决策职能的控制权——以国际法（包括国际人道主义法和人权法）和道德原则为指导。

人类的手创造了 AI。

人类的手必须引导它向前发展。

总统先生

除了武器系统，我们还必须解决人工智能对和平与安全构成的其他风险。

AI 创建高度逼真的内容，这些内容可以立即在在线平台上传播——操纵公众舆论，威胁信息完整性，并使真相与彻头彻尾的谎言无法区分。

深度伪造可能会引发外交危机，引发动荡，并破坏社会的根基。

AI 对环境的影响也带来了明显的安全风险。

AI 数据中心的大量能源和水消耗，加上对关键矿物的抢购，正在造成危险的资源竞争和地缘政治紧张局势。

总统先生

前所未有的全球挑战需要前所未有的全球合作。

2023 年 7 月，我欢迎一些会员国呼吁“设立一个新的联合国实体，以支持集体治理”人工智能，并“建立和管理国际商定的监测和治理框架和机制”。

从那时起，一系列举措引发了围绕国际和平与安全影响的高层讨论，包括在军事领域负责任地应用 AI。

许多会员国、地区集团和国际组织都发布了关于人工智能的宣言。

联合国一直在努力减少 AI 治理的碎片化，并帮助将这些单独的倡议纳入一个共同框架。

联合国大会通过了两项关于人工智能的决议——促进加强全球合作和能力建设。

第一委员会推荐了第三项决议，重点关注军事领域的人工智能，并将在未来几天内由联合国大会审议。

通过广泛的全球磋商，我的人工智能问题高级别咨询机构以创纪录的速度制定了应对人工智能给人类带来的深刻风险和机遇的蓝图。

他们的工作为连接现有计划的框架奠定了基础，并确保每个国家都能够帮助塑造我们的数字未来。

联合国全球数字契约将这一共同愿景转化为行动。该契约被未来峰会的领导人采用，代表了第一个得到普遍认可的人工智能治理框架。

它承诺建立一个独立的人工智能国际科学小组，并在联合国内发起关于人工智能治理的全球对话——让每个国家都有一席之地。

该契约要求提供创新融资方案，以便在最需要的地方建立人工智能能力，确保发展中国家得到我们的全力支持。

一个 AI 富人和穷人的世界将是一个永远不稳定的世界。

我们绝不能让 AI 代表“加剧不平等”。

只有防止碎片化的 AI 领域的出现，我们才能构建一个技术为全人类服务的世界。

[法语]

先生 le Président， 卓越，

主席先生，各位阁下，

Les prochaines étapes seront cruciales – et nos choix présents façonneront notre avenir.

我们的下一步将至关重要，我们现在所做的选择将决定我们的未来。

Tout retard dans la mise en place de garde-fous internationaux accroît le risque pour nous tous.

建立国际护栏的每一刻延迟都会增加我们所有人的风险。

J’exhorte les États membres à agir rapidement afin d’établir le Groupe scientifique international sur l’Intelligence Artificielle et d’engager le Dialogue mondial sur la gouvernance de l’Intelligence Artificielle – au sein de l’Organisation des Nations unies.

我敦促会员国迅速采取行动，建立人工智能国际科学小组，并在联合国内启动人工智能治理全球对话。

Je réitère également mon appel à interdire les armes autonomes létales.Nous devons établir de nouvelles interdictions et restrictions sur les systèmes d’armes autonomes d’ici à 2026.

我还重申我对禁止致命自主武器的呼吁。我们必须在 2026 年之前对自主武器系统制定新的禁令和限制。

Aucun pays ne doit concevoir， développer， déployer ou utiliser des applications militaires de l’Intelligence Artificielle dans les conflits armés qui violent le droit international， le droit humanitaire et les droits humains.Cela inclut le recours à l’Intelligence Artificielle pour sélectionner ou engager des cibles de manière autonome.

任何国家都不应在武装冲突中设计、开发、部署或使用违反国际法、人道法和人权的人工智能军事应用。这包括依靠 AI 自主选择或吸引目标。

Les membres de ce Conseil doivent montrer l’exemple et veiller à ce que la compétition autour des technologies émergentes ne déstabilise pas la paix et la sécurité internationales.

安理会成员国必须以身作则，确保围绕新兴技术的竞争不会破坏国际和平与安全的稳定。

Je vous invite tous à unir vos forces pour bâtir l’avenir de l’Intelligence Artificielle – un avenir sûr， sécurisé et inclusif.

我敦促大家携手共建一个安全、可靠和包容的 AI 未来。

Je vous remercie.

谢谢。

双刃剑的潜力

古特雷斯表示，人工智能是一把双刃剑，既具有推动社会变革的巨大潜力，如预测气候变化导致的人口迁移和清除地雷等，同时也伴随着巨大的风险，尤其是在军事系统的应用和数字安全领域的滥用上。

古特雷斯提到，人工智能与核武器的潜在结合以及量子人工智能系统的出现，都可能对全球安全构成严重威胁。他强调，人类命运绝不能交由算法的“黑箱”决定，必须确保在涉及武力使用的决策中，人类始终占据主导地位。

信任的侵蚀

古特雷斯指出，人工智能在信息领域的应用同样存在令人担忧的潜在风险。他提到，换脸技术和人工智能生成的虚假信息可能操控公众舆论、引发社会危机并侵蚀社会信任。

与此同时，他也关注到了人工智能对环境的潜在影响，例如数据中心对资源的高需求以及围绕人工智能技术所需关键矿物的地缘竞争。

面对这些前所未有的全球挑战，古特雷斯呼吁各国应展开前所未有的合作，确保人工智能造福全人类，而非加剧不平等

呼吁建立全球框架

古特雷斯表示，人工智能全球治理近期取得了一些成果，包括未来峰会上通过的《联合国全球数字契约》，以及联大通过的两项关于加强全球合作与能力建设的关键决议。他还透露，联大即将讨论一项关于人工智能在军事领域应用的第三项决议。

古特雷斯呼吁各国禁止研发致命性自主武器，并敦促安理会发挥表率作用，防止人工智能的军事化对国际和平与安全构成威胁。他强调，各国应携手共进，共同创造一个安全、可靠且包容的人工智能未来。

联合国大会通过

里程碑式决议

© 联合国图片|联大会场

联合国大会于今年3月一致通过了一项具有里程碑意义的决议，呼吁抓住“安全、可靠和值得信赖的”人工智能系统带来的机遇，让人工智能给人类带来惠益，并以此促进可持续发展。

这是联合国大会首次就监管人工智能这一新兴领域通过决议。决议草案由美国提交，同时还有120多个会员国成为“共同提案国”或表达支持。

决议表示，各国认识到，“人工智能系统的设计、开发、部署和使用速度加快，技术变革日新月异，对加快实现可持续发展目标具有潜在影响”。为此，联大“决心促进安全、可靠和值得信赖的人工智能系统，以在全面实现《2030年可持续发展议程》方面加快取得进展”。

联大此份决议强调，“安全、可靠和值得信赖的人工智能系统” 是指非军事领域的人工智能系统，必须在其整个生命周期内“尊重、保护和增进人权和基本自由”。联大还促请所有会员国及其他利益攸关方“不要使用或停止使用无法按照国际人权法运作或对享受人权构成过度风险的人工智能系统，特别是对于那些处于弱势的人而言”。

决议同样提出，“人们在线下享有的权利也必须在线上得到保护，包括在人工智能系统的整个生命周期内”。

联大鼓励会员国并邀请所有区域和国家的利益攸关方，包括私营部门、国际和区域组织、民间社会、媒体、学术界和研究机构、技术界及个人，在各自角色和职责范围内，制定和支持与安全、可靠和值得信赖的人工智能系统有关的监管和治理办法及框架。

决议表示，各国还认识到，“目前存在人工智能和其他数字方面的鸿沟，国家之间和国家内部的技术发展水平参差不齐，发展中国家在跟上这一迅速加速的步伐方面面临独特挑战，这对可持续发展造成障碍”。

联合国大会因此“决心弥合国家之间和国家内部的人工智能鸿沟和其他数字鸿沟”，同时“促请会员国并邀请其他利益攸关方采取行动，与发展中国家合作并向其提供援助，以实现包容和公平地获得数字化转型以及安全、可靠和值得信赖的人工智能系统所带来的惠益”。

联大通过中方主提

AI能力建设决议

© 联合国图片|中国常驻联合国代表傅聪

第78届联合国大会还于今年7月1日协商一致通过了中国主提的加强人工智能能力建设国际合作决议，140多国参加决议联署。

该决议强调人工智能发展应坚持以人为本、智能向善、造福人类的原则，鼓励通过国际合作和实际行动帮助各国特别是发展中国家加强人工智能能力建设，增强发展中国家在人工智能全球治理中的代表性和发言权，倡导开放、公平、非歧视的商业环境，支持联合国在国际合作中发挥中心作用，实现人工智能包容普惠可持续发展，助力实现联合国2030年可持续发展议程。

中国常驻联合国代表傅聪在联大全会介绍决议草案时表示，当前全球人工智能技术飞速发展，对各国经济社会发展和人类文明进步产生深远影响。但大多数国家特别是发展中国家尚未能真正接触、使用人工智能并从中受益，全球数字鸿沟仍有扩大之势。广大联合国会员国普遍期待就人工智能能力建设加强国际合作，平等发展和利用人工智能技术，共享人工智能知识成果。

傅聪说，这份决议聚焦人工智能能力建设主题，围绕加强相关国际合作提出一系列重要务实举措，旨在帮助各国特别是发展中国家从人工智能发展中平等受益，弥合数字鸿沟，完善全球人工智能治理，加快落实2030年可持续发展议程。该决议获得协商一致通过，表明广大会员国普遍赞同通过对话合作加强人工智能全球治理，充分彰显出中国对人工智能发展和治理的负责任态度和重要引领作用。

傅聪表示，中方期待以本决议通过为契机，同广大会员国一道积极推动决议后续落实，坚持发展优先，坚持以人为本，坚持平等互利，坚持守正创新，以实际行动帮助发展中国家加强人工智能能力建设，促进人工智能赋能可持续发展，增进全人类共同福祉，推动构建人类命运共同体。

本月早些时候，中国和赞比亚在纽约联合国总部共同举办了“人工智能能力建设国际合作之友小组”首次会议，标志着该小组正式成立。

埃及、巴基斯坦、巴西、埃塞俄比亚、印度尼西亚、俄罗斯、美国、法国、英国等80多个国家以及联合国秘书长技术特使办公室等联合国机构的代表与会。

中国常驻联合国代表傅聪、赞比亚财政部常务秘书卡玛在会上致辞。傅聪表示，中国提出《全球人工智能治理倡议》，围绕人工智能治理的重大课题贡献了中国智慧。面对人工智能带来的机遇和挑战，我们要推动智能向善，坚持公平普惠，践行多边主义，聚焦能力建设。人工智能能力建设国际合作之友小组将推动广泛伙伴关系，采取务实有效行动，促进人工智能赋能各国可持续发展。

卡玛表示，国际社会应致力于弥合智能鸿沟，支持联合国在人工智能全球治理中发挥关键作用。希望各方支持这一小组，加强全球协调合作。