这是首次真正意义上的全球性人工智能治理行动,我们很高兴看到自己的多项建议被纳入了联合国会员国上个月通过的一项综合性治理框架:《全球数字契约》(Global Digital Compact)。这项新协议的达成需要克服美国、中国、欧洲和全球南方国家之间以及政府和私营部门(尤其是科技企业)之间存在的所有实际分歧。
Secure your copy of PS Quarterly: The Climate Crucible
The newest issue of our magazine, PS Quarterly: The Climate Crucible, is here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
A new Global Digital Compact rests on the insight that while AI can be a game-changing technology, managing its far-reaching potential requires a new global infrastructure and robust mechanisms to manage the risks. At a time when multilateralism is faltering, global cooperation remains possible.
herald a new global compact that aims to manage the technology’s risks and unlock its potential.
Marietje Schaake
warns that Big Tech’s outsize influence threatens democracy, suggests what Western leaders can learn from Chinese technology governance, urges governments to use public procurement to influence the trajectory of digital technology, and more.
Log in/Register
Please log in or register to continue. Registration is free and requires only your email address.
发自纽约——多边主义最近遭遇了困境,尤其是在联合国。安理会未能阻止俄罗斯入侵乌克兰,加沙和黎巴嫩的停火仍然遥遥无期,随后召开的各气候峰会无法激发足够的实际行动来达成全球气候目标。不仅联合国自身的可持续发展目标无法推进,而且在许多情况下还出现了倒退。在多场战争肆虐、保护主义抬头、世界分裂为多个敌对阵营之时,联合国对和平、安全与合作的根本承诺变得非常遥远。
但尽管出现地缘政治衰退,全球合作仍然是可能实现的。联合国大会于9月22-23日举行的首届未来峰会测试了该组织应对其中一个全球最大跨国挑战——人工智能——的能力。出人意料的是,联合国通过了这场考验。
毫不夸张地说,人工智能激发了这几代人以来最快、最强大的政策响应。就在一年前,联合国秘书长安东尼奥·古特雷斯(António Guterres)邀请了来自政府、私营部门和公民社会的代表来就如何治理人工智能以造福人类提出建议。他知道世界试图治理人工智能的雄心壮志可能会落空,就像起初应对气候变化那样。现有的各类做法已经过于分散,而且大多数方法忽略了全球南方,有118个国家根本没有加入任何人工智能治理框架。
两位笔者共同担任了秘书长人工智能高级别咨询机构的特派调查员——该机构的成立正是为了应对这一重大挑战。为了反映世界的多样性,其39名成员来自各大洲,分别是政府、学术界、公民社会和技术行业的代表。
这是首次真正意义上的全球性人工智能治理行动,我们很高兴看到自己的多项建议被纳入了联合国会员国上个月通过的一项综合性治理框架:《全球数字契约》(Global Digital Compact)。这项新协议的达成需要克服美国、中国、欧洲和全球南方国家之间以及政府和私营部门(尤其是科技企业)之间存在的所有实际分歧。
例如我们提出的一项(原则上已获准实施的)建议是成立一个国际人工智能科学小组。我们首先认定如果要治理人工智能这样的复杂问题就应该对这项技术及其潜在风险和影响有一个跨越国家和文化的共同认识。
Secure your copy of PS Quarterly: The Climate Crucible
The newest issue of our magazine, PS Quarterly: The Climate Crucible, is here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.
Subscribe Now
我们是从气候变化中痛苦地学到了这一点的。虽然现在很多人都在争论如何应对气候危机,但却没有认真讨论过是否应该应对这一问题,因为联合国政府间气候变化专门委员会给出的证据是无可辩驳的。一个类似的政府间人工智能专门委员会将承担分析人工智能技术当前进展的艰巨但基础性的工作,从而为政策制定者的辩论、目标和政策决定提供基于事实的、独立的基础信息。
但我们最为关注的其实是确保人工智能造福所有人的前景。与零和博弈政治盛行,在降低排放、促进经济增长和实现公平之间存在严重的短期权衡(强大的既得利益集团反对后碳时代的转型)的气候变化问题不同,人工智能是一个罕见的有正和博弈解决方案的跨国问题。如果人工智能得到安全共享并被设定去遵守国际法和各项基本自由权利,它就应当不会对现有政府和企业构成生存威胁,而是反过来催生双赢的机会。
各界对人工智能这类技术有着巨大的需求,人们对其帮助我们实现各类目标(包括各项联合国可持续发展目标)的潜力充满期待。从公共卫生和教育到经济增长和减缓气候变化,人工智能可以成为改变游戏规则的技术。但如果没有基础设施和机制来监督其变革式增长,它就可能进一步加剧全球分化,再次将最贫穷和最弱势的人群抛在后面。而我们则决心防止这种情况的发生。
这就是为什么我们除了建立共同的知识库之外还建议采取各种举措去强化所有国家和社区的人工智能获取渠道。从人才和标准到数据和资金,联合国及其合作伙伴可以帮助解决资源和基础设施方面的差距,确保这场人工智能革命不会落下任何人。
当然,有些人会质疑联合国在治理人工智能方面的作用,而治理也必须在国家层面进行,开发人工智能模型的企业也在制定相关标准。但就像之前的互联网一样,人工智能的潜力使其成为一种全球公共产品(人工智能安全也是如此),而联合国则是具有合法性去召集世界各国政府和人工智能利益相关者并有能力确保达成任何协议的唯一真正全球性机构。这首先要让全世界达成共识——不是强迫治理,而是围绕机遇和挑战的本质和规模进行协调。有了正确的愿景、工具和政治领导力,我们就可以部署资源以确保人工智能不负众望。
从气候变化和公共卫生到核扩散,世界已经转向联合国来解决其最复杂问题。武装冲突、人道主义灾难、环境危机和经济困境凸显了国际社会在面对世界性挑战时的经常性失灵。但当我们努力应对迄今为止最具革命性和潜在破坏性的技术时,《全球数字契约》却证明多边主义在地缘政治分裂的世界中仍然有望实现的。