将我们的未来外包给营利性人工智能

纽约—在过去的一个月里，美国加利福尼亚州州长加文·纽森（Gavin Newsom）否决了一项人工智能安全法案，瑞典皇家科学院将诺贝尔化学奖授予了华盛顿大学教授大卫·贝克（David Baker）以及谷歌子公司DeepMind及其子公司Isomorphic Labs的员工德米斯·哈萨比斯（Demis Hassabis，实为DeepMind团队CEO）和约翰·M·朱珀（John M. Jumper）。这两件事看似风马牛不相及，但放在一起却表明将人类的未来外包给那些追求利润最大化的私营企业似乎是件值得庆贺的事。

虽然加州的这项法案并非毫无缺陷，但它确实代表了人类首次要求开发人员对其人工智能模型可能造成的潜在危害负责的实质性努力。此外它并不是关注所有风险，而是“重大危害”，例如被用于开发大规模杀伤性武器或造成至少5亿美元的损失。

包括谷歌公司在内的科技行业激烈游说反对该法案，并提出了一个存在已久的论据。正如《金融时报》（Financial Times）编辑委员会所说，新法规可能会“阻碍……有助于诊断疾病、加速科学研究并提高生产力的创新出现”。 再一次地，这种机会成本被认为比人工智能可能对人们掌控自己命运的能力甚至在社会里平和生活所造成的破坏更为有害。

2024年诺贝尔奖是自然科学领域首次将奖项授予跨国公司员工。以往获奖者都是或者曾任大学教授或政府资助研究机构研究人员，他们都在接受同行评审的期刊上发表研究成果并向全世界公开了自己的发现。无论瑞典科学院是否故意，其将奖项授予谷歌研究人员的决定都助推了科学私有化行为的合法化，使之不再成为人类共同财产的一部分。与以往的许多资源一样，人工智能科学也被封闭在一个四面围墙的花园中，只有那些能够支付入场费的人才能进入。

诚然，让哈萨比斯和朱珀获奖的人工智能模型AlphaFold2及其源代码已经公开。根据AlphaFold官方网站的说法，“谷歌DeepMind和欧洲分子生物学实验室（EMBL）下属的欧洲生物信息学研究所（EMBL-EBI）合作创建了AlphaFold DB，好让科学界可以免费使用这些预测。”另一方面，DeepMind拥有AlphaFold的多项专利。根据产权逻辑，企业——而不是公众——将始终对该技术的使用拥有最终决定权。AlphaFold的网站是以“.com”结尾，这表明它与以“.gov”结尾的人类基因组计划有着本质上的不同。

在信息技术领域，“免费的东西”从来都不是免费的。用来支付它的东西是数据而不是钞票。AlphaFold能够预测蛋白质三维结构的数据来自公共领域。DeepMind开发AlphaFold的合作伙伴是一家由欧盟20多个成员国资助的政府间研究机构。根据朱珀的说法，“公共数据对于AlphaFold的开发至关重要”。如果没有科学家利用纳税人的钱来收集和整理数据，那就不会有AlphaFold。

Secure your copy of PS Quarterly: The Climate Crucible

Secure your copy of PS Quarterly: The Climate Crucible

The newest issue of our magazine, PS Quarterly: The Climate Crucible, is here. To gain digital access to all of the magazine’s content, and receive your print copy, subscribe to PS Premium now.

Subscribe Now

尽管政府官员在创建这个庞大数据库方面具有先见之明，但政府经常因为缺乏推动创新和促进科学及经济进步的知识、技能、资源和远见而遭到贬低。我们经常被告知只有私营部门——凭借其强大的经济激励——才能推动世界前进。

实际上，私营部门经常免费使用由公共资金支持或受雇于公共研究机构的科学家做出的工作成果。第一颗卫星是由美国政府而非埃隆·马斯克（Elon Musk）发射的；互联网在实现商业化之前是由美国军方开发的；制药企业很少投资于基础研究。既然可以坐等美国国立卫生研究院或类似机构资助的科学家将某个领域推进到可以进行盈利性投资的地步，那又何必费心费力呢？

这就是那些营利性企业的逻辑。它们的目的是经济回报而不是人类进步。一旦参与其中，它们就会通过申请专利或利用贸易保密法提供的障碍来保护自己的研究发现，从而垄断科学知识。如果没有国家的帮助，它们既不会有基础科学，也不会有法律保护，但垄断却能给它们带来丰厚回报——并以此证明自己比政府更优越。

我们不难理解私营企业为什么喜欢这种做法，但令人费解的是政府为何甘愿受制于行业，将多年公共资助的研究成果拱手相让，却不去确保公众在决定如何使用这些成果时有发言权。加州的立法本应强制要求人工智能模型具备在出现问题时彻底停止运作的能力，但这项规定与法案的其他条款一起被否决了。

如果我们对未来的损害了解不够，那就应该避免干预“私人”市场，而市场在没有政府“干预”的情况下总是表现最佳——这种说法并不新鲜。石油和天然气企业在否认气候变化风险及其对气候变化的影响时就仰仗着这一点——即使连它们自己的研究都给出了相反的结论。如今我们再次听到了同一套说法。显然我们应该把未来交给那些唯一目的是实现股东价值最大化的私营企业。这又怎么可能出问题呢？