监管人工智能比你想象的更容易

(SeaPRwire) –   有望为社会带来巨大的益处。但正如许多人已经指出的那样，它也可能带来风险。作为一项通用技术，用于推动科学发现的相同工具也可能被用于开发网络、化学或生物武器。治理人工智能需要广泛共享其益处，同时将最强大的人工智能掌握在坏人之手。好消息是，关于如何做到这一点，已经有了明确的方法。

在 20 世纪，各国建立了国际机构，以允许和平核能的传播，但通过控制其基础原材料（即武器级铀和钚）的获取来减缓核武器的扩散。这种风险已通过国际机构（例如国际原子能机构）得到控制。今天，32 个国家运行着核电站，这些核电站共同提供全球 10% 的电力，而只有 9 个国家拥有核武器。

各国今天可以对人工智能采取类似的措施。它们可以通过控制训练全球最先进人工智能模型所需的专门芯片的获取来从根本上规范人工智能。 和联合国秘书长安东尼奥·古特雷斯都已呼吁建立一个类似于核技术的人工智能国际治理框架。

最先进的人工智能系统是在数万个高度专门的计算机芯片上进行训练的。这些芯片被安置在大型数据中心，在那里它们会对数据进行数月的处理以训练最强大的 AI 模型。这些先进的芯片很难生产，供应链受到严格控制，并且训练人工智能模型需要大量的此类芯片。

各国政府可以建立一个监管制度，只有授权的计算提供商才能在其数据中心获取大量先进芯片，只有获得许可的、值得信赖的人工智能公司才能访问训练最强大（也是最危险）人工智能模型所需的计算能力。

这似乎是一项艰巨的任务。但只需要少数几个国家就能建立起这个治理制度。用于训练最先进人工智能模型的专用计算机芯片非常稀有。它们依赖于三个国家的关键技术——日本、荷兰和美国。在某些情况下，一家公司对芯片生产供应链的关键环节拥有垄断地位。荷兰公司 ASML 是全球唯一生产用于制造最尖端芯片的极紫外光刻机的生产商。

各国政府已经开始采取措施来管理这些高科技芯片。美国、 和 对芯片制造设备实施了出口管制，限制将其出售给中国。美国政府已 对使用美国技术制造的最先进芯片对中国的出售。美国政府还 要求云计算提供商了解其国外客户的身份，并在外国客户训练可能用于网络攻击的大型 AI 模型时进行报告。美国政府还 对最强大的已训练人工智能模型及其共享范围实施了限制，但尚未执行。虽然这些限制中有一些与中国的地缘政治竞争有关，但相同的工具可以用来管理芯片，以防止敌对国家、恐怖分子或犯罪分子使用最强大的人工智能系统。

美国可以与其他国家合作，在此基础上建立一个结构，来管理整个 AI 模型生命周期中的计算硬件：芯片制造设备、芯片、数据中心、训练 AI 模型，以及由此产生的已训练模型。

日本、荷兰和美国可以帮助领导建立一个全球治理框架，只允许将这些高度专门的芯片出售给已经建立了管理计算硬件的监管制度的国家。这将包括跟踪芯片并对其进行统计，了解谁在使用它们，并确保人工智能训练和部署是安全可靠的。

但是，计算硬件的全球治理不仅能防止人工智能落入坏人之手，还能通过缩小 之间的差距来赋能全球各地的创新者。由于训练最先进人工智能模型所需的计算要求非常高，该行业正在向寡头垄断发展。这种权力的集中对于社会或企业来说都不利。

一些人工智能公司已经开始 。这有利于科学创新，也有助于与大型科技公司竞争。但一旦 AI 模型开源，任何人都可以对其进行修改。安全防护措施可以迅速被撤销。

幸运的是，美国政府已经开始 ，作为对学者、小型企业和初创公司的公共服务。强大的 AI 模型可以通过国家云进行访问，允许受信任的研究人员和公司使用它们，而无需将模型发布到互联网上供所有人使用，因为它们可能会被滥用。

各国甚至可以共同建立一个国际资源，用于在人工智能方面的全球科学合作。今天，23 个国家参与了欧洲核子研究组织 (CERN)，该组织是一个运行着世界上最先进粒子加速器的国际物理实验室。各国应该 ，创建一个全球计算资源，让科学家能够在人工智能安全方面进行合作，赋能世界各地的科学家。

人工智能的潜力巨大。但要释放人工智能的益处，社会也必须管理其风险。通过控制人工智能的物理输入，各国可以安全地治理人工智能，并为安全繁荣的未来奠定基础。这比许多人想象的更容易。