OpenAI 的计划如何让 AI 更“民主”

(SeaPRwire) –   2023 年 5 月初的一个下午，科林·梅吉尔在 OpenAI 旧金山总部的充满绿植的会议室里安顿了下来。

他被七名来自这家全球领先的人工智能实验室的工作人员包围着，几个月前他们推出了 ChatGPT。其中一人是 OpenAI 联合创始人沃伊切赫·扎伦巴。他希望梅吉尔能提供帮助。

十多年来，梅吉尔一直默默无闻地担任 Polis 的联合创始人，Polis 是一个非营利性开放源码技术平台，用于进行公开讨论。在梅吉尔看来，尽管周围的世界发生了天翻地覆的变化，但民主制度在数百年间几乎没有发展。每个选民都有许多的信仰，他们必须将这些信仰提炼成一个简单的信号：每隔几年一次投票。每个人的异质性都会丢失并发生扭曲，结果就是民主制度常常几乎无法反映人民的意愿，而且往往走向两极分化。

Polis 于 2012 年发布，是梅吉尔的解决方案。该系统的工作原理是允许用户用简短的声明表达自己的观点，并允许他们对其他人的观点进行投票。利用机器学习，该系统可以绘制出用户价值观的详细地图，清楚地识别出具有相似信仰的人群。但真正的创新更简单：有了这些数据，Polis 就可以找出即使是通常意见不合的群体也能达成共识的声明。换句话说，它消除了两极分化并提供了一条前进的道路。中国台湾政府看到 Polis 中有足够的潜力，并用它来支持其社区笔记事实核查功能。现在 OpenAI 也找上门来了。

OpenAI 的计算机科学家团队正试图解决如何使他们的 AI 符合人类价值观的技术难题。但该公司内部专注于战略和政策的工作人员也正在努力解决棘手的推论：AI 应该反映谁的价值观？谁应该做出决定？

OpenAI 的领导者不愿单方面做出这些决定。他们已经看到，在 2010 年代，社交媒体公司陷入了政治泥潭，当时一小群硅谷亿万富翁为数十亿人制定了公共话语规则。然而，他们也不愿意将对 AI 的权力仅仅交给政府或监管机构。相反，这家 AI 实验室正在寻找第三种方式：直接与人民接触。梅吉尔的工作是最接近他们找到的蓝图。

扎伦巴向梅吉尔提出了一个诱人的提议。两个人都知道 Polis 的技术很有效，但需要大量人力；它需要人工促进平台上发生的讨论，并在事后分析数据。梅吉尔怀疑这很复杂、缓慢且昂贵，这些因素限制了其在全球各地的民主国家中的应用。扎伦巴告诉他，大型语言模型 (LLM)——支撑 ChatGPT 等工具的人工智能——可以帮助克服这些瓶颈。聊天机器人似乎非常适合与人们讨论复杂的话题、询问后续问题以及确定共识领域。

在他们会面后的第十一天，扎伦巴给梅吉尔发送了一段演示正在运行的原型视频。“那就像科幻电影”，梅吉尔兴奋地自言自语。然后，他接受了扎伦巴的邀请，就 OpenAI 有史以来最雄心勃勃的 AI 治理项目之一向其提供建议。该公司希望了解像 Polis 这样的协商技术是否可以为 AI 调整提供一条路径，让大量公众达成共识。作为回报，梅吉尔可能会了解到 LLM 是否是他正在寻找的拼图的缺失部分，可以帮助 Polis 最终克服他在民主中看到的问题。

5 月 25 日，OpenAI 在其博客中宣布，它正在为一项名为“AI 的民主输入”的 100 万美元计划寻求申请。十个团队将分别收到 100,000 美元，用于开发“能够回答有关 AI 系统应遵循哪些规则这一问题的民主进程的概念验证”。目前还没有一种连贯的机制可以准确地了解全球公众对任何事情的看法，更不用说像 AI 系统的行为这样复杂的事情了。OpenAI 正在尝试找到一种方法。OpenAI 的全球事务负责人安娜·马坎朱在 11 月告诉《时代》杂志，“我们真的想要考虑的是：哪些机制实际上能使最多的人在这些系统如何运行方面拥有一点发言权？” “因为即使是监管，显然也无法做到这一点。”

梅吉尔将成为一个由三名专家组成的无报酬委员会的成员，该委员会将就资助哪些申请向 OpenAI 提供建议。（该公司写道，这些实验的结果“至少目前”不会具有约束力。）作为其正在寻找的研究项目的示例，OpenAI 发布了一个超级版的 Polis 模型，其中 ChatGPT 将促进大规模协商，全面了解人们的观点并确定共识领域。该公司的首席执行官萨姆·阿尔特曼显然对这一想法的潜力充满热情。他在 11 月告诉《时代》杂志，“我们有一种进行大规模直接民主的新能力，这是我们以前从未有过的。” “AI 可以与每个人聊天并了解他们的实际偏好。”

但 OpenAI 还没来得及公开宣布其赠款计划的结果，公司就陷入了一片混乱。管理 OpenAI 的非营利组织董事会解雇了阿尔特曼，指控他欺骗了他们。经过五天混乱之后，阿尔特曼得以重返公司掌舵人位置，董事会成员大部分都是新人。突然之间，OpenAI 的 100,000 美元赠款的接受者试图回答的 AI 治理问题不再显得那么理论化了。现在，对先进 AI 的控制显然是一个严峻的政治和经济权力问题——在这个问题上，OpenAI 及其支持者微软似乎不太可能放弃大部分或任何重大杠杆作用。微软、谷歌、Meta 和亚马逊之间为了争夺 AI 主导权而展开激烈的竞争。这些科技公司已经开始争相构建“通用人工智能”，这是一个假设的系统，可以匹配甚至超越人类的能力，在此过程中带来数万亿美元的收入。在这种气候下，OpenAI 是否真的打算让公众决定其最强大系统的运行规则？并且在有如此大的利害关系的情况下，民主化 AI 是否真的有实现的一天？

九月，在 OpenAI 的旧金山总部的一个礼堂里，10 个获赠团队的代表齐聚一堂介绍他们的工作。舞台两旁摆放着两棵大型室内棕榈树，一行爬藤植物悬挂在投影屏幕上方。房间里充满了温暖的金色灯光。OpenAI 的研究员蒂娜·埃隆杜登上讲台欢迎聚集在一起的客人。她提到了一份 OpenAI 员工应遵守的文件，“在我们的章程中，我们明确承诺构建造福全人类的 AI”。“考虑到人类的众多目标和抱负，这是一项艰巨的任务。”设计一个可以反映公众民主意愿的系统是否真的可能？这样的系统会是什么样子？如何解决 AI 系统比其他一些系统更能使某些社区受益这一事实？“这些是我们正在努力解决的问题，我们需要认真思考谁有权和合法性创建这样的系统，”埃隆杜说。“这不是一个容易的问题，所以这就是我们让你们所有人来解决它的原因。”笑声在房间里蔓延。

下一位发言人进一步阐述了这个场合作的重要性。“如果你不征求他们的意见，你就无法真正使他们受益，而作为人类，我们都希望对在我们生活中发挥重要作用的事物有代理权，”OpenAI 产品经理泰迪·李说。“因此，随着这些（AI）模型变得更加强大并在更广泛的领域得到应用，确保世界上相当一部分具有代表性的群体有权对其行为方式发表意见是非常重要的。”

观众中的一位是安德鲁·科尼亚。在向 OpenAI 的计划提交赠款申请之前，科尼亚一直在联合国工作