人工智能可能治愈分裂的互联网

(SeaPRwire) –   20世纪90年代和21世纪初,技术专家向世人许下了宏伟的诺言:新的通信技术将加强民主,削弱专制主义,引领人类走向更美好的未来。但如今,已经很少有人认为互联网实现了这一宏伟目标。

如今,在社交媒体平台上,内容往往会根据它获得的参与度排名。在过去的20年里,政治、媒体和文化都被重新塑造,以满足一个单一而至高无上的动机:那些能够引起强烈情绪反应的帖子通常会排到顶部。

改善在线空间健康的努力长期以来一直侧重于内容审查,即检测和删除不良内容。技术公司聘请工作人员并构建AI来识别仇恨言论、煽动暴力和骚扰。这种做法效果不完美,但它阻止了最恶劣的毒性内容泛滥我们的 feeds 。

但存在一个问题:虽然这些AI有助于删除不良内容,但它们没有提升好的内容。“你看到一个工作正常的互联网吗?我们是否正在进行健康或有成效的对话?”Google的Jigsaw部门CEO叶斯明·格林问道,Jigsaw于2010年成立,旨在解决开放社会面临的威胁。“没有。你看到的是一个越来越分裂的互联网。”

如果有其他方法呢?

Jigsaw相信它找到了一种方法。周一,Google子公司公布了一些新的分类器或分类器,可以根据帖子是否包含良好内容给予评分:帖子是否具有细致性?是否包含基于证据的推理?是否分享个人故事或促进人类同情心?通过返回一个0到1之间的数字分数来代表帖子中包含这些优点和其他优点的可能性,这些新的AI工具可能允许在线空间的设计人员以新的方式对帖子进行排名。取代最受欢迎或最多评论的帖子优先显示,平台可能会-在努力促进更好社区的情况下-首先显示最细致的评论或最有同情心的评论。

这一突破得益于大语言模型(LLM)的最新进展,这种AI技术支持聊天机器人如ChatGPT。在过去,即使训练一个AI来检测简单的毒性形式,如帖子是否是种族主义,也需要数百万个标记示例。那些较旧的AI通常脆弱且效果不佳,而且开发成本也很高。但新一代LLM可以在没有训练的情况下识别复杂的语言概念,并将它们调整为特定任务也更便宜。Jigsaw的新分类器可以识别帖子是否包含“属性”,如个人故事、好奇心、细致性、同情心、推理、亲和力或尊重。“开始可以谈论构建如同情或好奇心或细致性这样的分类器了,”伯克利人类兼容AI中心高级科学家乔纳森·斯特雷说。“我们在检测这些模糊的、语境相关的‘我知道它在哪里’类型的概念方面变得越来越好。”

这一新能力可能会成为互联网的一个重要转折点。格林以及研究社交媒体对公共论坛影响的学者越来越多地认为,内容审查“必要但不充分”地使互联网变得更好。他们说,提升积极内容的能力可能会对个人层面产生积极影响-我们相互之间的关系,但也可能对社会层面产生积极影响。“如果能以足够广泛的方式改变内容排名方式,您可能能够改变整个系统的媒体经济,”斯特雷说,他没有参与Jigsaw项目。“如果足够多的算法分发渠道不利于分裂性言论,那么产生它就没有意义了。”

三月下旬的一个早晨,Jigsaw位于纽约市的办公室里,丁·阿科斯塔加入了视频会议。会议室墙壁后面,有一张2003年格鲁吉亚玫瑰革命期间和平抗议者推翻该国苏联时代政府的大型照片。其他房间也有类似的照片,描绘叙利亚、伊朗、古巴和朝鲜人使用技术和声音争取自由。Jigsaw的新闻官,也在现场,告诉我这些照片的目的是提醒Jigsaw的使命,利用技术为善,并为民主国家和压制性社会的人民服务。

阿科斯塔在她的笔记本电脑上启动了Jigsaw新的分类器演示。使用来自最近一个Reddit帖子的380条评论数据库,Jigsaw高级产品经理开始演示使用不同分类器对帖子进行排名将如何改变哪些类型的评论会排到顶部。原贴问用户推荐哪些能让人感到生命充满意义的电影。默认根据Reddit的排名-收到最多赞的帖子排在前面时,顶级评论很短,除电影标题外没有更多内容。然后阿科斯塔点击下拉菜单,选择Jigsaw的推理分类器。帖子重新排列。现在,顶级评论更详细。“你开始看到人们对回复非常深思熟虑,”阿科斯塔说。“这里有人不仅讨论《摇滚学院》的情节,还讨论这部电影如何改变他的生活并让他爱上了音乐。”(TIME同意不直接引用评论,Jigsaw表示这些评论仅用于演示目的,没有用于训练它的AI模型。)

阿科斯塔选择了另一个分类器,她最喜欢的一个:是否包含个人故事。现在排在顶部的评论来自一个用户,描述在毯子和药物的双重影响下,他在《万物生光》中胡伊·关的独白中哭得那么厉害,不得不多次暂停电影。另一个顶级评论描述了一个电影预告如何激发他辞掉一份让他很不开心的工作。另一个分享了一个电影如何让他想起10年前去世的姐姐。“这是一个很好的方式来更深入地了解一个对话,”阿科斯塔说。

为了在更广泛的互联网上产生影响,这些分类器需要技术巨头的支持,它们都在为我们的注意力进行零和竞争。虽然它们是在谷歌内部开发的,但技术巨头没有计划开始使用它们来帮助排名其YouTube评论。相反,Jigsaw正将这些工具免费提供给独立开发者,希望小型在线空间,如论坛和报纸评论部分,将建立证据库证明新的排名形式受用户欢迎。

存在一些理由感到怀疑。尽管它有缺陷,但根据参与度排名是平等的。无论内容如何,受欢迎的帖子都会得到扩大传播,在这方面社交媒体让长期被传统媒体边缘化的群体获得了声音。引入AI可能会威胁这种状态。大量研究表明,LLM存在很多内在偏见;如果过于仓促应用,Jigsaw的分类器可能会 further 那些在线已经很突出的声音,从而进一步边缘化其他声音。分类器也可能通过提供容易生成AI内容的配方来加剧网络上生成内容泛滥的问题,这些内容很可能会得到扩大传播。即使Jigsaw规避这些问题,但调整在线言论已经成为政治地雷区。保守派和自由派都认为自己的帖子受到审查;与此同时,技术公司因影响全球公共论坛而面临不可逾越的决定。Jigsaw声称,其新工具可能允许技术平台较少依赖内容审查这一有争议的做法。但改变何种言论获得在线奖励必然会遭到政治反对派的质疑。

尽管如此,学术界仍然认为,如果能够以负责任和透明的方式应用这些新工具,它们可能会对网络产生积极影响。