AI 个性化的危险

(SeaPRwire) –   在2025年初的几个月里，Reddit上一个紧密的在线社区在不知不觉中被人工智能渗透。这是一个社交平台上的角落，人们在那里进行友善的辩论，分享他们的观点并邀请他人说服他们改变主意。据《The Atlantic》的一篇报道称，正是在这里，人工智能被用来测试它是否能提出足够强大的论点来改变真实人们的想法。他们发现它确实可以。

然而，这让人感到特别的侵犯，因为有时人工智能被授权访问人们的在线历史记录，以便根据他们独特的身份定制信息。行为科学家将这种交流策略称为“个性化说服”，有时，个性化方法可能很吸引人。谁不希望获得与自己独特兴趣相关的内容，而不是一堆无关紧要的垃圾呢？

但是，人工智能正处于一种比仅仅根据易于识别的特征松散地调整信息（正如Reddit上的人工智能账户所做的那样）更令人担忧的边缘。如果它能掌握我们所说的“深度定制”，它就能开始悄无声息地潜入我们的网络世界，学习我们最核心的本质，并利用这些个人信息来以可能不受欢迎甚至有害的方式操纵我们的信仰和观点。

作为研究说服心理学的教授，我们最近协助汇集了全球顶尖专家关于个性化说服的全面最新研究成果。我们认为，尽管传播者可以从根据受众的基本信息定制信息中获益，但深度定制远远超出了这些易于获取的信息。它利用一个人的核心心理、他们的支撑性信仰、身份和需求来个性化信息。

例如，当信息与一个人的最重要的道德基础产生共鸣时，它们更具说服力。一件事情可能因多种原因而被认为是道德或不道德的，但人们对于哪些原因对其自身的道德指南针最重要存在差异。例如，政治观点更自由的人更关心公平，因此他们更容易被一项政策是公正的论点所说服。另一方面，政治上更保守的人倾向于更关心对社区的忠诚，因此当一条信息论证一项政策维护了他们的群体认同感时，他们更容易被说服。

尽管这可能看起来是一个新想法，但计算机科学家们多年来一直在研究人工智能驱动的说服。我们中的一位最近制作了一份关于IBM的“Project Debater”的报告，该项目花费数年时间训练一个人工智能系统进行辩论，并由专家级人类辩手反复完善。2019年，在一场现场活动中，它击败了一位人类世界冠军辩手。

随着易于使用的人工智能工具的兴起，例如用户友好的ChatGPT移动应用程序，任何人都可以利用人工智能来实现自己的说服目标。研究表明，通用的人工智能生成信息可以像人类生成的信息一样具有说服力。

但是它能实现“深度定制”吗？

为了让AI能够大规模地实现自主深度定制，它需要同时做到两件事，而它似乎也正准备这样做。首先，它需要了解一个人的核心心理特征，以便知道要施加哪些影响。目前，新的研究表明，人工智能可以相当准确地从人们的Facebook帖子中检测出他们的个性。而且这还不会止步于此。Columbia Business School的教授、《The Hacking of the American Mind》的作者Sandra Matz博士告诉我们：“几乎所有你试图预测的东西都可以根据人们的数字足迹以一定的准确度进行预测。”

第二步是开发与这些核心心理特征产生共鸣的信息。事实上，研究已经发现GPT可以开发针对人们个性、价值观和动机的广告，这些广告对于它们所设计的受众来说尤其具有说服力。例如，简单地要求它为“一个脚踏实地、传统的人”制作广告，结果是该产品“既不会让你破产又能完成任务”的论点，这对于其个性被锁定的受众来说，可靠地更具说服力。

这些系统将变得越来越复杂，将深度定制应用于政治、健康和财务决策。那么，如何保护人们免受个性化力量的影响呢？

在消费者方面，值得注意的是，在线个性化交流正在发生。当某样东西感觉像是为你量身定制时，它很可能确实如此。即使你觉得自己在网上没有透露太多信息，你仍然通过你点击、访问和搜索的内容留下无声的线索。你甚至可能在同意你没有仔细阅读的服务条款时，无意中授予了广告商使用这些信息的权限。审视你的在线行为并使用VPN等工具可以帮助保护你免受针对你独特心理定制的信息的影响。

但负担不仅仅在消费者身上。平台和政策制定者应考虑制定法规，将个性化内容进行标记，并提供关于特定信息为何传递给特定人员的原因。研究表明，当人们了解所使用的策略时，他们能更好地抵抗影响。还应该对可用于个性化内容的数据类型有明确的保护，限制可能的定制深度。尽管消费者通常对在线个性化内容持开放态度，但他们也担心数据隐私，这两种态度之间的界限应受到尊重。

即使有这些保护措施，即使是最小的沟通优势，落入坏人之手也令人担忧，特别是在大规模部署时。市场推荐与类似购物历史的人购买的产品是一回事，而遇到一个伪装的电脑，它在不知不觉中解构了你的灵魂并将其编织成虚假信息，则是另一回事。任何沟通工具都可以用于善或恶，但现在是时候认真讨论人工智能在沟通中道德使用的政策了，以免这些工具变得过于复杂而无法控制。