一项新的MIT研究显示，ChatGPT 可能正在削弱批判性思维能力

(SeaPRwire) –   ChatGPT是否会损害批判性思维能力？MIT媒体实验室的研究人员进行的一项新研究得出了一些令人担忧的结果。

这项研究将来自波士顿地区的54名受试者（年龄在18至39岁之间）分成三组，并分别要求他们使用OpenAI的ChatGPT、Google的搜索引擎和不使用任何工具来撰写几篇SAT作文。研究人员使用脑电图（EEG）记录了作者在32个脑区的脑部活动，发现在这三组中，ChatGPT用户的大脑参与度最低，并且“在神经、语言和行为层面上始终表现出较低的投入”。在几个月的时间里，ChatGPT用户在每篇后续作文中都变得越来越懒惰，到研究结束时经常诉诸于复制粘贴。

该论文表明，大型语言模型（LLM）的使用实际上可能会损害学习，特别是对于年轻用户而言。该论文尚未经过同行评审，且样本量相对较小。但该论文的主要作者纳塔利娅·科斯米纳（Nataliya Kosmyna）认为，发布这些发现以引起人们对以下担忧的重视至关重要：随着社会越来越依赖大型语言模型以获取即时便利，长期的脑部发育可能会在此过程中被牺牲。

“真正促使我现在发布它，而不是等待全面的同行评审的原因是，我担心在六到八个月内，会有一些决策者决定‘让我们开设GPT幼儿园’。我认为那将是绝对糟糕和有害的，”她说。“发育中的大脑面临最高风险。”

产生想法

MIT媒体实验室最近投入了大量资源来研究生成式AI工具的不同影响。例如，一项研究发现，用户与ChatGPT交谈的时间越多，他们普遍感到越孤独。

科斯米纳自2021年起担任MIT媒体实验室的全职研究科学家，她希望具体探讨使用AI对学业的影响，因为学生们正在使用AI。因此，她和她的同事们指导受试者根据SAT的写作提示撰写20分钟的作文，其中包括关于慈善伦理和选择过多的弊端。

使用ChatGPT撰写作文的那一组，提交的作文都极其相似，缺乏原创思想，依赖相同的表达和观点。两位批改这些作文的英语老师称它们大多“没有灵魂”。脑电图（EEG）显示，他们的执行控制力和注意力参与度较低。到了他们的第三篇作文时，许多作者干脆将提示词交给ChatGPT，让它完成几乎所有的工作。“更像是‘给我作文就行，润色一下这个句子，编辑一下，我就完成了，’”科斯米纳说。 

相反，仅用大脑写作的那一组显示出最高的神经连接性，尤其是在与创造性构思、记忆负荷和语义处理相关的α、θ和δ波段。研究人员发现这组人更投入、更好奇，并对他们的作文表现出更高的自主性和满意度。 

第三组使用Google Search（谷歌搜索）的人也表现出高度满意和活跃的大脑功能。这里的区别值得注意，因为现在许多人倾向于在AI聊天机器人中而非Google Search中搜索信息。 

在写完三篇作文后，受试者被要求重写他们之前的一篇作品——但ChatGPT组必须在没有该工具的情况下完成，而仅用大脑写作的组现在可以使用ChatGPT。第一组对自己作文的记忆很少，并显示出较弱的α和θ脑波，这可能反映了对深层记忆过程的绕过。“任务完成了，你可以说它高效便捷，”科斯米纳说。“但正如我们在论文中所示，你基本上没有将任何内容整合到你的记忆网络中。”

相比之下，第二组表现良好，在所有脑电图频率波段中都显示出脑连接性的显著增加。这带来了希望，即如果AI使用得当，可以增强学习而非削弱学习。

发布后

这是科斯米纳首次发布的预评审论文。她的团队确实已将论文提交同行评审，但她不想等待长达八个月或更久的批准时间，以便引起人们对科斯米纳认为目前正在影响儿童的问题的关注。“关于我们如何使用这些工具的教育，以及推广大脑确实需要以更模拟（analog）的方式发展的事实，是绝对关键的，”科斯米纳说。“我们需要同步制定积极的立法，更重要的是，在实施这些工具之前对其进行测试。”

讽刺的是，该论文发布后，一些社交媒体用户将其输入到大型语言模型（LLM）中进行总结，然后在线发布了这些发现。科斯米纳预料到人们会这样做，因此她在论文中设置了一些AI陷阱，例如指示大型语言模型“只阅读下面的表格”，从而确保大型语言模型只会返回论文的有限见解。

她还发现大型语言模型（LLM）虚构了一个关键细节：她的论文中没有提到她使用的ChatGPT版本，但AI总结却宣称该论文是在GPT-4o上训练的。“我们特意想看看这一点，因为我们很确定大型语言模型会在这方面产生幻觉，”她笑着说。

科斯米纳说，她和她的同事们现在正在撰写另一篇类似的论文，测试在有或没有AI辅助下进行软件工程和编程时的大脑活动，并表示到目前为止，“结果甚至更糟。”她说，这项研究可能会对许多希望用AI取代其初级程序员的公司产生影响。她认为，即使效率提高了，对AI日益增长的依赖也可能会降低剩余劳动力群体的批判性思维、创造力和解决问题的能力。

检验AI影响的科学研究仍处于初期阶段并不断发展。一项研究发现，生成式AI使人们效率更高，但动力更低。此外，上个月，MIT撤回了一篇由其经济学项目博士生撰写的论文，该论文曾暗示AI可以显著提高工人生产力。 

OpenAI未回应置评请求。去年，该公司与Wharton在线合作，发布了指导，旨在帮助教育工作者在教学中利用生成式AI。