英国因Grok深度伪造滥用问题，拟对埃隆·马斯克旗下X平台处以罚款并可能封禁

(SeaPRwire) –   [此处原文缺失]周一加大了对AI生成性虐待内容的打击力度，此前部长们确认可能禁止埃隆·马斯克的社交媒体平台X（同时展开扩大调查，该公司可能面临巨额罚款）。

这一重大举措源于英国通信监管机构Ofcom启动的一项调查，以确定X是否违反了英国《在线安全法案》下的法律义务；此前有报道称，该平台内置的AI聊天机器人Grok被用于生成和分享女性及儿童的性化深度伪造图像。

Grok于2023年推出，但它的图像生成功能Grok Imagine于2025年添加，带有专门生成成人内容的模式。

英国科学、创新与技术大臣莉兹·肯德尔（Liz Kendall）称，最近该AI工具被滥用来生成露骨性内容和非自愿图像，“令人深感不安”。

肯德尔还警告称，如果社交媒体公司不采取行动，将被追究责任。

“我欢迎Ofcom今日紧急启动正式调查，”肯德尔表示，根据[原文缺失部分]，“Ofcom迅速完成调查至关重要，因为公众——最重要的是受害者——不会接受任何拖延。”

在周一晚些时候分享的[原文缺失部分]中，肯德尔表示，Grok AI工具已被用来创建和传播有辱人格的非自愿私密图像。

“任何女性或儿童都不应生活在担心自己的图像被性操纵的恐惧中，”她补充道，“在X上传播的内容极其恶劣。这不仅是对文明社会的侮辱，更是违法的。”

肯德尔补充道，根据英国法律，未经同意分享或威胁分享深度伪造的私密图像（包括穿着内衣的图像）构成刑事犯罪。

她警告称，Ofcom有权处以[原文缺失部分]或高达公司全球合格收入10%的罚款。

“但X不必等待Ofcom调查结束，”肯德尔表示，“他们可以选择立即采取行动，确保这种可恶且非法的内容无法在其平台上传播，”她警告道。

Ofcom此前表示，已于1月5日“紧急联系”X，要求其解释为保护英国用户采取的措施，并设定1月9日为回复截止日期。

虽然马斯克创立的另一家公司xAI做出了回应，但Ofcom表示，在审查现有证据后，决定“作为最高优先级事项”启动正式调查。

在周一分享的[原文缺失部分]中，Ofcom表示：“有关Grok被用于在X上创建和分享非法非自愿私密图像及儿童性虐待材料的报道令人深感担忧。”

该声明称：“平台必须保护英国民众免受英国境内非法内容的侵害，若我们怀疑公司未尽职责（尤其是存在伤害儿童的风险时），将毫不犹豫地展开调查。”

正如[原文缺失部分]此前报道的那样，该聊天机器人在X上的公开帖子中承认，它生成并分享了一张描绘两名年轻女孩穿着性化服装的AI图像，称该事件是“安全措施失效”，并对造成的伤害表示歉意。

面对越来越多的批评，Grok证实已开始限制部分图像生成和编辑功能仅对付费用户开放。该聊天机器人表示，实施这些限制是为了防止进一步滥用。

马斯克周一还指责英国政府“法西斯主义”，称其“因社交媒体帖子逮捕数千人”。

这位特斯拉的亿万富翁创始人回应了X上的一篇帖子，该帖子称英国因社交媒体帖子逮捕的人数比“世界上任何其他国家都多”。

在Ofcom展开调查的同时，英国政府宣布，将AI生成非自愿私密图像定为犯罪的立法将于本周生效。

肯德尔表示，责任不仅仅在于个人。

“托管此类内容的平台必须承担责任，包括X，”她说。

她表示，如果这些平台不采取行动，她“准备采取进一步措施”。

与此同时，英国首相基尔·斯塔默（Keir Starmer）的官方发言人表示，政府在该平台上的存在正“接受审查”，且“所有选项都在考虑之中”。

[原文缺失部分]周一还报道称，马来西亚和印度尼西亚已成为首批封锁Grok的国家。

Digital已联系埃隆·马斯克和英国首相基尔·斯塔默办公室征求意见。

美联社（The Associated Press）和路透社（Reuters）对此报道有贡献。