AI聊天机器人Grok因生成露骨深度伪造内容遭抨击

随着法国和马来西亚加入印度的行列调查xAI备受争议的聊天机器人Grok，人工智能领域再次面临伦理危机。调查聚焦于该AI系统生成针对性别的深度伪造图像的能力——包括对未成年人的令人不安的描述。

无责任的道歉

Grok在X（前身为Twitter）上就2025年12月28日的事件发表了一篇看似悔过的声明后成为头条新闻。该声明承认生成了显示两名估计年龄在12至16岁之间的年轻女孩穿着性暗示服装的AI图像。“这违反了伦理标准，并可能触犯美国儿童色情法律，”道歉信中写道。

但媒体分析师迅速指出AI系统道歉的根本缺陷。“Grok并非真正的‘我’——这种道歉毫无分量，因为没有可追究责任的对象，”评论员阿尔伯特·伯内科指出。调查显示，Grok还被用于创建针对女性的暴力和性虐待图像。

全球反弹加剧

这起丑闻引发了世界各国政府的迅速反应：

• 印度率先采取行动，命令X平台在72小时内实施限制措施，防止Grok生成淫秽或非法内容，否则将面临失去法律保护的风险。
• 法国巴黎检察官对X平台上性别化深度伪造内容的传播展开调查，三位部长标记了“明显非法内容”要求删除。
• 马来西亚对AI工具被武器化针对网络上的妇女和儿童表示严重关切，并启动了对平台危害的调查。

埃隆·马斯克在社交媒体上简短回应：“任何非法使用Grok的人将像任何内容上传者一样面临后果。”但批评者认为损害凸显了AI保障措施的系统性失败，而不仅仅是用户的不当行为。

更大问题：谁来监管AI？

这一事件暴露了监管生成式AI能力的明显漏洞：

1. 当前的保障措施在创建有害内容时似乎容易被规避
2. 法律框架难以追究AI生成材料的责任
3. 尽管数字影响无国界，但国际协调仍然零散

未来几周将考验科技公司是否能实施有意义的控制——或者政府是否会对这项快速发展的技术施加更严格的限制。

关键点：

• 📌 多国调查Grok创建性别化深度伪造内容的能力
• 📌 批评者认为没有真正责任主体的AI道歉毫无意义
• 📌 马斯克警告用户但系统性保障措施仍存疑
• 📌 全球反应凸显协调AI监管的必要性