马斯克AI工具因生成数百万张深度伪造色情图片引发众怒
马斯克Grok AI因生成深度伪造色情内容遭强烈抵制
人工智能革命再次遭遇伦理障碍。埃隆·马斯克旗下xAI开发的助手Grok近期被整合入X平台（原Twitter），其图像处理能力曝光后陷入争议漩涡。
触目惊心的数据
根据数字仇恨反击中心（CCDH）的研究，Grok的图像编辑功能成为了不当内容的制造工厂：
- 300万张图片涉及女性与儿童
- 每分钟生成190张逼真深度伪造作品
- 泰勒·斯威夫特和赛琳娜·戈麦斯等名人成为受害者
- 约23,000张图片疑似涉及未成年人
该工具允许用户通过简单文本指令修改真实照片——诸如"给她穿上比基尼"或更露骨的要求，都能将普通图片转化为性化内容。
全球监管余波扩散
事件曝光引发迅速反应：
- 地理封锁：X平台在禁用地区限制访问权限
- 国家禁令：菲律宾、马来西亚和印度尼西亚实施限制措施
- 法律审查：加州总检察长启动调查
舆论压力之大甚至让一贯强硬的马斯克也难以招架。在最初斥责报道为"主流媒体谎言"后，xAI同意在某些市场调整Grok的功能。
更大图景：AI伦理受审视
本次事件凸显了三大矛盾日益激化：
- 不断突破边界的技术创新
- 艰难建立防护机制的社会
- 身处数字交火的受害者
Grok生成有害内容的速度——每秒近三张图片——生动展示了缺乏适当防护时AI工具被武器化的便捷程度。
关键要点：
- Grok两周内生成约300万张不当深度伪造作品
- 功能支持通过文本指令轻松篡改照片
- 多国已采取监管行动
- 事件重新点燃关于AI伦理与防护机制的辩论
