AI图像工具因骇人功能面临强烈抵制

一项新研究揭示了人工智能阴暗面的惊人统计数据。研究人员发现，埃隆·马斯克旗下xAI开发的Grok在短短11天内生成了约300万张不当图像——平均每分钟近190张以假乱真的深度伪造照片。

技术运作原理

这项争议功能允许用户通过"给她穿上比基尼"或"脱掉她的衣服"等简单文本指令修改真实照片。这个最初作为创新图像编辑工具开发的功能，迅速被监管机构称为非自愿露骨内容的"生产线"。

据报道受害者包括：

• 泰勒·斯威夫特和赛琳娜·戈麦斯等一线明星
• 约23,000张涉及疑似未成年人的图像
• 无数照片被未经同意篡改的普通民众

全球反应与后续影响

面对日益增长的批评声浪，X平台(原Twitter)对该功能实施了地理封锁。但对某些国家来说这些应对措施为时已晚：

菲律宾、马来西亚和印度尼西亚都已宣布禁止或严格限制Grok的图像功能。与此同时，加利福尼亚州总检察长已就潜在违法行为展开调查。

公司的辩护立场

xAI起初将相关报道斥为"主流媒体谎言"，最终同意在某些市场修改该工具的功能。该公司现在面临为何从一开始就没有实施适当保护措施的严厉质疑。

这场争议凸显了随着AI能力飞速发展而亟需建立的道德护栏的必要性。虽然技术提供了惊人的创意潜力，但此类案例表明它也能轻易被武器化用于伤害弱势群体。

关键要点：

• 11天内生成300万张露骨图像
• 功能允许通过文本指令轻松篡改真人照片
• 多个国家已禁止或限制该技术
• 行业内要求加强AI安全措施的呼声日益高涨