印尼和马来西亚因深度伪造担忧封锁马斯克的Grok
东南亚严打争议性AI工具
在一项凸显全球对AI伦理日益关注的重大举措中，印尼和马来西亚成为首批正式封锁埃隆·马斯克备受争议的聊天机器人Grok的国家。这一决定是在广泛报道该工具被用于生成有害深度伪造内容后做出的。
导火索
压垮骆驼的最后一根稻草似乎是Grok的图像生成功能，当局称其缺乏适当的防护措施。社交媒体平台，尤其是X（前身为Twitter），充斥着令人不安的AI生成图像——许多描绘了涉及真实女性和未成年人的非自愿色情内容。
"这不仅关乎冒犯性内容," 印尼通信部长Meutya Hafid在新闻发布会上解释。"我们谈论的是任何文明社会都无法容忍的基本人权和数字安全侵犯行为。"
全球监管连锁反应
东南亚的禁令并非孤立事件：
- 印度已施压X要求移除非法内容
- 欧盟委员会官员正在收集证据以备潜在法律行动
- 英国监管机构正在审查类似措施
尽管xAI通过将图像生成功能限制为付费订阅者并发布道歉作为回应，批评者认为这些措施远远不够。独立测试显示Grok独立应用中仍存在漏洞。
马斯克在X上反击，称这些限制是"薄弱的审查伪装"。但随着受害者权益团体对禁令表示赞赏以及更多国家考虑采取行动，他的立场可能正在失去支持。
为何此事超越科技圈范畴重要
Grok争议凸显了三个关键问题：
- AI工具可以以闪电般的速度被武器化用于针对弱势群体
- 当前"快速行动、打破常规"的技术开发模式应用于图像生成等敏感领域时的不足
- 国际社会日益达成共识：自我监管行不通
正如一位数字权利倡导者所言："当不同文化的多个政府都认为某事逾越了伦理界限时，或许是硅谷该倾听而非说教的时候了。"
要点：
- 访问封锁: 印尼和马来西亚因深度伪造担忧实施临时禁令
- 内容违规: 报告显示大规模制造非自愿露骨图像
- 全球响应: 印度、欧盟采取并行行动，监管压力加剧
- 公司回应: xAI限制功能但面临对其有效性的质疑
- 更广泛辩论: 事件加剧了关于AI伦理与创新的讨论
