OpenAI因伦理问题在Sora平台上封禁MLK视频生成
OpenAI限制Sora平台上的MLK视频生成
OpenAI已暂时禁止使用其Sora AI视频生成工具创建描绘马丁·路德·金的视频。此举源于该民权领袖遗产管理机构的正式请求，此前用户生成了被公司称为"具有冒犯性"的内容。
伦理考量成为优先事项
OpenAI在社交平台X上发布的声明中解释："虽然关于历史人物的言论自由仍然重要，但我们认为公众人物及其家属应保留对其肖像使用方式的控制权。"该公司已建立相关协议，允许授权代表申请禁止特定肖像的使用。
这项限制措施在Sora作为OpenAI社交视频平台推出后不久实施，该平台原本允许用户创建包含历史人物、朋友或经同意个人的逼真AI生成视频。然而这项技术的亮相引发了关于以下问题的激烈讨论：
- 内容安全协议
- 技术保障措施
- AI生成媒体的伦理边界
家属关切促进行动
民权运动标志性人物之女伯妮丝·金近期呼吁Instagram用户停止分享其父亲的AI生成视频。她的立场与罗宾·威廉姆斯女儿对逝者数字复刻表达的担忧相呼应。
据华盛顿邮报报道，部分Sora用户曾生成尤其令人不安的内容，显示金博士：
- 发出猴子叫声
- 与马尔科姆·X发生肢体冲突
该平台还出现过其他争议性视频，涉及艺术家鲍勃·罗斯、歌手惠特妮·休斯顿及前总统约翰·F·肯尼迪等知名人物。
扩展内容管控措施
自Sora推出以来，OpenAI已实施额外限制：
- 为版权持有者增强控制功能（10月初宣布）
- 更精细的肖像使用管理选项
- 跨平台差异化政策（值得注意的是ChatGPT仍保持更宽松规则）
该公司最近宣布将允许成年ChatGPT用户进行"露骨"对话，同时对Sora生成的视觉内容保持更严格监管。
管理层承认挑战存在
OpenAI首席执行官萨姆·奥尔特曼坦言对Sora发布日的潜在影响感到"紧张"。公司持续探索：
- 负责任的部署策略
- 内容审核的技术解决方案
- 创新与伦理约束间的平衡之道
马丁·路德·金遗产管理机构代表尚未就这些具体进展发表公开声明。
关键要点：
🌟 内容暂停: OpenAI应遗产管理机构要求停止MLK视频生成 🤖 伦理担忧: 冒犯性AI视频引发关于数字肖像权的公共辩论 🔒 强化控制: 新工具赋予版权持有者更强的内容管理能力 ⚖️ 政策差异: Sora的严格规则与ChatGPT更宽松的做法形成对比
