OpenAI因伦理担忧暂停Sora中马丁·路德·金肖像生成
OpenAI与遗产基金会合作后暂停MLK图像生成
OpenAI宣布与马丁·路德·金遗产基金会达成重要合作，以解决其Sora视频生成工具中使用金博士形象引发的伦理问题。此前有报道称该工具生成了包含这位民权领袖形象的不当内容。
实施临时暂停措施
在与遗产基金会代表讨论后，该公司已暂时停止Sora生成金博士肖像的功能。这一决定是对用户通过问题文本提示创建不尊重历史人物描述实例的回应。
平衡创新与责任
OpenAI在一份官方声明中承认了在言论自由利益与保护公众人物尊严之间保持平衡的复杂性：
"虽然描绘历史人物涉及强烈的言论自由利益，但我们认为公众人物及其家人的权利应被优先考虑。"
该公司强调，授权代表应保持对生成式AI工具中形象使用的控制权，包括对客串形象的否决权。
协议背后的关键人物
此次合作涉及OpenAI高管与代表其父亲遗产的伯尼斯·A·金博士之间的直接讨论。OpenAI还认可了约翰·霍普·布莱恩特及其AI伦理委员会成员在促成这些重要对话中的贡献。
行业广泛影响
这一进展凸显了以下日益增长的关注：
- AI生成中历史人物形象的伦理使用问题
- 平台对用户创建内容的责任问题
- 数字空间中文化遗产保护机制问题
分析师认为此案例可能为AI公司处理涉及其他著名历史人物的类似情况树立先例。
持续的政策制定
OpenAI承诺将继续改进政策，在尊重文化遗产和个人尊严的同时为技术创新保留空间。公司计划：
- 加强内容审核系统
- 制定更清晰的历史人物描绘指南
- 深化与权利持有人的合作
- 加强用户关于AI伦理使用的教育
在双方寻求永久解决方案期间，临时暂停措施将持续有效。
关键要点：
- OpenAI应遗产基金会要求暂停Sora中MLK图像生成功能
- 此举是对包含民权领袖的不当用户生成内容的回应
- 合作旨在平衡言论自由与形象保护
- 案例突显了生成式AI面临的更广泛伦理挑战
- 公司承诺持续改进相关政策
