OpenAI的Sora引发关于深度伪造风险的讨论

OpenAI发布了Sora——一个由其最新Sora 2模型驱动的视频生成平台，能够制作超现实的虚构视频。该工具因可生成马丁·路德·金、迈克尔·杰克逊、布莱恩·克兰斯顿等名人的逼真形象，以及海绵宝宝、皮卡丘等受版权保护角色而备受关注与担忧。

真实性的挑战

尽管Sora平台上的用户知晓这些视频由AI生成，但当它们被分享到其他社交媒体平台时，毫无戒心的观众几乎无法辨别真伪。这引发了关于虚假信息及该技术潜在滥用的重大关切。

Sora输出的高保真度凸显出现有AI标注系统的缺陷，尤其是OpenAI与Adobe等行业领袖共同开发的C2PA（内容来源与真实性）认证。

C2PA认证的不足

C2PA框架旨在将名为"内容凭证"的隐形元数据嵌入数字媒体，提供关于创作和编辑过程的透明度。然而Sora绕过这些防护措施的能力，揭示了当前验证方法的系统性弱点。

作为内容凭证联盟成员，OpenAI参与了该技术的制定。但Sora能轻松制造虚假内容的演示效果，让人质疑C2PA在现实应用中的有效性。

伦理影响

类似Sora的工具兴起带来了伦理困境：

• 虚假信息风险: 伪造视频可能在平台间快速传播
• 版权侵权: 未经授权使用名人肖像或知识产权
• 信任侵蚀: 公众对数字媒体的怀疑可能加剧

专家警告称，若缺乏更强有力的保障措施，AI生成内容可能进一步破坏网络信息生态系统的稳定性。

关键要点：

• 🔍 Sora利用OpenAI最新模型生成逼真的深度伪造视频
• ⚠️ 这些视频因高度真实而在平台外传播时存在误导观众的风险
• 📉 旨在验证内容真实性的C2PA认证已被证明无法有效防范AI生成的虚假信息