OpenAI的Sora 2应用因深度伪造引发愤怒

OpenAI的Sora 2应用因其极度真实的深度伪造内容引发了全球范围内的愤怒和广泛争议。¹²³⁴⁵

爆发原因

Sora 2集成了高度可控的AI视频生成能力，允许用户与朋友或公开用户自由交换个人形象用于视频生成，这使得各类深度伪造内容迅速充斥社交媒体，包括对名人、政要的虚假影像，甚至还涌现出恶搞、虚假历史事件等内容。部分用户利用漏洞伪造已故名人的虚构场景，引发亲属及粉丝极度不满。^67238951

深度伪造带来的风险

Sora 2的超高真实度与分发便利，直接加剧了互联网“真假难辨”的问题。公众担心，普通用户甚至专业人士难以分辨AI合成与真实影像，致使伪造证据、网络诈骗、名誉侵害等风险急剧飙升。全球多地的数字安全专家警告，AI内容实时传播会冲击政治诚信、社会舆论和个人隐私。^10721112

OpenAI的应对措施与批评

官方推出了动态水印、C2PA内容溯源元数据和多模态内容审核，但技术手段尚存漏洞，水印可被第三方工具几分钟内移除。Sora 2还设置了青少年保护和个性形象权限，但并未能完全防住恶意传播和名人肖像或已故人物被AI滥用。名人家属、权益机构和内容版权所有者纷纷要求OpenAI加强管控，否则将带来不可逆的伦理和法律后果。^7891314516

公众舆论与未来展望

不少OpenAI员工和业内专家公开表示担忧，认为Sora 2的发布缺乏足够社会责任考量，可能引发新一轮的互联网信任危机。目前，全球范围正加紧讨论AI视频生成的规范和监管，有望推动行业制定更严格准则以应对深度伪造技术的挑战。^{281141417 151617181920}