10 月 8 日消息,上周,OpenAI 推出其 Sora 2 视频生成器时宣称,公司已采取措施默认“禁止生成公众人物的形象”。然而,Sora 2 的创作者和观众发现,这一禁令存在一个大漏洞 —— 允许生成已故公众人物的视频内容。
注意到,如今在社交媒体上,此类利用 AI 技术让已故名人“复活”的例子比比皆是:图派克・沙库尔(Tupac Shakur)与马尔科姆・X(Malcolm X)交谈;李小龙主持一场“龙之能量”主题的 DJ 演出;迈克尔・杰克逊在厨房里表演单口喜剧;斯蒂芬・霍金的轮椅在巨型滑板坡道上翻车;弗雷德・罗杰斯先生(Mister Rogers)客串《蠢蛋搞怪秀》(Jackass);科特・柯本(Kurt Cobain)偷走肯德基的鸡块;马丁・路德・金博士结结巴巴地发表重要演讲…… 这样的例子不胜枚举。
OpenAI 会在每段生成的视频上叠加动态水印,以降低观众被虚假影像误导的风险。尽管如此,看到逝去的名人被 AI 工具当作道具使用,显然会令其在世的亲属和粉丝感到不适。
“请不要再给我发关于我父亲的 AI 视频了,”周一一则已被删除的 Instagram 动态中,泽尔达・威廉姆斯(Zelda Williams)写道(该动态已被存档)。她所指的是她已故的父亲罗宾・威廉姆斯(Robin Williams)。“别再以为我会想看这些内容,或认为我能接受 —— 我不会,也永远不会…… 这很愚蠢,浪费时间和精力。相信我,这绝不是他希望看到的。”
提及罗宾・威廉姆斯本人可能的态度至关重要。OpenAI 指出,活着的用户(包括公众人物)可选择加入 Sora 2 的“客串”(cameos)功能,通过智能手机扫描面部,即可“高度逼真地”将自己的形象直接嵌入任何 Sora 场景中。公司承诺,参与该功能的用户将“端到端掌控自己的肖像权”,该功能的设计旨在“确保你的声音和形象仅在获得你明确同意的情况下被使用”。此外,用户可随时撤销对其扫描图像的访问权限,并对他人使用该扫描图像创作的内容拥有审核控制权。
但显然,已故公众人物无法对 Sora 2 的客串功能表示同意,也无法行使这种“端到端”的肖像控制权。而 OpenAI 对此似乎持默许态度。“我们目前没有进一步评论,但我们确实允许生成历史人物的形象,”一位 OpenAI 发言人近日向 PCMag 表示。
OpenAI 此前已因 Sora 处理虚构版权作品的方式被迫做出调整。首席执行官萨姆・奥尔特曼(Sam Altman)上周末表示,现在版权所有者必须主动选择“加入”(opt-in),其角色才能出现在 Sora 2 视频中(而非服务上线初期的“退出”机制),并且他们将从相关 Sora 视频产生的收入中获得分成。奥尔特曼还承诺,“更多变革即将到来”,并强调“我们将保持快速迭代 —— 可能会做出一些正确决策,也会犯些错误,但我们重视反馈,并将迅速纠正失误”。