如果我死了请不要用Sora复活我

最近，保时捷最佳销冠，被AI恶意伪造视频的事件冲上热搜，她第一时间去报警。但她不是唯一的受害者，被AI捏造、恶搞的公众人物名单还在不断延长，甚至延伸到了已经去世的人物。坐在轮椅上的霍金，如果看到他被鳄鱼攻击、被拳击手狂揍，他大概也想第一时间报警。这类让死者复活并恶搞的视频，最近成了Sora App上最热门的片段之一。原则上，OpenAI是禁止未经同意，制作和生成在世公众人物的视频，这也是Sora App中推出Cameo最重要的原因，帮助用户可以分享自己的角色。OpenAI对在世人物的形象使用有明确要求，必须本人允许，才可以使用。所以，一开始Sora的出圈视频，都是各种恶搞奥特曼，让它偷显卡、学唱跳、撒娇卖萌。但很快，一些用户发现，这项限制存在一个相当大的bug，就是Sora允许制作已故公众人物的视频。凭借着对逝世人物真实的还原效果、生成速度，以及各种恶搞传播，很快让它登顶应用排行榜第一。并在不到五天的时间里，Sora突破了100万次的下载，这速度超过了当年的ChatGPT。如果我死了，就别再用AI折腾我Robin Williams的女儿Zelda，在社交媒体上公开呼吁，不要再给她发送，关于她父亲的AI视频了。视频中，她的父亲在Sora 2的帮助下被“复活”，开始出演其他剧本。Robin Williams是一位演员，曾扮演《死亡诗社》中的Keating老师。最近在社交媒体上，流传的关于Robin的视频，包括一段苹果的虚假广告，以及Robin和另外一位已故演员，在颁奖典礼上的互动。逝世人物的恶搞视频，引起了相当一部分家属的不满。除了长期反对AI生成内容的Zelda Williams，在Instagram上愤怒地表示这些视频相当令人恶心。看着真实人物的遗产，被简化为“这大概看起来和听起来像他们，所以就够了”。这很愚蠢，是时间和精力的浪费，相信我，这绝对不是他想看到的。马丁·路德·金的女儿Bernice King，转发了Zelda关于这些AI视频的看法，并直言：“请停止”。类似的声音还来自喜剧演员George Carlin的女儿，她甚至表示家人正在尽最大努力，对抗深度伪造。这些逝世人物，在Sora上频繁被生成用来恶搞，马丁·路德·金著名的演讲，被安排进了大量的结巴；李小龙举办“龙之能量”DJ派对；迈克尔·杰克逊进行以厨房为主题的脱口秀，拿着一根香蕉在进行他的喜剧表演……更不用说，开头关于霍金的各种视频，一位坐在轮椅上，患有渐冻症的物理学家，竟然在巨型滑板坡道上频繁翻车。我们真的准备好迎接AI时代的社交媒体吗在这些逝世名人的恶搞下面，少不了的都是各种玩梗，毕竟这就是恶搞存在的意义。霍金那个视频底下，大多数网友的反应是：“怪不得霍金警告人类不要研究AI”、“余华看到这段视频后，转头看向了史铁生”、“史铁生：我简直就是个新兵蛋子”……也有网友义正言辞地回复说“人死了就是死了，我不想变成数据，被别人作为电子宠物”。但紧跟着的评论是，“想太多”，这些恶搞，大部分是针对一些知名人物，和我们普通人的关系不大。被意外登录的李玟网易云账号事实是，关于我们的数字资产和AI伪造视频的问题，一直存在。最近，李玟的网易云账号，由于运营商手机号码重新释放的原因，被其他的用户登录，看到了她收件箱里，粉丝对她的祝福。这件事情已经足够令人不安，但要是放在AI视频泛滥的时代，这份数字资产要面临的不仅仅是被窥探，还有各种主动地被伪造和篡改。如果我死后，我的社交媒体账号被其他人登录，看到那些私人的内容，这大概是我生前不会愿意的事情。让我无法接受的，是AI可能会拿走我的一切数字痕迹，我的照片、声音、打过的字，被它拿去创造一个我从未认可过的“我”。它不再是消费我留下的东西，而是在消费一个被它捏造出来的“我”。这种所谓的“复活”，根本不是因为想念而产生的记得，它只是一种身份的占用，是有利可图的替代。没有人希望自己生前的这些数字资产，被重新拿出来消费。而这个AI时代的抖音，已经开始把伪造视频的成本，降低到了几乎是没有，篡改的边界也彻底模糊。我们需要处理的，早已经不只是一个账号的安全问题。OpenAI对此的态度是什么呢，奥特曼此前发博客称，用户的这些二创行为，应该被定义为是一种“粉丝互动小说（interactive fan fiction）”类型。Fan Fiction同人小说定义这个词确实精准地概括了，他们对这些AI视频的本质看法。用户只是单纯地，与这些熟悉的文化符号，进行二次创作，然后获得传播。但如果是恶搞的滥用呢，已经去世的人，要如何在Sora App里选择，自己的形象是否可以被用来篡改。在最近的一次播客采访里面，奥特曼更是说，大多数所谓的版权方，其实是希望自己的内容被二创。他们想的只是需要一定的规则，哪些可以出现在AI视频里，可以做多大尺度的修改。他预言：今天大家说，“我不想我的内容出现在AI视频里”，明年他们可能会抱怨，“为什么我的内容还没被放进去？”借用其他正经历着，自己逝世的父亲，被Sora大量生产恶搞视频的亲属说法：为什么开发者们，不能像对待自己的家人那样，以同样的道德、良知和关怀来行动。很显然，这种没有经过同意，就擅自用他人数字遗产的行为，在某种程度上就是不道德的，甚至可以被理解成AI时代的“数字盗墓”。OpenAI在听到大量亲属反对的声音后，回复媒体的查询。一开始提到，相关的政策，是基于“描绘历史人物时强烈的言论自由利益”。在上周，OpenAI又表示，将开始允许“近期逝世”的公众人物的代表，去请求阻止他们肖像出现在Sora视频中。而在昨天，OpenAI再次回应了这件事，他们收到了马丁·路德·金遗产公司的请求，暂停了相关的视频的生成；同时提到加强对历史人物的保护，以及一贯的要求家属去主动请求禁止。不过，OpenAI仍然没有明确说明，什么是“近期去世的人”。现在，我们用Sora生成视频时，发现无论是上传AI生成的人物图片，还是真实的，都会被提示，“当前不支持上传包含写实人物的图像。”和互联网上那些使用AI来进行视频电话的诈骗一样，AI“复活”除了在数字遗产的版权归属、伦理道德问题上有争议，恶意伪造更是无法接受。前段时间，一场名为“AI流浪汉恶作剧”的风潮在TikTok上兴起。一位网友用AI生成了流浪汉闯入家中的照片，并发给家人，然后家人被这些内容真实地“吓得发抖”。视频获得了五百多万人的点赞，并被网友们接力分享和模仿。当地的警官甚至专门发文回应，这个恶作剧把无家可归者非人化，让受害者感到恐慌，并浪费了警察资源。被召来处理的警察并不知道这是一个恶作剧，而是将其视为正在发生的真实入室盗窃，从而可能导致危险局面的出现。这种伪造视频的滥用，和数字遗产的管理，我想是未来AI能不能“复活”逝世人物，最需要考虑的边界。一个比现在的抖音，更加让人无法自拔的这种“恶搞”AI抖音，或许很快就会到来。奥特曼正打算让Sora成为这样的产品，但很明显，它的瓶颈完全不在于恶搞好不好玩。那些被任意进行的深度伪造、被忽视的肖像版权、和不受保护的数字遗产，解决这些信任问题，才是迎接又一个让人上瘾的AI抖音的正确姿势。那个时候，我或许才敢说，请用Sora复活我吧。本文来自：APPSO （ID：appsolution），作者：发现明日产品的