被AI“偷脸”,损失有多大?

吴晓波频道
Mar 03

“AI生成虚假视频的成本极低,取证申诉的过程却要花费巨大的精力。维权成本和收益的不成比例,可能是很多人对维权望而却步的主要原因。”

“被做成AI换脸模板,700多人用过,我居然毫不知情。”

陈雨萱发了这样一条帖子。她去年刚从南方一所大学毕业,舞蹈专业出身,长相清秀,在社交媒体上有几十万粉丝。

今年1月,她收到一条私信,称有人把她的原创舞蹈视频AI换脸后发在了自己的账号上,收获了上千点赞。

她联系对方后得知,这段视频竟成为某AI创作APP上的热门模板之一,已经被使用了700多次。

陈雨萱对此感到愤怒。这条视频是她半年前在大学毕业晚会上的演出实拍。和同学们辛苦排练的成果,如今却在自己毫不知情的情况下成了AI换脸的模板。

“我看到过更大的网红博主,他们自己辛苦拍的照片、视频,被人拿去做了换脸内容。但维权难度超乎想象,最后都不了了之。”陈雨萱说。

受此困扰的群体还在急速膨胀,大量对肖像权、著作权格外敏感的公众人物、知名IP被卷入其中。

过去一个月,对AI生成内容的侵权质疑成了密度最高的新闻之一。2月26日,演员王劲松发文控诉自己的形象被AI盗用生成视频:“太可怕了,视频。声音、口型完全看不出来真假。”

周星驰经纪人陈振宇,针对短视频平台大量出现包含周星驰形象的AI视频,发文质疑其侵权性质,称将追责到底。

白岩松在主持新闻节目时称:“一些AI合成明星、名人的视频被人用来带货推销甚至骗人,甚至我本人都是受害者。很多平台上都有AI说着我的声音在做各种事、卖着各种货,但我真的没做过这种事。”

周杰伦在社交平台评论自己被AI恶搞的视频:“到底是想要怎么样?”

春节期间,各种用名人形象生成的AI拜年视频广为流传,还有诸如“女星回农村过年”“唐僧师徒四人在你家包饺子”的AI剧情短视频夹杂其中,画面以假乱真。

IP巨头更加感到危机四伏。去年9月,Minimax旗下视频生成模型“海螺AI”被迪士尼、华纳兄弟、环球影业等12家好莱坞公司联名起诉,指控其侵犯了超过500项影视IP版权。

AI侵权争议,在AI狂欢的春节过后,酝酿成一颗越发不容忽视的风险炸弹。

01

AI侵权的经济账

目前,国内外所有模型都会使用公开数据进行训练,所以网络流传的高清视频素材越多的明星、名人、知名IP,被AI生成效果就会越逼真。

由此就形成了一种极其普遍的侵权情景:AI生成的包含特定形象的内容,侵犯了其他利益方的权利。其中包括个人肖像权,也包括IP等形象的著作权。

大成律师事务所杭州办公室律师王征驰告诉我们,AI生成内容对个人肖像权的侵犯,可以理解为一种预期利益的损失。

在计量这种损失时,名人以往授权其肖像权商用的费用标准是重要的参考维度。国内一线艺人单次品牌代言费就达到数千万元。而如今在电商平台上搜索“AI形象”“数字人”等关键词,可以找到上百个提供对应服务的店铺,价格从十几元到上千元不等。

据媒体报道,记者花16.8元购买一款AI数字人软件,上传视频、声音、文案等后,短短一分钟时间,就获得了一段明星推荐产品好用的视频。

真金白银之外,AI生成的恶搞、低俗内容也会损害名人形象,降低IP等无形资产的价值。

今年年初,海外社交媒体平台X上出现大量名人不雅照,这些照片来自大模型Grok,只需一句口令就能让明星、名人们衣冠整齐的照片变成带有性暗示的比基尼艳照,并在社交媒体上广泛传播。

王征驰提到,这类内容在民事层面,涉及侵犯肖像权、声音权益、人格权及个人信息权益;刑事层面,行为达到特定严重情节的,可能涉嫌侮辱罪、诽谤罪。

对于商业IP,著作权的实际损失,可以根据权利人因侵权所造成复制品发行减少量,或者侵权复制品销售量与发行该复制品的单位利润乘积计算。发行减少量难以确定的,按照侵权复制品市场销售量确定。

北京互联网法院公开审理AI侵权案

迪士尼单个IP在中国的品牌授权费用就达到数百万元人民币。2024年的财报显示,其全年IP授权零售总额是620亿美元,IP收入全球第一。

此前Minimax被迪士尼等起诉时,法院被要求判决其永久禁止侵权,并赔偿每部侵权作品最高15万美元、合计最高7500万美元的法定赔偿。

而这些看似针对公众人物和知名IP的侵权,也在伤害着普通人。

在社交及短视频平台上,AI生成的明星虚假推销视频比比皆是,背后已然形成一条黑灰产业链,让消费者甄别难度陡增。

而且,网络流传用名人形象生成的低俗内容或虚构言论极易成为诈骗工具。比如,股市火热之际,大量短视频账号发布用徐翔、王亚伟、“章盟主”等“民间股神”形象生成的内容荐股、卖课,甚至以集资炒股名义,将投资者引流至资金盘骗局。

更让人不寒而栗的是,AI生成的侵权内容,正实实在在威胁着每一个人的财产和人身安全。

去年7月,江苏一人利用非法获取的195万多条公民个人信息和AI换脸软件,登录被害人的支付账户,盗刷银行卡消费数万元;11月,山东一法院判决了一起AI换脸诈骗案,被告人通过AI换脸伪造白富美形象,诈骗了13万元。

风险面前,越来越多人向AI举起了法律武器。

02

维权为何艰难?

“维权复杂程度超乎想象,我没有专业的法律团队,也没有足够的时间和精力去和平台、侵权者周旋。”普通人陈雨萱的控诉帖没有激起太多水花,最终不了了之。

而即便是颇具影响力的公众人物和IP巨头,在铺天盖地的AI伪造内容面前也有些力不从心。

去年11月,演员温峥嵘自曝在手机上刷到“自己在直播”。随后,团队向商家发去律师函,大量举报这类假账号,但即使法务告到手软,这些号还是野草般一茬茬地冒出来。

在王征驰看来,追责是可行的,已有法条结合目前的典型案例,足以处理很大一部分这类案件。然而,生成的人物是否足以识别到特定个人;肖像、声音等因素是否被商用;部分改编片段是否足以映射到特定作品;赔偿金额如何界定等,这会涉及非常复杂的取证环节。

首先,肖像权的可识别性是最大取证难点。

温峥嵘在艰难维权中曾无奈发问:“我该怎么证明我是我?”

AI换脸最常见的手法是,保留原视频的其他所有细节,仅替换面部。而当面部这一核心特征被替换,又该如何界定侵权?

有学者提出了一个思想实验:甲的肖像被AI生成了两份漫画,其中一份内容侮辱了甲,另一份被用于商品推广。如果甲并非名人,按照现行标准,两种情形下,甲都可能因为“无法被公众识别”而维权失败,但从情理而言,显然第一种情况下更应该得到救济。

其次,换脸视频没有被直接用来宣传带货,而是被用作免费模板或仅供娱乐,实质上吸引了用户观看广告、充值会员,平台通过广告分成或会员费盈利了,但受害人的取证会变得极其困难。

再者,界定赔偿金额时,如果名人或IP形象虽然没有被直接用于牟利,但被用来恶搞引流,对受害人造成了精神损害,对肖像或IP价值造成了潜在伤害,这种损失极难量化。

程序上也有不少困难。一条AI换脸视频背后,涉及技术开发者、内容的实际制作者、上传内容的平台等各种主体,侵权链条长且复杂,准确地找到屏幕背后的始作俑者如大海捞针。

这导致AI生成虚假视频的成本极低,取证申诉的过程却要花费巨大的精力。维权成本和收益的不成比例,可能是让被侵权人对维权望而却步的主要原因。

03

技术与权利之间

如果追根溯源,AI侵权难以定性追责的深层原因是,技术进化和权益保护之间,难以寻求平衡。

今年2月,知名科技UP主“影视飓风”的创始人Tim发布了一条视频,称在没有上传声音素材的情况下,用AI生成了一段声线能以假乱真的视频。

原因在于,该模型大量使用了自己的原创视频进行训练。但Tim本人和公司没有收到过任何费用,也没有任何人联系过授权。

在如潮质疑中,大模型公司宣布暂停包含真人素材的AI视频生成,涉及各种知名IP的内容生产也受到限制。

舆论其实没有一边倒地支持Tim。有观点认为,AI工具的进化必须依赖海量优质素材,监管过严会影响模型的质量,最终伤害用户体验。

目前,各大视频生成AI上,都已无法生成带有真人形象的内容。即使是相对模糊的口令,如上传一张自家宠物的照片,要求“生成一段小猫打怪兽的视频”,得到的回复也是“由于版权相关限制,暂时无法创作”。

输出受限会削弱用户对AI的兴趣。从AIGC的增长史上看,几乎每一次爆发都与特定形象的破圈密切相关:去年Sora2横空出世,伴随着大量OpenAI CEO奥特曼、特朗普等名人的剧情视频火爆;今年Seedance2.0走红,广为传播的AI生成明星拜年视频功不可没。

两难之下,大模型公司同样在寻找解法。

其一是法律争论。

去年年底,Minimax在招股书中首次回应了迪士尼等版权方的起诉,核心反驳点是“工具中立”和“无直接获利”:其一,平台根据用户口令生成内容,不存在复制、传播特定作品的主观故意;其二,公司并未从中直接获利。因此,不构成侵权。

对大模型公司来说,模型训练需要海量数据,但训练过程却是个黑箱。目前法律界相对认可度较高的观点是,在模型训练阶段,对涉及IP和肖像的内容可有一定合理使用的空间;但在内容生成阶段,公司应采取“版权过滤措施”,防止AI输出对原作有替代性的内容。

此外,未来更有可能的一条路径是,AI与版权方基于利益重新谈判。

提供了较多参考性的是OpenAI。它早年的主要办法是“花钱买平安”:在因抓取报道训练而遭到《纽约时报》等多家媒体起诉后,OpenAI先后与数十家媒体巨头达成了授权协议,每年的授权费高达数千万甚至数亿美元。

但随着AI对现实世界的涉入渐深,各方开始寻找新的解题思路。去年12月,迪士尼宣布与OpenAI达成合作,迪士尼对OpenAI进行10亿美元的股权投资,并准许使用涵盖超过200个经典角色的迪士尼IP库。双方还将共同开发面向Disney+流媒体平台用户的AI创作新产品。

这意味着,比版权与AI的法律纷争落幕来得更快的,或许是利益各方坐上谈判桌,把AI织进原有的利益网络中,重新分配筹码。

AI生成视频引发争议

04

结语

这片法律和道德的真空区正在被迅速关注和填补。

去年的全国两会上,雷军提交了一份关于加强“AI换脸拟声”违法侵权重灾区治理的建议,TCL创始人李东生、演员靳东等多位代表也提出关于严管AI深度伪造的提案。

2026年两会即将开幕,涉及AI与个人权利保护的提案也已隐隐浮出水面。

全国政协委员、科学技术部原副部长李萌近期表示,随着Agent越来越多地参与到人们生活中,数据隐私保护、算法公正、系统稳定性等问题非常值得关注。要以敬畏之心守护AI技术向善而行,在合法合规的前提下服务社会发展。

万众瞩目下,AI的下一步,比瓜分利益版图更重要的,是厘清身后合法性的红线。

这条红线之外,无数具体的人,正等待答案。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10