第06版:专题 上一版3  4下一版  
 
标题导航
~~~相关技术推广需更多监管和规范
回到首页 | 标题导航
2024年03月19日 星期二
3 上一篇  下一篇 4 放大 缩小 默认
AI复活逝者已经成了一门生意?
相关技术推广需更多监管和规范

  近日,有网友用AI技术“复活”了已经去世的公众人物李玟、乔任梁、高以翔等,并在网络上发布动态视频引发大众争议。视频中,李玟说“我永远都会陪伴着你们”;乔任梁说“其实我并没有真正离开”……随后,乔任梁的父亲接连喊话网友删除,并在接受媒体采访时表示其侵犯了儿子的肖像权,不能接受,感到不舒适,希望对方尽快下架。

  此前,包小柏因无法接受女儿离世,用AI技术“复活”了女儿,并让“女儿”为妻子唱了生日歌,让网友们感受到技术为逝者家属带来的抚慰与温情。但随后一些网友跟风AI“复活”张国荣、黄家驹、李玟、乔任梁等却为其家属制造了心灵伤害。

  同时,记者调查发现,用AI“复活”逝去的人已经发展成了一门生意,而AI换声、AI换脸等诈骗手段也越来越“高级”。受访专家建议,AI“复活”应避免侵犯他人合法权益或被用于欺诈等不法行为,既保证技术创新,也要保障人类的价值和尊严。

  “非商业用途”不能成为免责声明

  记者就AI“复活”的话题采访了北京市康达律师事务所韩骁律师。韩骁表示,根据《民法典》,自然人死后不再享有民法意义上的肖像权,但是这并不代表死者的肖像可以被任意使用,死者的肖像仍然受到法律保护。如果网友在使用AI技术生成死者人像后,通过视频等形式使得被“复活”的死者表述违背死者意愿的语句甚至是虚假的谣言等,还可能侵犯死者的名誉权益、隐私权益。

  韩骁说,我国并没有针对死者肖像保护范围的专门法条,但通过解读有关法律可以得出,主要判断标准是死者近亲属是否在他人的侵权行为中遭受精神痛苦。网友的做法已经对乔任梁的近亲属造成了精神痛苦,侵犯了死者的肖像利益,李玟、乔任梁的近亲属可以以此为由提起侵权之诉。

  值得一提的是,即便网友没有以此视频牟利,韩骁表示,“非商业用途”的说法也不能成为侵犯死者肖像权益的免责声明。《民法典》第1020条规定了为个人学习等在必要范围内使用、在新闻报道中使用、国家机关履行职责需要使用等五种可以不经肖像权人同意的“合理使用”情形。在本次事件中,用AI“复活”死者的行为显然不属于以上任何一种。因此,即使其没有将该视频用作商业用途,也不能免责。

  做AI“复活”生意商家纷纷问世

  “只需要52.1元,就能还原逝去亲人的容貌并和TA聊天。”生成式AI技术的发展浪潮之下,与逝去的亲人“再见一面”似乎日渐成为可能。

  对于突然失去父亲的云南人柳芳(化名)来说,身在异乡没有见到父亲最后一面是人生最大的遗憾。直到在短视频平台上刷到有商家提供AI“复活”亲人的服务,柳芳像抓到了救命稻草一般,很快下了单,“我很想再看到我父亲,即便知道那是不真实的,但我还是很渴望听到父亲对我说话,听一听他的叮嘱”。

  支付200多元并提供了父亲生前的录音和照片,还有她希望听到父亲说的话,柳芳收到一段短视频。视频里,父亲微笑着对她说着话,短短几十秒,柳芳看了几十遍。

  所谓AI“复活”逝者,即利用人工智能技术,将逝去亲人的文字描述、图片、视频和声音资料输入AI算法模型,从而模拟生成一个数字形象,具备逝者的性格、记忆、图像、视频和声音。

  在数字“复活”领域工作的陈亮(化名)介绍说,他们的产品主要分为两种。一种是以视频为媒介,通过逝者的照片和声音,创作生日祝福或安慰的视频。另一种是开发一款可对话的聊天机器人,这款机器人不仅具备逝者的声音和外貌特征,还能模拟客户亲人的性格和记忆,与用户进行对话,为客户提供个性化的体验。这些不同形式的产品对应的价格从52.1元到521元不等。

  记者注意到,在一些电商平台上,也有不少做AI“复活”生意的商家。在某电商平台,这些AI“复活”的商品,标价从几元、几十元到上百元乃至数千元。

  记者咨询了其中一户商家,其店铺中共有3款商品,分别是创意AI修复亲人“复活”照相、AI配音仿真模拟定制专属、AI代唱翻唱歌手声音克隆,3款商品标价均为10元。

  还有商家表示,商品具体价格要根据照片和要求来定,如果只是让照片里的人动起来,只需要提供正面照片,成片是10秒左右。如果想要让照片里的人说话,需要提供正面照片和音频,价格根据视频时长确定。如果没有音频,则提供文字内容,商家给配普通话声音。

  至于记者提到的“可以实时互动的”AI商品,咨询的某电商平台10户商家都表示做不了。有商家解释说,要实现实时互动,需要用AI训练,这不是一个软件就能做到的。

  AI“复活”面临技术限制等挑战

  一直以来,AI“复活”都是一个备受争议的话题。

  有观点认为,在生成式AI技术的加持下,和逝去的亲人“再见一面”成为可能,弥补了情感的缺憾;也有观点认为,这样的做法没有意义,人没了就是没了,这只会让自己更难走出失去亲人的痛苦。

  还有人质疑,用逝者生前影像样本克隆出来的“亲人”,还是我们认识的那个人吗?

  记者注意到,在国内,像陈亮这样的制作团队并不少见,一些公司加快涉足AI“复活”亲人的领域,如地处江苏省南京市的某AI技术团队,在半年多时间里帮助600多个家庭实现“在线团圆”,平均一单的费用从几千元到1万元不等。

  陈亮告诉记者,团队在实操过程中遭遇多方面的挑战。例如,技术上的限制就是一大挑战,声音克隆需要清晰的声音文件,而目前的算法主要支持普通话,对方言和口音的支持较为有限。

  “由于逝者大多年龄较大,他们生前留下的声音文件并不多,这限制了产品的扩展和适用范围。同时,人们对于通过输入文字与逝者的数字形象对话的模式也持观望态度,并非所有人都愿意尝试或信任这种创新。”陈亮说。

  在中国传媒大学文化产业管理学院法律系主任郑宁看来,为保障逝者的人格权益,制作方只有经过逝者继承人的同意才能进行相关“复活”操作。同时,制作方在利用AI技术数字“复活”逝者后,还需要承担一些法律责任,“比如说制作出来的形象与实际偏差太大,对用户逝去亲人的形象造成一定扭曲,就有可能侵害逝者的名誉权、肖像权等相关权益”。

  陈亮告诉记者,当用户表达希望制作逝者数字人时,制作团队会要求有消费意愿的用户证明与逝者的关系并提供逝者已经去世的相关证明,以防有不良企图者将生成产品用于欺诈等不法行为。

  陈亮说,此外,为了实现AI数字人与用户的深度对话,此类制作团队一般会将自身产品接入大型模型系统,由大型模型系统作为数据库提供语料支持,“在这个过程中,我的制作团队会去除一些敏感词汇,以防止不法用户通过视频操控数字人,诱导数字人向亲友提问类似银行卡密码等隐私信息。只要存在这种可能性,数字人就会重新启动系统,从而解决潜在的欺诈问题”。

  缺少专门法律法规予以规制

  调查中,受访业内人士透露,作为生成式AI技术落地应用的一个细分领域,正在尝试提供AI“复活”逝者服务的,有初创团队,也有头部企业。由于各种原因,这门特殊的生意,整体上还处于低调谨慎的探索阶段。

  对此,郑宁也建议,想要通过AI技术“复活”自己亲人的潜在受众,选择正规机构是确保个人信息安全和合法权益的关键。

  “签署合同也是重要的一环,在合同中必须明确规定数字人的财产权等权利属于个人而非企业。此外,合同还应包括对违约责任的详细规定。如果发现合作企业存在违法违规行为,应及时向主管部门进行举报和投诉。这种举报可以帮助维护整个行业的合法秩序,保障广大用户的合法权益。”郑宁说。

  目前,虽然人工智能技术在我国兴起的时间不长,《生成式人工智能服务管理暂行办法》等规定的出台相对及时,但对于数字“复活”等技术,目前尚未有专门的法律法规,可能需要在未来出现问题时逐步进行规范。

  作为从业者,陈亮也希望未来运用数字“复活”技术需要有关部门发布资质牌照,由有关部门加强监督管理,让市场参与者更加放心。

  “立法通常是滞后的,尤其在新技术领域。”郑宁说,期望通过出现新问题就进行立法或修法往往难以解决问题,底线问题必须通过立法解决,除此之外可以通过“软法”比如行业标准、企业自律行为等,在实际操作中发挥规范作用,“在数字‘复活’领域,行业协会可以牵头制定伦理标准,企业和从业者遵循这些标准,有助于解决问题”。

  据法治日报、新京报

  图片来自新华社客户端

3 上一篇  下一篇 4 放大 缩小 默认
版权说明:天津日报报业集团所属10报2刊所有作品,版权均属于天津日报报业集团,受《中华人民共和国著作权法》的保护。所有关于天津日报报业集团及其子报子刊内容产品的数字化应用,包括但不限于稿件签约、网络发布、转稿等业务,均需与天津日报报业集团商谈,与天津日报报业集团有互换稿件协议的网站,在转载数字报纸稿件时注明“来源-天津日报报业集团-XX报”和作者姓名,未与天津日报报业集团有协议的网站,谢绝转稿,违者必究。
天津日报报业集团法律事务部