查看原文
其他

当AI“复活”逝者只需99元,法律与道德的边界在哪?

邹振民 余梓宏 晶报 2024-07-07


近日,用AI复活逝者的新闻

频频登上热搜



知名音乐人包小柏

用AI“复活”已离世两年的女儿


知名音乐人包小柏

用AI技术在数字世界

复原去世的女儿

(网络截图)


AI李玟在视频中向网友打招呼:

“希望你们都能活得很好”


有博主用AI“复活”李玟

(网络截图)


在一些电商平台上

AI复活技术还成了一门生意

有不少商家称

只需要一张图片和一段音频

就能实现逝者“复活”

标价从几十元到上百元乃至数千元不等

据报道,江苏南京某技术团队半年多

帮助600多个家庭实现“在线团圆”


AI合成明星正形成一个灰色产业


游走在法律与道德的边界

AI“复活”逝者到底靠不靠谱?

晶报记者日前进行了多方采访


99元能与逝去亲人再见一面?


“复活AI亲人,和想念的人说说话,TA只是换了一种方式陪伴你,让数字生命永生!”记者在各大电商平台搜索发现,有不少商家称能实现AI复活亲人,而价格分为了多个档次:


  • “音容方案”,需要提供一张亲人照片和一段亲人说话文案,即可生成一段亲人说话的视频,如果能提供音频资料,还能一比一还原亲人说话声音音色,价格在99元至499元不等;


  • “音留方案”,提供亲人的音频数据、生活习惯以及记忆,通过大模型训练还原亲人的一举一动,可以随时对话沟通,价格需要1699元;


  • “音迹方案”,提供亲人的音频数据、说话习惯及所知的记忆,可通过技术手段复活亲人,并通过深度学习对亲人进行建模,通过神经元意识上传记忆并模拟亲人沟通习惯,实现亲人在数字世界的“复活”,价格为5200元。


AI复活逝者已成为一门生意。网络截图


记者随机联系了电商平台上的一位商家,他表示,如果要AI“复活”亲人,需要先提供亲人照片或视频音频,付百分之三十的订金,十天内可以完成亲人视频的生成,效果不好可以再更改。


至于能否实现与逝者的“实时互动”,该商家则表示很难实现,“需要后台数据AI大模型支持,费用高。”


记者表示担忧如果泄露亲人的隐私去生成视频,或许会产生诈骗等风险,该商家表示,生成的视频会注明是“仅供复活亲人使用视频”。


记者多次表示要签署合同协议,该商家则多次回避,并称自己是小公司,也回避了与记者在线下见面,称费用可以通过微信支付。最终交易未能达成。


记者采访了几位市民,有的表示愿意尝试AI“复活”逝者。


市民李女士表示,自己的爷爷在2020年去世,一直很遗憾没能见上他最后一面,如果能听到他讲几句安慰的话,也算得上一种慰藉了。


市民黄女士则认为自己不会去尝试利用相关技术:“假的就是假的,人生老病死是自然规律,学习如何接受是每个人的必修课,面对一个虚拟的算法模拟出来的假象,只会不断提醒你真实的存在已经逝去,看着都徒增悲伤,更别说和这个AI交流互动了。”



怎样才算真正的“复活”?


当走进一个房间里,一位已故多年的香港著名歌星突然以全息影像的方式栩栩如生地出现,并开始激情演唱自己的成名曲……


这样的场景让人恍如隔世。日前晶报记者在位于深圳市龙华区的云视图研公司看到了这一幕。


全息技术如同”灵魂出窍“,它或许将成为AI复活逝者的关键技术。受访者供图


据云视图研负责人汪文才介绍,团队自主研发了全息三维裸眼显示技术及全息数字人像技术,从2019年开始,他们就有了利用这些技术“复活”逝者的想法,但当时主要是利用生前采集的方式来实现逝者的数字复原。到了2021年,生成式AI的概念蓬勃发展,他们意识到,或许还能突破原来只能存储固定片段的局限,通过接入AI生成技术实现与逝者的互动回答,达到“数字永生”。


“这段时间的确收到了很多的咨询”,在汪文才看来,“数字永生”有着非常广阔的应用前景。汪文才透露,目前云视图研已经有相关技术落地,不仅能通过逝者的照片生成可以说话的视频,还能实现声音的克隆。成本也大大降低,如照片生成视频一分钟大约1500元、声音克隆大约500元一份。但汪文才坦承,目前在实时对话的体验上仍然不尽如人意,“需要高算力,成本非常高,目前还不具备商业化的价值。”


汪文才认为,AI复活逝者属于人工智能一个相对细分的领域,从宏观的角度来看,目前行业并没有明确的复活标准和形式。而现阶段的AI“复活”还处于实验室阶段,市面上大部分的AI“复活”都只是机器和代码在模拟,而且都只是在电子屏幕等平面空间里呈现。


汪文才说,未来如果真的能实现通过记忆的上传来“复活”逝者,让TA能够立体站在我们面前,带着记忆和特征与我们交流,这才是真正意义上接近数字永生的复活,让人真的体会到“时空穿越”。



律师说法:

需针对该领域进行专门立法


AI复活逝者有巨大的潜在市场,这项服务也一直备受争议,在伦理道德和法律监管上都还有许多讨论和规制的空间。


最近因“复活”已故歌手李玟而登上热搜的网络博主在接受媒体采访时表示:


视频是受粉丝的请求义务做的,并称只要不用做商业用途,就不会有被逝者家人追责的风险。


不过,多位法律专家在接受媒体采访时表示:


该博主擅自制作李玟形象和声音的虚拟视频,不管是否以商业营利为目的,都侵犯了逝者的肖像权和声音权等。


在留言区,该博主还表示制作其他逝者视频将收取588元的费用,这种招揽生意的行为也招致了不少网友的反感。


部分网友留言。(网络截图)


去年,国家互联网信息办公室发布了《生成式人工智能服务管理暂行办法》,不过,对于数字“复活”等技术,目前尚未有专门的法律法规。


广东晟典律师事务所合伙人缪思思律师认为:


从法律角度讲,“法无禁止即可为”,目前并没有法律法规明确禁止公司进行该项“AI复活逝者”的经营。


如果AI复活逝者出现纠纷,消费者有权起诉。首先根据协议的约定,如果商家违反协议约定,消费者可以起诉要求商家承担违约责任,赔偿经济损失。其次根据《民法典》第994条规定,死者的隐私、名誉受到侵害时,配偶子女父母有权诉讼。没有配偶、子女且父母已经死亡的,其他近亲属可以起诉。


当下AI“复活”逝者的业务往来大多是在网购平台上发生,对此,广东晟典律师事务所高级合伙人宁凌波律师建议,在寻求相关服务前,签订合同十分重要:


首先,防止信息泄露、防止非法使用信息的相关条款十分重要,“AI复活逝者”技术商业化,必然涉及隐私信息保护、数据安全,若发生信息泄露、非法使用信息,除了构成侵权、对用户从情感上造成巨大的伤害之外,泄露的信息可能被用于不法目的,比如不法分子可能会利用这一技术制作虚假视频进行欺诈等。


其次,关于服务质量问题的条款亦十分重要,应当对“AI复活逝者”制作效果做明确、详细的约定,以确保制作出来的“AI复活形象”的准确性,避免制作出来的形象和实际形象偏差太大甚至有所扭曲,反而对消费者的情感造成伤害,并且也可能侵害逝者的名誉权、肖像权等权益。


宁凌波律师建议:


随着人工智能的普及及广泛使用,国家应加快制定和完善相关法律法规,针对该领域进行专门立法,明确使用“AI复活逝者”技术的用户范围,规范技术提供者的技术使用范围和限制,对技术提供者的用户信息保护机制及信息安全防范措施进行法律层面的规范,同时明确技术提供者及用户的侵权责任、违法责任等。


因涉及技术层面、法律层面、伦理层面等诸多问题,国家应该对开展“AI复活逝者”业务的公司发放资质牌照,并加强监管。






晶报将抽取3名幸运粉丝,每人送出QQ音乐豪华绿钻会员(月卡)1份。


参与方式:

1、点击进入晶报(ID:szdailyss)公众号

2、点击“发消息”进入对话框

3、在对话框中输入关键词“送晶喜”获取抽奖链接



开奖时间:

3月22日(周五)12:00


注意事项:

请中奖者于24小时内通过后台联系晶报,逾期视为自动放弃。


*本活动最终解释权归晶报所有



来源 | 晶报

记者 | 邹振民 余梓宏

编辑 | 李一凡


往期推荐

晶报带你选高中,罗湖有哪几所?

一名“网格员”的责任有多大 | 城市英雄12期

自带杯,正在成为深圳人的新时尚

深圳2024年中考中招政策公布!

点一下“在看”,让更多人看到

继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存