查看原文
其他

当AI “复活”成为一门生意!听听完成千笔订单的90后小伙怎么说

广州工会
2024-10-13


近期

AI“复活”热度骤增

甚至成了一门热门生意

在一些电商平台上

这类商品的标价从几元、

几十元到上百元乃至数千元


当AI“复活”成为一门生意

会带来哪些伦理争议和法律挑战?

监管又面临哪些难题?


AI“复活”火爆 

90后小伙一个月接两三百单



打开电商平台,可以发现,以AI “复活亲人”“老人像复活”等作为关键词的店铺有140多家,价格从几十到上百元不等,提供的服务大多为照片转视频,或AI换脸视频。
一名商家表示,具体价格要根据要求来定:

●如果只是让照片里的人动起来,仅需提供正面照,成片约10秒,如果要让人说话,需提供正面照片和音频,价格根据时长确定。


●如果没有音频,则提供文字内容,可以配普通话声音。



可在“超级头脑”创始人张泽伟看来,只用照片和语音合成的视频算不上真正AI复活,“真正的数字永生是需要有互动的,需要提供声音、形象、生平事迹等数据样本,通过一周的制作时间,可以实现在平板电脑上与亲人互动。”
从2023年3月开始,90后小伙张泽伟涉足AI人像模拟训练、声音克隆等业务。目前其团队已完成1000多笔“复活”订单,仅在刚刚过去的3月份,就接到了两三百份订单。

尝试者多为年轻人

大部分选择“复活”长辈


张泽伟说,初次接触到“AI复活亲人”这一领域纯属机缘巧合。其实,原来他们从事的是AI教育领域,有一次一位朋友联系他,说父亲意外去世了,全家人担心奶奶承受不住打击就一直瞒着。
“朋友问,有没有可能用AI还原父亲的形象,给90岁的奶奶报个平安,安抚一下老人。就这样,我的创业方向转到了AI 复活。”
后来,陆陆续续有捐献眼角膜的小女孩妈妈、老红军的家属来求助,每个人都有着不同的故事。需求不是创造出来的,而是本身就存在。

张泽伟说,“年轻人更愿意尝试这种方式,在订单中占了超过50%以上,大部分都是选择复活他们的长辈。”

 交付的不是商品 

而是情感需求


5000元至1万元之间,这是张泽伟团队的基础服务价格,还原度决定了层级化的收费水平。

他坦言,即便最贵的一项产品,也无法完全复刻逝者本人。“一些失独父母希望把形象、声音、说话习惯、思想都训练到非常接近已故孩子本人,这些都需要有大量逝者生前的资料长期不断去训练AI,让机器有一个长期记忆,才能无限于去趋近。”

在他看来,AI“复活”绝不是一门生意这么简单,“交付的不是一个商品,而是情感需求,以及客户的信任。”

 科技向善

法律也要不断完善  



科技向善,AI“复活”可以帮助人们以新的方式缅怀逝去的亲人,但它是否会突破伦理道德的底线?同时,AI“复活”涉及个人的肖像权、名誉权,目前已出现多起未经家属同意复活已逝明星而被声讨的案例。此外,这一技术也可能被不法分子利用,成为诈骗工具。
查询各大电商平台,可以发现一些店铺会在提供服务前强调“不做人脸识别,不做违法行为,只能用于怀念”。有些店铺则声明,“不得用于商业或非法用途,否则一切后果请用户自负。” 
张泽伟表示,他们目前是在合同文本上进行了约束,明确指出不可用作任何违法违规用途,一旦使用会立刻报警,或向相关机构进行举报。
■ 2023年1月正式实施的《互联网信息服务深度合成管理规定》划定了“底线”和“红线”,强调不得利用深度合成服务从事法律、行政法规禁止的活动。
■ 2023年7月10日,《生成式人工智能服务管理暂行办法》出台。其中明确提出:

●提供和使用生成式人工智能服务时,应当尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。


●办法中强调,服务提供者应当使用具有合法来源的数据和基础模型,不得侵害他人依法享有的知识产权,涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形。


相关专家表示,目前AI复活更多是用在亲人与家属身上,属于个体范围内的行为,是慰藉相思之苦,这在一般情况下是没有伦理争议的,但如果跨过个人与家庭范围,就可能会产生问题。
因此,针对数据隐私、AI诈骗、伦理争议等问题,一方面要不断完善相应法律法规,跟上规范和监管;另一方面,行业内也要加强自律,每一个从业者都必须守住底线。
本期封面:


来源:劳动报编辑:刘诗晴

都看到这里了点个赞、在看再走呗🥤🥢~
继续滑动看下一个
广州工会
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存