律师视点 | 黄斌：元宇宙法律篇（十八）——直播虚拟人的合规问题

黄  斌

北京德和衡（深圳）律师事务所

高级联席合伙人

连续三年的新冠疫情让人们开始习惯于长时间的“线上化工作和学习”，同时推动了虚拟人集中、大规模出现，以满足人们的“线上化工作和娱乐”。2021年6月26日B站12周年庆，董事长陈睿表示过去一年共有32412名虚拟主播在B站开播。虚拟人已经成为连接现实、开启元宇宙的重要角色，是元宇宙中一条重要的交互赛道。与此同时，虚拟人直播如雨后春笋般出现在各大平台与商家之间，“虚拟人+故事场景”直播已经颠覆了传统真人直播的模式，刷新了用户对平台、品牌的认识，构建了一种全新的营销生态。

一、直播虚拟人的发展概况

虚拟人起源于20世纪80年代，近年来随着建模、AI、动捕、渲染技术的发展进入高速成长期。2021年10月20日，广电总局发布《首次明确地鼓励和支持虚拟人的发展》，文中提出在虚拟主播方面“探索短视频主播、数字网红、直播带货等虚拟形象在节目互动环节中的应用，增加个性化和趣味性。”。“现在进入了一个时间点，已经不太需要去教育客户，同他说为什么要给你推虚拟人，很多品牌直接问有哪些虚拟人可以和他们合作，目的性非常强，这也和市场成熟度有关。”动图宇宙创始人丁焱表示。^[1]2022年6月8日，ANYCOLOR于东京证券交易所上市，这是全球首家以虚拟人为主营业务的上市企业，其旗下有彩虹社，有直播事业部。现在，出现了一些品牌虚拟人深度定制和提供虚拟人IP代运营服务的公司，平台、商家都开始定制品牌虚拟人或与提供虚拟人IP代运营服务的公司合作，试图以虚拟人形象的IP价值输出打开在Z时代中的影响力，拓展新消费人群。

二、直播虚拟人同样会“塌房”

虚拟人产业链分为基础层、平台层、应用层，基础层包括建模软件、渲染引擎、芯片、传感器、光学器件、显示设备等软硬件，通过三维建模、数据预处理、渲染模型等操作为虚拟人的制作提供软硬件基础，制作静态虚拟人；平台层包括AI能力平台、建模系统、动捕系统、渲染系统等，从基础层获取数据信息后通过软件算法提供交互技术能力，可以让虚拟人活过来；应用层打造及运营虚拟人人设塑造人格，为虚拟人注入灵魂，应用于各式各样的场景。直播虚拟人从驱动方式方面又可分为非交互型、人工智能驱动型和真人驱动型，非交互型是指按照预先设置的内容进行回应，与用户的交互性极弱；人工智能驱动型是指利用人工智能（AI）技术通过多模态技术和深度学习模型的运算结果实时或离线驱动虚拟人的语音表达、面部表情、具体动作；真人驱动型又称“套皮虚拟人”，是指基于真人的动作、表情等通过动捕设备驱动虚拟人。现在，用于直播领域的主要是人工智能驱动型和真人驱动型虚拟人，可以实现与用户之间的强交互。

普遍的观点认为，真人主播有人设崩塌的风险，比如：清纯人设崩塌的黄灿灿、“知性美丽”人设崩塌的侯佩岑、“偷税漏税”人设崩塌的薇娅等，而直播虚拟人不存在人设崩塌的风险。而笔者以为，虚拟人人设同样也会崩塌。“一个好的虚拟人，最重要的是‘真实感’。不仅仅是‘柳夜熙’那样的形象真实感，更多体现在人格真实感上。他能够真实切入现实生活中，用自己的人格和消费者对话。”人类快乐螺蛳粉品牌策略部负责人jojo向亿邦动力介绍。^[2]人工智能虚拟人是通过大量的预设人格相关数据进行机器学习，然后通过算法进行自动化决策与用户交互。人工智能虚拟人人格的塑造，可能贯彻了平台、商家的商业目的，该商业目的可能因为一些歧视和偏见导致人设崩塌，算法设计者固有的偏见和歧视也有可能导致人设崩塌，比如：某品牌智能音箱在回复用户心动周期的相关问题时建议用户自杀、将黑人识别成灵长类动物等。

在2022年国家卫生健康委和国家中医药局联合发布的《互联网诊疗监管细则（试行）》，强调“严禁使用人工智能等自动生成处方，严禁以商业目的进行统方”，就是因为使用人工智能自动生成处方很难不体现平台和商家的商业目。套皮虚拟人，首先需要打造一个虚拟形象，俗称为“皮套”；其次，套皮虚拟人“灵魂”的注入是通过给虚拟人提供声音和动作的真人（俗称为“中之人”）实现的，因为“中之人”不仅仅负责声音演出，同时还要将自己的个人情感、喜好代入其中，肩负着赋予角色“灵魂”的重任^[3]。很多人误以为，只要不像现实偶像一样因为负面新闻塌房，虚拟偶像的生命周期就是无限的。但一旦虚拟偶像换了一个中之人，原先与粉丝之间的情感联系就会戛然而止，这时候这个角色的生命周期也就走到头了。^[4]世界第一虚拟主播绊爱幕后公司为了增强绊爱的竞争力，增加了三个中之人，结果引发粉丝的极度不满和人气下滑，并最终进入休眠状态。绊爱用实际行动证明了“虚拟偶像也会塌房”的事实，也证明了绑定的中之人对于知名VTuber而言，就是不可替代。^[5]但不管是 AI 直播还是完全按照剧本设计的人设，都不是粉丝真正想要的。资本或许会认为粉丝爱的是皮套，但是对很多粉丝来说，虚拟偶像提供的情绪价值比冰冷的皮套更重要。皮套和灵魂是相辅相成的，粉丝第一眼肯定是被皮套吸引，但有趣的灵魂才是维持人气的关键。^[6]

三、套皮虚拟人

虚拟偶像虽然是技术的产物，但目前还是得靠人来驱动。粉丝把对虚拟偶像的喜爱，移情于背后“中之人”（虚拟偶像背后的人）身上，制造了虚拟和现实的混沌。而A-SOUL成员休眠事件，实际便是这种混沌引发的混乱。其中正义的含量值得玩味。^[7]人民网的上述评论很好地诠释了套皮虚拟人的现状，皮套是平台或者商家设定的虚拟人之完美剧本设计的人设，然而皮套后面“中之人”即使完全按照完美剧本设计的人设进行演绎，但是不同的“中之人”不自觉地会在皮套上演绎出不同的风格，也就是体现出虚拟人不同的灵魂，就像同一电影剧本不同演员演绎同一角色亦有不同的理解最终体现不同的风格。

1、平台

对于汇集了大量直播虚拟人的平台而言，平台的善良管理者义务是与其从虚拟人直播中直接获得的经济利益正相关的（比如在直播虚拟人获得的打赏中拿走一部分），获得的经济利益越大自然应对此负有较高的注意义务。

（1）对直播虚拟人形象（皮套）的著作权方面做初步审查。平台不能像一只鸵鸟躲进沙子里假装视而不见，滥用“通知—删除”规则。平台不仅需要履行一般网络服务提供者的责任，还应当建立一套知识产权审查机制，对平台上直播虚拟人形象的著作权方面做初步审查，这种审查应当采用“一般可能性”标准，如审查著作权底稿、原件、合法出版物、著作权登记证书、认证机构出具的证明等初步证据证明其为著作权或与著作权有关权益的权利人。

（2）在开通在线打赏功能时，平台应该要求商家提供相关身份证明、从事相关行业、产品或者服务的资质证明等文件，尽到自己的必要审核义务。平台在接到相关投诉后，应该及时进行核实查实，直播虚拟人确有问题的，应当采取冻结账号等一系列的措施，避免用户的损失进一步扩大。

（3）对于vox akuma类直播虚拟人号称“vox是一个生活在400 年前的日本恶魔，后为德川的家族所灭，因为恶魔之血400年后vox再次复活，希望通过网络了解现代社会并重组族群。”，其营造的“复活重建家族”在1个多小时的直播中获得111万元人民币打赏，这种打赏不同于一般的单纯欣赏而进行的打赏，还有可能大家是真心想帮助vox重组族群，这笔钱的使用就需要慎重，避免涉嫌欺诈和诈骗，尤其在平台从中拿走一部分打赏收益的情况下平台可能需要承担较重的责任。

（4）《民法典》第一千一百九十七条规定了网络服务提供者的连带责任，在平台从打赏中拿走部分收益时，就很有可能构成“网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益”,在未采取必要措施的情况下与商家承担连带责任。

2、商家

（1）商家定制直播虚拟人，首先应当获得直播虚拟人形象（皮套）和完整人设构思的著作权，该版权链条应当清晰，至少应取得包括发行权、信息网络传播权、修改权、复制权、表演权、改编权等权利的授权，并不得侵犯他人在先权利；其次，在获取声音、动作、面部表情等数据前应当取得“中之人”之同意，并应当与“中之人”签订相关保密协议，不得透露“中之人”相关信息，以满足直播虚拟人人设的完整与丰满；再其次，不得将其商业价值观贯彻在算法中，不得将歧视、偏见带入到算法中；最后，要符合科学伦理，保证科技向上向善。

（2）商家与提供虚拟人IP代运营服务的公司合作，首先用的要明确双方的权利和义务，不得将其商业价值观贯彻在算法中，不得将歧视、偏见带入到算法中，维护好直播虚拟人人设的完整与丰满。

四、智能虚拟人

智能虚拟人是指利用人工智能（AI）技术通过多模态技术和深度学习模型的运算结果实时或离线驱动虚拟人的语音表达、面部表情、具体动作，其通过人工智能技术打造直播虚拟人的完整人设并赋予直播虚拟人的灵魂。人工智能的运行应符合可理解原则和公平原则，人工智能应该能够为人类社会现有的道德所理解；人工智能的运行应当保持透明可见的原则，不让特定个人或少数群体遭受偏见、侮辱和歧视；人工智能应当尊重人格尊严和个人隐私，保障人工智能参与者的知情权和选择权；最后，人工智能的发展应当可控，人类不从属于人工智能也不应受到人工智能的胁迫，保障人类在人工智能中的决定作用，当人工智能失控时应当有毁灭装置。

1、平台

对于汇集了大量直播虚拟人的平台而言，平台的善良管理者义务是与其从虚拟人直播中直接获得的经济利益正相关的（比如在直播虚拟人获得的打赏中拿走一部分），获得的经济利益越大自然应对此负有较高的注意义务，其应当承担的法律责任和注意义务与上章所述基本一致。

2、商家

（1）在制作和运营直播虚拟人时，应当坚持科学伦理先行。

伦理是指在处理人与人、人与社会相互关系时应遵循的道理和准则。是指一系列指导行为的观念，是从概念角度上对道德现象的哲学思考。它不仅包含着对人与人、人与社会和人与自然之间关系处理中的行为规范，而且也深刻地蕴涵着依照一定原则来规范行为的深刻道理。^[8]人工智能伦理是指处理人与机器、机器和社会之间相互关系时应遵循的道理和准则，包含着人与机器、机器和社会之间的行为规范。人工智能最大的弱点是缺乏直接的感受能力，在价值判断上存在弱点，而人工智能伦理准则所倡导的造福人类、避免伤害、公平正义等价值理念，为人工智能技术层面的开发和运用提供了价值判断标准。^[9]人工智能的研发与应用首先应当为了共同利益和人类福祉，以促进人类向上向善为目的，保护人类在社会和工作中的尊严、诚信、自由、隐私和安全，推动全社会公平共享人工智能带来的益处，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展；其次，运行应符合可理解原则和公平原则，人工智能应该能够为人类社会现有的道德所理解，切实保护各相关主体合法权益，促进社会公平正义和机会均等；再其次，人工智能的运行应当保持透明可见的原则，不让特定个人或少数群体遭受偏见、侮辱和歧视；再次，尊重生命权利，人工智能应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，尊重人格尊严和个人隐私，保障人工智能参与者的知情权和选择权；最后，人工智能的发展应当可控，人类不从属于人工智能也不应受到人工智能的胁迫，保障人类在人工智能中的决定作用，当人工智能失控时应当有毁灭装置。

（2）数据伦理

以机器学习为代表的人工智能技术需要大量的数据，数据是机器学习的根基，数据的真实性、完整性、规模和质量是人工智能进行分析与建模的关键。人工智能公平性的核心基础是数据，数据的不公平主要体现在：不同群体在数据中所占比例不均衡，数据固有的歧视，数据固有的偏见，数据的包容性不够，数据的通用性以及数据的准确性等。数据固有的歧视和偏见，是因为一些带有歧视和偏见的价值观映射在数据上。如果没有对上述数据不公平现象进行调试和校验，就将反馈到人工智能算法模型并将最终映射到人工智能公平性上。

（3）算法治理

智能直播虚拟人需要通过算法实现自动化决策，以达到与用户之间的强互动。算法，源自计算机科学的一个概念，是执行预定良好计算过程的计算机代码或指令，基于原始数据的输入通过自动化决策产生结果数据的输出。算法的出现和使用，是为了执行大规模重复的任务和计算，是为了实现商业上高效快速的交易，是为了实现公权力具有广度、深度和效率的运行。随着算法的日益广泛应用，算法已经成为促进政治、经济、文化和社会发展的工具。算法，简而言之就是“数据处理活动”，收集处理数据，挖掘数据价值，涵盖了数据的生成、采集、存储、转换、处理和输出的全过程。算法，应当遵循人类共同价值观，遵守国家或地区伦理道德；算法应当尊重人类主体地位，给用户选择权和决策权；算法应当抑制人类社会无处不在的歧视和偏见；算法应当保障用户的人身权和财产权。

注释：

[1]虎嗅网，共同虚拟，百万身价虚拟人，https://www.huxiu.com/article/490478.html

[2]编程客栈，出资2500亿！资本沸腾！虚拟人直播带货一夜爆红！品牌方因何买单？http://www.cppcns.com/news/roll/468379.html

[3]新浪，樱动漫，CCTV新科娘宣布更换中之人，这个官方虚拟主播又凉凉了，http://k.sina.com.cn/article_6438410494_17fc258fe00100lp02.html

[4]百度，36氪，窦轩，焦点分析｜虚拟偶像顶流A-SOUL塌房：一场失败的商业实验，https://baijiahao.baidu.com/s?id=1732947038731113203&wfr=spider&for=pc

[5]百度，钛媒体APP，第一虚拟主播「绊爱」的消失，https://baijiahao.baidu.com/s?id=1725874752790421125&wfr=spider&for=pc

[6]澎湃，差评君，顶流虚拟偶像A-SOUL一夜塌房，背后的五个女孩真的就是工具人？https://m.thepaper.cn/baijiahao_18144210

[7]百度，人民融媒体，人民网，人民艺起评：警惕“饭圈文化”席卷“虚拟偶像”，https://baijiahao.baidu.com/s?id=1733128935195419857&wfr=spider&for=pc

[8]百度百科，伦理，https://baike.baidu.com/item/%E4%BC%A6%E7%90%86/2138438?fr=aladdin

[9]中国网财经，人人皆可换脸 眼见不再为真：人工智能安全如何保障？http://finance.china.com.cn/roll/20210108/5472031.shtml

或许您还想看

上下滑动查阅

作者简介

黄  斌

北京德和衡（深圳）律师事务所高级联席合伙人

黄斌律师，北京德和衡律师事务所数字经济与人工智能业务中心副总监，元宇宙科技与法律研究中心主任，深圳律协数字经济专委会副主任，北京德和衡（深圳）律师事务所高级联席合伙人，公司业务部副主任，北大法律信息网签约作者，《互联网法律评论》特约专家，无讼公开课讲师，无讼专栏作者，百度百家号VIP作者，华中科技大学法律硕士，专利代理人。

擅长专业领域为：数字经济、元宇宙、NFT、虚拟人、区块链、虚拟货币、公司法、建设工程、知识产权。

黄斌律师专注于中小股东保护，深度研究数万个判例进行解码，从董事推荐、公司决议、股东退出等多维度完成了公司中小股东保护法律服务产品；在大学从事近十年建设法规教学，从建工合同的签订、入场、施工、变更、退场等多维度保护建工企业及实际施工人的权益；曾从事三年专利代理工作，参与了武烟集团公司知识产权战略规划。2017年完成江西省工商联课题“民企知识产权保护”。

现为中国最大法律人社区无讼阅读“商标有道”专栏作者，在北大法律信息网和无讼阅读平台上发表过《中国好声音：到底是谁的好声音》等100多篇知识产权法文章，《麦当劳中国更名为“金拱门”相关法律问题评析》荣获“无讼”阅读2017年度专业文章第一名，《短视频版权保护的江湖风云》收录在《大数据—北大法律信息网文粹（2018-2019）》一书。

代理案件中江西网络电视台诉暴风科技信息网络传播权侵权案入选江西省高院2017年十大知识产权经典案例、田某某侵犯商业秘密罪案（判三缓五）入选2021年江西省检查机关保护知识产权典型案例。

手机：[phone]

邮箱：[e-mail]

质控人简介

辛小天

合伙人

数字经济与人工智能业务中心总监

[e-mail]

END