查看原文
其他

陈兵|论新质生产力的经济法促进——以人形机器人创新发展为例

陈兵 上海市法学会 东方法学
2024-11-16

作为通用人工智能技术应用的理想载体,人形机器人技术及产品不仅需要新质生产力为支撑,而且随着相关基础技术集成创新的跃升,其有望成为我国新质生产力发展的重要引擎。从发展新质生产力的视角看,人形机器人产业虽然在我国得到了一定重视,但是仍面临有效市场和有为政府间价值与功能需进一步适配、技术发展和应用中安全风险与漏洞需解决、经济创新发展目标与市场公平竞争秩序待协调等经济问题。为此,聚焦发展新质生产力的经济法治时代内涵,重视经济法推动新质生产力对人形机器人创新发展的促进作用,坚持以创新发展为目标、以安全可控为底线、以公平竞争为支撑、以包容开放为保障,推动负责任人形机器人技术及应用的高质量发展。建议以统筹好高质量发展与高水平安全的动态平衡为前提,构建多元共商共建共享的治理体系,全面准确理解系统观念,以激励创新为导向,以市场公平竞争为支撑,建立和完善容错机制,有效促进人形机器人在包容开放的全球合作生态中创新发展。

一、背景与问题
2024年7月,党的二十届三中全会通过了《中共中央关于进一步全面深化改革、推进中国式现代化的决定》(以下简称《决定》),对健全推动经济高质量发展体制机制、促进新质生产力发展作出重要的战略部署,指出要加快形成同新质生产力更相适应的生产关系,促进各类先进生产要素向发展新质生产力集聚,大幅提升全要素生产率。“新质生产力”在2024年《政府工作报告》中被重点提及,列为本年度十大工作任务首位。新质生产力是指创新起主导作用,摆脱传统经济增长方式、生产力发展路径,具有高科技、高效能、高质量特征,符合新发展理念的先进生产力质态。其中,作为最具代表性的具身智能(Embodied intelligence),人形机器人(Humanoid robot)有着类似人类的身体结构和运动方式,能够在更复杂的场景中胜任更多的工作,被认为是通用人工智能技术的理想载体,有望成为继计算机、智能手机、新能源汽车后的颠覆性产品,已成为全球科技竞争的新高地和未来产业的新赛道。而人形机器人能否实现高质量发展,核心即是以发展新质生产力作为促进其创新发展的强劲推动力和支撑力。实现人形机器人的创新发展之所以要以新质生产力为重要支撑,是因为新质生产力所独具的高科技、高效能、高质量等特征与人形机器人产业的发展需求紧密契合。在培育新质生产力的过程中,通过发挥创新的主导作用,激发原创性、颠覆性的科技创新,将科技创新成果更及时地应用到人形机器人发展中,为人形机器人的科技创新和产业创新提供更加科学的布局。
为更好推动新质生产力成为人形机器人创新发展的支撑,需正确认识具身智能与离身智能(Disembodied intelligence)之间的关系,虽然两者都具有很强的通用性,但是具身智能的最大特点在于具有支持感觉和运动的物理身体,可以进行主动式感知,也可以执行物理任务,克服了离身智能的诸多局限性。这就意味着人形机器人产业发展不仅离不开人工智能技术的创新,也需要高端制造、新材料等高精尖技术的大力支持。可以说,人形机器人的创新发展是人工智能、智能制造、自动驾驶等产业形成提供新质生产力的“创新联合体”,其中,人工智能技术是引领人形机器人取得技术突破的关键动力,尤其是以ChatGPT为代表的大模型,有望为人形机器人提供更智能的“大脑”。
目前,世界各国政府虽然尚未出台与人形机器人直接相关的经济政策和措施,但针对人工智能、机器人等产业提供了较为充足的政策支持。美国于2021年2月宣布《国家机器人计划(NRI)》,支持对集成机器人系统的研究,并向其提供1400万美元的支持,鼓励各相关机构和组织进行合作研发。2023年5月23日,白宫公布《国家人工智能研发战略计划》,致力于使美国在人工智能领域保持世界领先地位,开发功能更强大、更可靠的机器人等。德国2021年颁布《2025高科技战略(HTS)》,计划到2026年德国政府每年将提供约6900万美元的资金以支持高科技发展,包括研发特定领域的人形机器人。韩国政府2022年发起《智能机器人基本计划》,并为此提供1.722亿美元的支持,以推动机器人技术发展。日本的“新机器人战略”旨在使日本成为世界上第一个机器人创新中心,日本政府在2022年提供了超过9.3亿美元的支持。
与域外相比,我国在支持人形机器人创新发展的政策支持上更具有前瞻性。2023年1月,工业和信息化部等十七部门联合印发《“机器人+”应用行动实施方案》(以下简称《实施方案》),提出要“构建机器人产用协同创新体系”“带动机器人企业协同攻关和成果转化”,这充分回应了人形机器人创新发展在技术和产业方面的需求。2023年10月,工业和信息化部关于印发《人形机器人创新发展指导意见》(以下简称《指导意见》)明确指出,要推动人形机器人产业高质量发展,培育形成新质生产力,高水平赋能新型工业化。总体而言,目前我国政策聚焦于建立人形机器人创新体系,提升人形机器人技术创新能力,拓宽人形机器人具体应用场景,在统筹发展和安全的基础上,开拓一批新业务、新模式、新业态,助力推动新质生产力成为人形机器人实现创新发展的重要引擎。
虽然人形机器人的创新发展已经受到了各国政府的重视,但是,仍存在诸如不安全、不可靠、技术门槛高、竞争活力不足等制约新质生产力发展的问题。经济法治作为在经济社会高质量发展中依法保护市场主体的合法权益,规范市场经济秩序,以法律手段来管理和调整经济行为的原则和制度,确保经济、社会等协调发展,发展成果兼顾多数人利益的一种法治运行样态,在本质上契合了发展新质生产力的基本要求,除发展要求外,涵摄安全、竞争、创新等,为人形机器人创新发展提供充分保障。
在具体治理路径构建上,可以主要从人工智能的核心要素治理与整体治理两个视角出发:对于数据要素,聚焦于数据要素流通问题,重视对数据产权制度的探讨,关注依反垄断法强制开放必需数据有现实可行性、数据爬取行为的正当性等问题;对于算法要素,则聚焦于算法歧视、算法共谋等不正当竞争和垄断行为;对于整体治理,则有学者提出了分场景治理、分层治理、风险分级管控等路径。
为了加快发展新质生产力,进一步推动人形机器人等代表性场景的创新发展,亟须从经济法治具体内涵出发,结合人形机器人行为集成的技术特征,找准人形机器人发展面临的经济法治困境,构建促进人形机器人创新发展的经济法治实现机制,进一步适配有效市场和有为政府间价值与功能、解决技术发展和应用中安全风险与漏洞、协调经济创新发展目标与市场公平竞争秩序,建立健全人形机器人创新发展目标与路线,探寻促进新质生产力重点应用场景高质量发展的经济法治方案。
二、以人形机器人创新发展诠释新质生产力的经济法构造
经济法治是指通过经济法律制度调整使经济体制改革和社会经济发展步入法治轨道,实现经济改革和发展法治化的治理过程。在人形机器人发展的经济法治模态构建中,牵涉到复杂的价值平衡,需要从理论上依据人形机器人产业发展的现状与特征引入综合性多维度分析,价值判断也需要从消费者福利、经济效率等经济性价值取向迈向多元利益平衡,特别是注重对消费者隐私安全、劳动者权益、环境保护、可持续发展等非经济性价值的关注。因此,以人形机器人创新发展为着眼,能够较为充分地诠释新质生产力的经济法治构造,通过明确主要维度、建立有机联系,形成有助于导向合理结果的规制框架,协助规制者全面考虑各种因素,制定出合理的法治安排,推动人形机器人等新质生产力的具象化发展和变革。
以人形机器人创新发展促进新质生产力的经济法治构建工作是一项系统工程,该经济法治的内涵应主要包含以下几点:其一,确立创新发展为人形机器人发展的首要目标,将新质生产力作为主要推动力,鼓励科技创新和关键性技术突破,让各类优质要素向有助于人形机器人发展的方向汇集。其二,以安全可控为底线,制定明确的法规和标准,保证人形机器人在设计、制造和运用过程中安全可控。其三,以公平竞争为支撑,防止垄断和不正当竞争行为,以良性竞争促进人形机器人技术创新,推动行业规范健康可持续发展。其四,以包容开放为保障,推动人形机器人技术的普及和利益共享,通过政策扶持、技术交流和国际合作,为发展新质生产力营造良好的国内和国际环境,促使技术成果更广泛地惠及社会各层面。

(一)以创新发展为目标

创新不仅是引领人形机器人产业健康发展的新引擎,也是发展新质生产力的核心动力。在2023年1月发布的《实施方案》中进一步明确指出,要“构建机器人产用协同创新体系”,“鼓励产用共建机器人应用领域创新联合体、创新中心等创新机构”。2023年10月,《指导意见》指出,营造人形机器人产业生态,一是需要“培育优质企业”“强化企业创新主体地位”,二是“完善创新载体和开源环境”、深化创新与产业发展融合,三是打造创新能力强、应用场景佳的优势集聚区,“推动产业链集聚发展”。习近平总书记在2024年1月的中共中央政治局第十一次集体学习时提出“科技创新能够催生新产业、新模式、新动能,是发展新质生产力的核心要素”。
目前,相关政策、方案、意见陆续出台,构建了顶层设计与具体措施兼具的政策支持体系,抓住了创新作为发展新质生产力的关键所在,为探索人形机器人创新发展的新模式、新路径提供了政策制度保障,明确了创新之于人形机器人发展的重要意义,既涉及技术层面的突破,也关乎经济社会层面的发展。首先,创新是人形机器人及相关产业持续发展的重要基础和第一推动力。只有通过不断推动科研和技术进步,才可实现产品的不断升级和优化,使人形机器人更具智能性、灵活性和适应性,满足不断变化的市场需求,同时创造新的市场需求,提高技术及产业的国际竞争力。其次,创新还对人形机器人相关的产业链协同发展产生积极影响,人形机器人生产和应用涉及诸多领域,譬如材料科学、机械工程、计算机科学等。通过激发创新,不仅能够带动相关产业的发展,还有助于形成完整的产业生态。同时,在经济层面,激励创新有助于提升国家或地区的科技竞争力,推动整个产业体系向高附加值方向发展,助力经济发展的转型升级,实现经济增长模式由“粗放式”向“集约式”的转变,顺应高质量发展的目标要求。最后,从社会层面看,创新还能够促使人形机器人技术提供更精准、高效的服务,部分解决因劳动力短缺、深度老龄化、少子化等引发的经济社会可持续发展难题,更好地助力中国式现代化的实现。
进言之,人形机器人的创新发展不仅需要新质生产力提供支撑,其作为一种颠覆性技术在未来也可能成为培育发展新质生产力的动能。虽然,人形机器人尚未进入产业化应用阶段,但其已经蓄势待发,有望在未来产生颠覆性影响,促进产业深度转型升级,实现全要素生产率大幅提升,成为新质生产力培育发展的关键一环。当前,世界主要国家都高度重视人形机器人技术的发展,纷纷对该技术创新加大投入、对相关产业转化加大支持,以期引领技术创新和产业发展方向,尽快形成产业新赛道和经济增长新动能,并在创新链、产业链中取得掌控地位、获得更大的价值创造份额。

(二)以安全可控为底线

2023年10月发布的《指导意见》明确提出,要“加强安全治理能力”“提升人形机器人功能安全性能,确保相关技术产品对人和环境友好”,并且“促进技术创新与科技伦理协调发展”。此外,信息安全、数据安全等技术能力的提高也被提及。不仅如此,产业安全水平也是发展新质生产力的内在要求,新质生产力的发展需要加强科技创新,更要统筹高质量发展和高水平安全,不断夯实新质生产力的安全基础,才能推动人形机器人可控发展。习近平总书记在2024年1月的中共中央政治局第十一次集体学习时强调,“提升产业链供应链韧性和安全水平,保证产业体系自主可控、安全可靠”。可见,安全可控是人形机器人发展必须牢牢守住的底线,在发展中必须统筹高质量发展和高水平安全的动态平衡。
由于人形机器人具有较高的技术难度,且集成了包括人工智能、传感技术等多种高精尖技术,使其存在的安全风险可能具有更为复杂、广泛、深远,甚至不可预知的影响。首先,人形机器人存在人工智能固有的数据与算法相关的潜在风险,人形机器人研发与迭代涉及大规模的高质量数据源,对数据安全和隐私保护构成极大挑战,现实的和潜在的数据泄漏、篡改和真实性验证等风险降低了用户的信任度。而旨在匹配人形机器人复杂应用场景的算法可解释性则愈发不足,算法自主性的提升将使人形机器人应用愈发不可控。其次,人形机器人与工业应用紧密结合,安全事件不仅可能危及设备和数据的安全,还可能导致生产事故,对人类生命安全构成直接威胁。例如,在医疗机器人领域,安全漏洞可能直接威胁患者的生命。
人形机器人被视作具身智能的理想载体,未来可被广泛应用于医疗保健、交通运输、教育培训、娱乐休闲等通用领域,并不断向各类专业性特征强、风险性系数高、创新潜能大且新质生产力运用强劲的新兴行业拓展,为此,更需将高水平安全作为其发展的基石和目标,以预防潜在的风险事件、事故和技术滥用的发生,提高公众对人形机器人这一新兴技术及应用的信任度与接受度,确保人形机器人产业的可持续性发展,为产业的健康成长创造良好的环境。
人形机器人在高质量发展与高水平安全之间寻求适当平衡的过程中,需同时避免过度设立法规进行限制,过多的规制措施除可能导致规制成本上升外,有时还会产生矫枉过正的效果。此外,还需在适应变化和保持稳定之间找到平衡,如果规制措施出台与变化过于频繁和突然,可能导致创新发展的不确定性增加,使企业难以适应市场变化,从而影响整个产业的稳定性。因此,在制定规制政策时,需要谨慎平衡对技术的支持与对风险的控制,以确保人形机器人产业在变革中保持适度的稳定和安全。

(三)以公平竞争为支撑

公平竞争是建设高水平社会主义市场经济体系的核心价值之一,只有在公平有序的市场竞争环境中,人形机器人技术研发及产业应用才能得到创新发展,生产要素的配置才能更加科学高效。为此,须以维护公平自由的市场竞争秩序,来充分释放市场主体的创新活力,协同有形之手和无形之手,实现各类资源的有效配置,在此基础上推动人形机器人创新发展为激励和保障科技创新的最优解。
当前,人形机器人产业存在较高的技术门槛和技术壁垒,严格的市场准入条件使得人形机器人研发企业高度集中,数据垄断、专利垄断等问题可能成为人形机器人创新发展中不容忽视的问题。综观当前人形机器人技术及产业,除以本田为代表的较早进入人形机器人产业的传统制造型企业外,特斯拉、波士顿动力、小米等新兴科技型企业在人形机器人方面也有显著的成果。可以发现,这些企业背后通常都是拥有雄厚研发资金、海量数据资源以及先进算法和超高算力的科技巨头作为支撑,一般的初创型企业在缺乏技术与资金优势的情况下很难进行持续性的创新发展。如此一来,极易导致人形机器人相关市场的进入门槛过高,使得市场出现中心化、集中化的垄断趋态,很可能会使得市场竞争活力不足,进而影响企业进行创新研发的动力。不仅如此,一些科技巨头也可能为牟取垄断利润而利用其在数据、算法、技术等方面的优势实施技术封锁、数据屏蔽等具有反竞争效果的行为排除、限制竞争对手,从而对人形机器人市场公平竞争的环境产生实质威胁。
为此,在支持人形机器人创新发展全过程中必须牢固树立公平竞争的市场理念,健全完善针对高科技创新的公平竞争法律制度安排。当然,维护公平竞争的市场秩序事关国家高水平市场体系的一体化、系统性建设,仅靠反垄断法、反不正当竞争法难以胜任,其建设和完善需要诸多法律部门的协同保障,以此营造全社会信任公平竞争的氛围,从而有利于可持续创新发展。

(四)以包容开放为保障

2021年9月科学技术部公布《新一代人工智能伦理规范》,明确提出“促进包容开放……坚持普惠性和包容性……推动全社会公平共享人工智能带来的益处”。但在新一轮科技革命背景下,人形机器人等新兴技术正在颠覆传统的经济发展模式,推动生产、交换、分配和消费等环节的变革,在孕育着新发展动力的同时,也潜藏着社会风险,譬如,对传统劳动力的替代可能引发严峻的就业挑战、“数字鸿沟”分化不同人群和地区可能进一步加剧财富和收入分配的两极化等。如果这些风险不能得到及时有效治理,就会反过来制约人形机器人创新发展及潜能释放。
包容性的经济法治注重宏观调控机制对经济发展的保障作用,倡导通过法治手段,纠正经济发展模式的偏差,强调对社会经济发展中歧视现象的纠正,使贫富差距缩小,逐步实现经济发展成果的利益共享和经济权利的保障,进而实现社会、经济、政治、文化等多方面的包容。高水平对外开放能够为发展新质生产力营造良好国际环境,新质生产力推动人形机器人创新发展除了需要实现负责任安全和高质量技术之外,还需要兼顾增强人形机器人技术的包容性,推动人形机器人产业向公平和开放方向发展,同时重视与国际发展接轨。
包容发展可以确保人形机器人技术的广泛受益,使其服务更多不同年龄、经济状况和文化背景的人群,防止人形机器人技术仅服务于特定群体,造成社会资源和机会的不均衡分配,从而缩小科技鸿沟。此外,通过促进人形机器人技术的广泛应用,可以为不同领域创造新的就业机会,促进就业多样性,减轻社会对于技术创新可能带来的担忧和抵触情绪,增强社会对人形机器人技术的接受度和信任感。为此,人形机器人产业发展除了实现高质量之外,还需要兼顾解决贫困、优化分配格局等目标,增强人形机器人技术的包容性,推动人形机器人产业向公平和开放方向发展。
总而言之,人形机器人领域的包容开放,要推动人形机器人发展成果的普惠共享,营造主动接受人形机器人应用的积极氛围。将包容性发展作为目标有助于建立一个公正、多元、共享的人形机器人产业生态系统,为社会带来更广泛、均衡的利益。
三、以人形机器人创新发展促进新质生产力面临的困境
科技的迅速发展使得人形机器人的能力日益增强,但公众对其认知还较为有限,科技缺陷的风险如何承担等问题随之而来。当前,在发展新质生产力的需求下,人形机器人创新发展的实现,不仅要解决技术创新问题,还要解决关于创新与竞争、安全与发展等问题,对当前我国人形机器人创新发展、具体规则设计以及科技伦理皆提出挑战。

(一)激励创新与公平竞争亟待平衡

激励创新是推动人形机器人技术进步和产业繁荣的核心动力,也是发展新质生产力的重要途径。人形机器人发展涵盖多个领域科技的集成,包括机械工程、计算机科学等,在这个高度集成创新的过程中,企业和研究机构对其研发的新技术、新算法和新工艺进行技术开放,有助于实现研发效能提升。不过,为激励相关主体加大创新投入,防止其他竞争者“搭便车”“食人而肥”,亟须防范和规制在创新发展特别是在集成创新中不当获取或使用技术成果、拒绝合理开放相关技术、歧视性授权使用相关技术等不公平竞争的行为发生。技术创新的快速应用对整个产业的发展至关重要,合理的技术保护反哺技术发展,但如果对知识产权保护过度甚至滥用知识产权,则容易导致技术壁垒的形成,可能使得企业间的技术合作受限,创新成果不能合理共享,提高行业准入门槛,导致少数大型企业垄断先进技术,从而影响整个行业的创新速度和效率,扭曲市场竞争,阻碍新质生产力的发展。
保障公平竞争是市场经济的应有之义,也是人形机器人产业可持续发展的前提。在激励创新保护创新成果的同时,也需要提防可能出现的反竞争行为,譬如,警惕少数大型企业通过资本优势和市场份额,获得更多创新资源和人才,快速积累技术,形成竞争优势乃至垄断,凭借规模效应压制竞争对手,使得初创型企业难以生存和发展。通过公平竞争,市场才能更好地在资源配置中发挥决定性作用,为各类人形机器人企业在公平的条件下自由参与竞争创造条件,发挥优胜劣汰的筛选机制,从而推动行业不断进步,满足不同层次需求。此外,由于人形机器人产业投资大、周期长、风险高,过度追求公平竞争的目标时,可能使创新企业无法获得应有的回报,降低投资者对于人形机器人技术持续投入的信心,进而影响产业的长期创新能力,阻碍人形机器人技术的迭代更新和产业的可持续发展。
当前,我国虽然已进入全球人工智能发展的第一梯队,但是在与美国的人工智能领域竞争中仍存在差距。目前,诸如OpenAI、Anthropic和Inflection在内的世界顶流人工智能大模型厂商大多位于美国,不仅吸引了大量的资金涌入,在技术积累、人才吸引方面也都处于领先地位。尤其是OpenAI公司于2024年2月发布AI视频生成工具产品Sora,再一次加速通用人工智能产业的发展。而我国人工智能领域投融资则不如预期,在人形机器人技术领域也较日本、美国、欧盟等国家与地区起步更晚、积累不足,对于政策、资金、技术、人才的需求更为强烈。在我国加快发展新质生产力的背景下,人形机器人发展中如何平衡激励创新与保障公平竞争的关系仍待探讨。

(二)人形机器人治理规则系统性不足

目前,我国在发展人工智能、智能制造、自动驾驶等产业中,仍存在制约高质量发展的问题,譬如算法歧视、窃取数据、技术封锁等问题亟待解决,这些问题直接涉及人工智能安全和公正使用、技术的开放性和合作性,可能影响技术创新和生产要素的流通配置,抑制企业创新活力,也可能会成为制约新质生产力发展的要素。为了确保人形机器人技术的安全、可持续发展,确保人形机器人的设计、制造和使用符合道德和法律要求,必须进一步健全相关治理规则。
然而,我国尚未形成相对系统的人形机器人治理体系,对人工智能立法采用了较为多元的方式,如制定专门的人工智能部门法规,或在相关法律中加入人工智能相关规定,抑或在相关领域的管理规定中加入人工智能相关内容等。譬如近年来,我国围绕人工智能的数据、算法等核心要素以及人工智能的整体应用,在法律层面先后颁行了网络安全法、个人信息保护法、数据安全法等法律,多部细分领域的管理政策,如《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法》也相继出台。同时,传统部门法也将人工智能相关要素及其应用纳入规制范围内,我国民法典第127条对数据权益的民法保护作出了宣示性的规定,最高人民法院、最高人民检察院也于2019年作出《关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》。
即便如此,对多种场景的人形机器人而言,现有治理规则尚未形成系统体系,缺乏高效的协同效能。一方面,当前对于人工智能的相关立法与政策分散于多领域、多产业、多环节中,尚无立法层级高、具有统辖性的立法。首先,面对具有复杂技术层和产业链的人形机器人,监管者与开发者之间存在较大的信息不对称;其次,人形机器人产业链涉及核心零部件、本体设计制造以及工业、商业、家庭、医疗、物流等多场景应用,其跨领域、多行业、多环节的特点加大了监管协同难度。故当前较为分散且法律位阶较低的人工智能的制度规则不利于相关机构开展监管活动,也不利于企业进行自我规范。
另一方面,对于人形机器人所依赖的数据、算法、算力、零部件等关键要素的规定仍进一步细化,为人形机器人创新发展提供高质量供给。以人形机器人创新发展所需要的数据要素为例,我国正处于从数据保护迈向数据赋能的关键转型期,但还面临数据产权界定不清、流通交易规则缺失、无法采用统一化规则等挑战,数据要素流通仍存在阻滞,无法应对人形机器人创新发展对大规模、高质量数据的需求,在数据价值释放和数据流转利用规则体系方面仍有较大完善空间。同时,在数字经济领域,部分平台利用其用户优势、技术优势、基础设施优势等,收集了大量的数据,实现了数据量的垄断和基于数据的垄断,不利于人形机器人发展所需的大规模高质量数据供给,更容易产生“市场失灵”的现象,严重阻碍人形机器人产业发展成果由人民共享。

(三)人形机器人伦理与安全困境突出

近年来人工智能技术的高速发展,为人形机器人加速创新发展提供了重要推动力。人工智能技术,尤其是通用大模型的出现,使得人形机器人更具通用性、智能性,人类与之进行更自然的交互成为可能。人工智能作为人形机器人的“大脑”,将使人形机器人在表现形式、作用逻辑及应用场景等方面对传统人工智能进行全方位革新,随着人形机器人在外观上拟人外,在人工智能的赋能下逐渐实现思维和行动上拟人,使人形机器人在现实的多场景应用中将会面临更为复杂的伦理挑战。
从人形机器人的开发层面而言,人形机器人需要大规模的高质量数据供给。人形机器人模拟人类的外观与行为,在执行任务时面临的环境和交互内容、产生的数据模态更多、更复杂,在单位时间内能够产生的数据要远超语言几个数量级,远非现有的ChatGPT等语言大模型可以比拟,具有更高的数据丰富度。其一旦发生数据泄露事件,将带来难以想象的灾难性后果,可能会对个人隐私、商业秘密和国家信息安全等产生严重威胁。此外,不同于ChatGPT等离身智能形式,人形机器人具备了物理形状,不论是与人的交互方式还是交互场景都大大增加,这意味着其可以通过设备的增设自行收集、存储、处理、使用更多相关数据用于深度学习,对个人数据的保护提出更大的挑战。
当前,人工智能大模型的数据量呈现爆炸式增长,2018年推出的GPT-1的参数量为1.17亿,2023年推出的GPT-4的参数已达1.8万亿。大模型参数规模的增长为提高模型自主学习与生成内容的准确性、丰富性提供训练基础,但也使得算法自主学习的频次不断增加,算法不断迭代,导致技术隐层愈发复杂,生成的认知结果超越了一般大众所能理解的范围。因此,算法运行过程也被称为“算法黑箱”,这种信息上的不对称加深了算法的不透明度与不可理解性。
同时,人形机器人集成了大量不同的传感器,通过算法把软硬件有机整合,从而协调好各部分的速度、力度、准确性,确保硬件系统各司其职完成任务,这一运行过程的难度是巨大的,故算法的复杂程度也可以想象,所带来的安全问题未可预知,可信程度也随之降低。譬如,已经出现或大量潜在的算法偏见、歧视、霸凌等算法滥用问题,导致人形机器人的行为不符合人类的期望和利益。
从人形机器人的应用层面而言,同样面临着一些伦理和安全问题。在功能设计方面,如果人形机器人的设计者没有遵循一定的价值观和道德准则,可能会造成人形机器人的功能缺陷、故障或滥用,从而危害人类的生命、财产和尊严;缺乏合适的伦理标准和设计准则可能导致人形机器人在执行任务时出现不当行为,如侵犯隐私、进行歧视性行为,或者被用于不当用途,如恶意攻击或监视。在外观设计方面,人形机器人面临着“恐惧谷”效应,即机器人外形如果过于逼真,会使人的认知产生偏差,引发不适、恐惧、厌恶等负面情绪,影响人形机器人的社会接受度和人机交互的效果。
四、以人形机器人创新发展推动新质生产力的经济法进路
当前,人形机器人产业激励创新与公平竞争存在张力、人形机器人治理规则协同性不足、人形机器人伦理和安全困境突出等经济问题,将成为制约发展新质生产力的因素,凸显了通过新质生产力推进人形机器人创新发展助推新质生产力的必要性、现实性及迫切性。为此,需以统筹好高质量发展与高水平安全的动态平衡为前提,构建多元共商共建共享的治理体系、建立兼顾创新与市场公平竞争的容错机制、促进人形机器人产业形成包容开放的全球合作生态系统,为发展新质生产力营造良好的国内和国际环境,从而更好地实现人形机器人创新发展。

(一)统筹高质量发展与高水平安全之间的动态平衡

安全是发展的前提,发展是安全的保障。2023年底召开的中央经济工作会议指出,“必须坚持高质量发展和高水平安全良性互动,以高质量发展促进高水平安全,以高水平安全保障高质量发展,发展和安全要动态平衡、相得益彰”。对于促进人形机器人产业发展而言,培育发展新质生产力是保障其可持续性发展的关键支撑,高水平安全则是确保其被社会大众广泛接受和信赖的前提。故此,实现人形机器人创新发展更要注重统筹高质量发展和高水平安全之间的动态平衡。
在促进高质量发展层面,应采取类型多元、内容丰富的政策措施,以满足人形机器人技术及应用创新发展中多领域、多场景、多层次的需求,加快相关创新成果向现实生产力转化。在保护市场竞争的前提下,围绕人形机器人产业的发展基础条件进行建设和完善,包括对相关技术研发的财政金融支持、知识产权保护、市场准入规范等,旨在创造有利于人形机器人创新发展的环境。同时,应注重维护相关市场上的公平竞争秩序,通过加强外部监管,督促和引导建立行业自律,预防和规制垄断、不正当竞争等行为,营造人形机器人创新发展所需的公平公开、健康有序的市场竞争环境。
在通过产业政策和竞争政策促进人形机器人产业高质量发展的同时,也需要关注其在发展中可能存在的安全风险,根据发展的需要以及安全风险的程度动态调整两者的平衡。一方面,新一轮科技革命和产业变革正深入发展,战略机遇与技术风险处于叠加期,须统筹人形机器人发展和安全的关系,对潜在风险实现早识别、早预警、早发现、早处置,化解风险于源头,防止人形机器人各种风险传导、叠加、演变、升级。另一方面,以经济高质量发展为牵引,提高风险化解的能力,科学制定相关法律法规、制度标准,加强监管体系建设,确保人形机器人的设计、生产和使用符合高质量发展的要求,引导人形机器人技术朝着更安全、可靠、智能化的方向发展,在规范人形机器人创新发展中有效应对源自技术创新、应用创新、场景创新等过程中的内部和外部安全挑战。
为进一步适应人形机器人创新发展在高水平安全上的要求,其一,需重点提升人机交互的可靠性与安全性,提升人形机器人功能安全性能,确保相关技术产品对人安全、环境友好。在人形机器人功能的安全性能方面,将安全设计纳入整个产品生命周期,对计算机系统中在硬件和软件层面采取多层次的安全防护措施,重点强化网络安全防护,提高信息获取、数据交互、数据安全等技术保障能力,强化整机、关键部组件、核心软件、算法等重点环节安全风险评估,促进安全能力提升。其二,要加强对人形机器人的常态化安全监管,尤其是在“服务应用”层面,通用人工智能模型在人形机器人创新发展中涉及工业制造、商业服务、仓储物流、家庭使用、医疗服务等多个重要领域,与用户发生深度交互,因此应以常态化监管为人形机器人高水平安全发展提供保障。在常态化监管下,敏捷是灵活化解风险的首要要求,精细是应对风险的重要手段,规范是风险治理的底线要求,需重点保障数据安全,基于分类分级原则关注重点领域与场景,设置合理的问责制度与技术伦理标准。

(二)构建多元共商共建共享治理体系

健全人形机器人产业创新发展是一个系统工程,不仅需要政府、社会团体、企业和公众发挥各自的角色优势,明确各方主体的责任内容,还需要建立多元主体协商共治空间,形成认知共识,凝聚发展合力,平衡各主体间的价值冲突与利益诉求,以实现人形机器人技术及应用的有序安全发展。在注重发展新质生产力的同时,人形机器人的应用也需始终坚持以人为本,保障和尊重人的基本权利,避免伦理风险的产生,实现可持续发展、科技向善、多方共治和社会包容等多元目标。
在多元共商层面,需要凝聚监管机构、人形机器人企业、科研人员、公众等多元主体,通过共商形成共识,推动构建具有约束力的人形机器人规范标准,并将涉及归责机制、伦理道德、安全保障等方面的标准嵌入人形机器人的开发、设计、测试、运行等各个环节中。同时,需要探索监管沙盒等多样化的监管工具,尤其对于投入重点领域使用的人形机器人,要落实算法备案制度、认证制度等事前、事中监管措施,保障人形机器人的发展始终尊重人的尊严和主体性地位。在技术层面,应当建构涉及数据质量、算法模型、性能评估等方面的技术标准,明确研发者、设计者、应用者等各方主体的权利、义务与责任,确保人形机器人的安全与质量。
在共建共享层面,首先,需要政府在责任构建机制、安全发展引导中扮演主导角色,通过合理的制度、体制和程序将不同利益主体组织起来,推动不同主体间的协商互动与反思整合,共同应对科技创新的潜在风险和挑战;搭建起科技创新全价值链的协商互动交流平台,推动政府从“控制命令型”向“服务互动型”转变,助推基于“责任”价值链的“官产学民”协同创新,实现对科技创新的负责任治理。同时,实现公共数据或政务数据规范流通利用,公共数据不仅具有海量数据规模,而且是高质量数据的供给源,契合人形机器人企业需求,需要在有法规可依、有安全方式可提供的基础上实现合理利用。可以预见,正因为人形机器人的大模型训练高度依赖高质量数据,各地方在探索数据市场建设的过程中,尤其在公共数据授权运营和开放方面,将可能看到政府与社会力量的协同,包括社会力量参与大模型公共数据集开发与运营,科研机构有偿贡献公开数据等。
其次,技术设计者、研发者与企业是人形机器人产业发展的关键主体。人形机器人技术及应用作为新兴技术和业态,具有极大的发展不确定性、伦理争议性、风险不可预知性等问题,技术设计者、研发者与企业在追求自主发展创新时,也应承担起对社会和公众的责任,维护产业发展的安全有序。既要主动回应国家出台的人形机器人产业相关发展政策,顺应国家发展趋势,同时,也要遵守市场秩序、公平竞争,可通过建立科技伦理委员会、参与伦理准则和行业标准的制定、研发治理测评工具等方式,加强对人形机器人技术研发和应用过程中风险的识别、评估和管理。
最后,广大公众作为人形机器人创新发展的最终使用人与受益者,需要提升公众对人形机器人的科学理解,推动公众积极参与治理,消解其对人形机器人发展可能带来的信任危机,为人形机器人创新发展提供广泛且坚实的社会基础,为产业的顺利落地孵化创造有利条件。为了促进公民参与,政府和科学团体应积极开展多样的科普活动,提高公民对于人形机器人的认识,促使公众更好地理解科学技术、积极参与科技创新与治理,逐步提高公众科学理解和参与科技监督的能力。此外,在法律框架内,在事前,应当鼓励公众参与人形机器人伦理标准的制定,在事后,畅通公民对人形机器人在具体应用场景中发生的安全事件的合法维权渠道,提高公众对人形机器人治理的参与度。

(三)建立兼顾创新与市场公平竞争的容错机制

从人形机器人产业创新发展的现实需求和健康持续发展的长远规划来看,人形机器人产业的容错机制应当以激励创新为导向,以市场公平竞争为支撑。2018年1月,《国务院关于全面加强基础科学研究的若干意见》就曾明确提出要“建立鼓励创新、宽容失败的容错机制,鼓励科研人员大胆探索、挑战未知”。习近平总书记在2024年1月的中共中央政治局第十一次集体学习时也强调,要“营造鼓励创新、宽容失败的良好氛围”。
人形机器人属于集合多种高端技术的复杂集合体,其在创新研发的过程中难免会因为技术路线选择失误、不可抗力或不可预见等因素,导致安全问题、数据泄露等风险。面对这类情况,我国需要建立容错机制,宽容对待创新失败,鼓励先行先试,最大限度地支持和保护科技创新主体的积极性和合法权益,以消除相关主体对创新风险的顾虑和担心。
在激励创新层面,需要建立相应的创新容错机制。对企业在创新研发以及市场竞争过程中出现的偏差甚或假阳性错误,给予其修正和改进的机会,从而能够更好地消解人形机器人创新发展中可能面临的制度障碍、法律规范滞后等问题引发的创新抑制风险。在严守安全底线的基础上,对人形机器人发展伴生风险与问题要持宽容态度,通过制度设计和机制调节,建立技术创新的容错机制,宽容并纠正科技创新活动中可能出现的失败和偏差,给予企业试错改正的机会,使企业更有勇气和底气去尝试创新。在相关法规和伦理框架中,对相关创新责任主体实施一定的豁免机制,鼓励实验性的探索,在保护公共利益的前提下对一些技术尝试给予一定的宽容度。
在公平竞争层面,需为企业提供明确可预期的专业指引。重点针对数据、算法等与创新研发和市场竞争密切相关的要素进行规范,在强化公平竞争规范的基础上,鼓励企业自查自纠发现其可能具有反竞争效果的行为,允许其及时终止或矫正行为以实现竞争规范的要求。
一方面,需进一步完善当前数据与算法相关规定,为人形机器人发展的关键技术需求提供法律支持。对于数据要素,需要完善数据相关制度,激发数据市场活力,除了明确数据权属、明确数据市场竞争行为的正当性标准、形成数据要素市场化配置的全周期治理格局以外,还可以针对人形机器人产业,建立公共训练数据池以推动基础模型的数字基础设施建设,从法律层面设置合理的知识产权制度保障基础模型层训练数据的获取。对于算法要素,虽然目前的算法自主性大大提高,但其自主仍然是有限的自主,此时将算法作为责任承担主体还不具备可操作性,亟待通过算法分类分级原则固定问责点,为实施算法侵权行为应当承担的法律责任的划分提供依据。同时,算法解释制度的根本意义在于提升公众对于算法的信任程度,形成对利用算法进行决策、提供服务者的规范向善的监督,因此,应当经由算法分类分级构建不同层次的算法解释制度,以期实现算法可信的本质目标。
另一方面,需要系统构建人形机器人治理的法律体系,为企业提供明确且可预期的法律依据。目前在国家层面通过立法的方式推进人工智能发展还存在诸多障碍,实践中多采用通过产业政策、地方政策或部门文件的形式对人形机器人相关的技术发展进行制度规范。譬如,国务院于2017年出台的《关于印发新一代人工智能发展规划的通知》,通过政策性文件的形式明确了我国发展人工智能的总体思路、战略目标和重点任务,并从法律法规、伦理规范、技术标准等方面为发展人工智能提出保障措施。同时,我国部分地区积极开展地方立法,就人工智能的发展与规范问题先行先试,譬如上海的《上海市促进人工智能产业发展条例》。据不完全统计,我国至今已有60余部地方规范性文件,从不同角度对人工智能产业发展进行了规定。可以说,我国对于人形机器人相关的技术、核心要素以及多种应用场景已构建了初步框架,具备了相当的立法基础。
考虑到人形机器人作为人工智能的高端运用产品,对其创新发展的经济法促进应整体纳入我国人工智能创新发展法治化治理体系之中,并在此基础上形成专门的人形机器人促进立法,提高目前分散立法的规范效率,从而有助于监管机构开展协同监管,为企业提供明确可预期的专业指引,引导企业及时承担技术风险的责任。

(四)促进人形机器人产业形成包容开放的全球合作生态系统

为实现人形机器人创新发展,全球社会需要共同努力,促使技术创新与伦理价值相辅相成,制定更加全面和包容性的治理框架,确保人形机器人的发展不仅能够推动科技进步,还能维护社会的公正和人权,以建设一个更为智能、公正和可持续的未来。对此,习近平总书记在2024年1月的中共中央政治局第十一次集体学习时提出“要扩大高水平对外开放,为发展新质生产力营造良好国际环境”,《决定》也提出“有序扩大我国商品市场、服务市场、资本市场、劳务市场等对外开放”。
结合人形机器人发展的具体场景,为进一步推动和扩大对外开放和国际合作,首先,我国可积极推进国际合作,主导或参与制定人形机器人领域的法规和伦理准则,形成全面而有效的治理体系,以推动人形机器人的负责任创新。其次,我国可积极开展国际对话,形成具有广泛共识的国际治理框架、标准规范,增进技术、人才、产业等方面的交流与协作,反对排斥主义,推动技术普惠和科技向善,实现各国普惠发展。最后,我国应积极参与全球关于加强人形机器人伦理道德、隐私保护以及安全风险等国际共性问题的研究,深化人形机器人法律法规、行业标准与监管等方面的交流合作,鼓励全球跨学科的研究,为各国法律专业、伦理学家、科学家等共同思考人形机器人的发展创造交流共同条件,创建人形机器人设计、创造、使用的良好环境,推动人形机器人发展目标在国际合作中的统一,使其更好地服务于人类社会。
我国在人形机器人产业发展过程中成果颇丰,然而这一进展也伴随着更为复杂和尖锐的问题。为有效应对这些挑战,我国有必要在激励人形机器人自主创新和知识产权保护的基础上,积极开展国际合作,抓住人形机器人这一新兴领域的新一轮国际规则制定机遇,主动参与相关国际标准的制定和实施,提升我国在国际人形机器人伦理准则及相关标准制定中的话语权和影响力,为我国企业参与国际竞争中创造更好的竞争环境。
同时,通过促进国际层面的人才交流与合作研究,在交流合作中共同制定行业标准和伦理准则,确保人形机器人技术的应用符合全球共识,减少潜在风险和争议,推动人形机器人产业沿着可持续、负责任的轨道发展。而研究成果的持续交流,使得各研究团队互相学习借鉴,共同攻克技术难题,加速人形机器人技术的发展,这有助于建立更加开放、协同的创新环境,为全球人形机器人产业的进步提供更为稳固的基础。

往期精彩回顾

黎宏|论我国刑法中的背信犯罪

史际春|经济法的立法路径审视及其改革

赵万一|医事伦理审查制度的法律实现

邢会强|证券虚假陈述赔偿的巨额化与有限社会化分散机制

目录|《东方法学》2024年第5期

孙佑海|发展新质生产力专门立法研究


上海市法学会官网
http://www.sls.org.cn



继续滑动看下一个
上海市法学会 东方法学
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存