“智能互联网的法律应对与社会治理”论坛综述
目前,智能互联网的建设与发展在全世界范围内都获得了高度重视,我国也已将网络强国、数字中国和智慧社会建设作为现代化经济体系和复兴发展战略的重要支撑。为探索智能互联网时代的法律变革与治理秩序,2018年6月9日至10日,《华东政法大学学报》《东方法学》《浙江社会科学》《国家检察官学院学报》《山东大学学报(哲学社会科学版)》《学术交流》(排名不分先后)等六家学术期刊,在华东政法大学长宁校区联袂举办“智能互联网的法律应对与社会治理”论坛。
围绕“智能互联网的法律应对与社会治理”这一主题,与会青年学者及专家就大数据与公民隐私保护、人工智能立法的理论与实践、智慧司法建设的挑战与应对等司法实践和理论创新中亟待解决的问题进行了分组研讨与交流,现将本次论坛的主要问题及观点综述如下。
与会学者合影
一、大数据与公民隐私保护
大数据、云计算、互联网等科技手段的广泛应用,不仅给一国国内个人信息的保护增加了难度,更对个人信息的跨境保护提出了更大的挑战。上海对外经贸大学张继红教授的报告以“大数据时代个人信息跨境传输法律问题研究”为题,指出面对大数据时代跨境数据泄露和滥用问题日益严峻,及个人隐私数据安全脆弱性进一步凸显的局势,欧盟采用了单边性保护措施,单方推定其所信奉的信息保护理念及原则。但是,无论是很难达到理想效果的单边性保护措施,还是只能在短期内调和两国之间信息矛盾的双边性协议,均不是个人信息跨境传输保护的最佳选择,从长远看,个人信息的跨境传输本质上具有全球化性质,需要多个国家及地区的共同参与并达成多边协议或形成机制才能提供根本性的解决方案。
而面对大数据技术的发展,我国在明晰数据法律地位、数据交易规制设计等方面同样面临着巨大挑战。武汉大学法学院李雅男博士的报告以“大数据背景下数据交易规制模式”为题,提出我国数据保护的现有模式——确权模式和行为规制模式均存在一定问题,因此,大数据立法应当保持谦抑性,在生产力发育成熟时再予以界定,而当前的数据交易应当遵循以下原则:自由获取与自由流转原则、数据共有共享原则、区别对待原则,并明确数据原生者、数据衍生者与数据使用者三者之间的权利义务关系,从而为数据交易创造良好的秩序。
公民隐私权是公民的基本权利,大数据时代公民隐私权所包含的内容有所增加,保护难度也不断增大,然而相反的是,公民主动保护个人信息的能力却有所削弱,例如,作为一种技术性侦查和创新性管理工具的公共视频监控,正日益受到政府青睐,而公民隐私在监控社会中却“无所遁形”。河南科技大学李延舜副教授的报告以“公共视频监控中的公民隐私权保护研究”为题,提出当前的公共视频监控已经从简单的处理公共场所的独立镜头发展成一个综合运用数字及移动技术的复杂操作,显然已经构成了对公民隐私权的威胁,而面对这样的威胁,他认为或许可以从公共视频监控的合法化、公众参与和监督的透明性以及隐私侵权后的问责制三个方面对公共视频监控进行规制,以实现对公民隐私权的保护。
作为典型的大数据行业,网约车行业伴随着移动互联网及共享经济风潮诞生。自2016年年底以来,北京、上海、广州、深圳等地方政府先后制定并实施了网约车地方细则,但对于这些细则合法性的批判一直不绝于耳。大连理工大学陈国栋副教授的报告以“网约车地方立法合法性之辨析”为题,指出基于城市道路资源的公共性与有限性,地方政府对网约车设置经营许可具备实质上的合法性,一方面,网约车车型限制是恪守依法行政原则与信赖保护原则的合法举措,另一方面,实施数量控制、设置经营许可,也是保障大多数人对公共道路一般利用权的合法措施,但需废除对车籍、户籍的控制。
《环球法律评论》支振锋副主编在评议时指出,无论在技术层面还是基础理论层面,数据与信息以及数据与隐私之间的关系究竟如何并未明确,这体现在现有互联网立法中“信息”与“数据”的混用,因此,作为高阶产品的法律规则更加难以确定。数据的跨境流动问题较为复杂,涉及个人隐私、国家安全及数据资产的特殊性等问题,这决定了其与传统的货物、服务的跨境流动区别明显。关于公共监控的隐私权问题,支振锋认为对于公共场所的定位不能极端化为公共场所的卫生间、试衣间等地,而是应当在真正符合实践的立场上考虑公共场合隐私权的保护问题,另外,传统研究主要针对公共视频数量和场所是否适当的问题,而现在应当着眼于拍摄数据的运用问题,因为只有在公共视频被不当利用时才可能产生对隐私权的侵犯。
《法学研究》谢海定副主编在评议时指出,我国关于数据权属和数据交易的研究还很欠缺,在具体的制度设计时,可以以确权模式和行为规制模式的区分为切入点,而在探讨数据原生者、数据衍生者和数据使用者的权利义务关系时,还需要进一步思考具体的理论支撑。关于网约车地方立法的合法性问题,谢海定认为,共享经济无论在当今还是未来均会是我们国家经济领域必须面对和思考的重大问题,基于城市道路资源的公共性的角度探讨这一问题,不能替代既有的关于政府与公民、管制与自由、公权力与私权利等视角的讨论,而是在既有讨论的框架之下增加了一个新的讨论维度。
北京航天航空大学余成峰讲师从问题意识和理论框架出发,提出在当今世界,法律同时面对来自四个方面的挑战,即经济发展、国家主权(政府管理)、个人权利保护以及推动技术进步。与欧盟选择人权保护和区域主权不同,中国在处理这些关系中,认为国家主权和互联网发展是硬杠杆,一定要捍卫好这两者。然而,早期的互联网发展和人权保护之间被认为是一个相互推进的关系,互联网可以赋予人更大的自由和平等,为何现在却出现大量的个人隐私和信息保护的焦虑?余成峰认为不是因为互联网技术本身就会带来对个人隐私的侵害,而是由于目前已经形成了一种特定的技术范式。由于当前人工智能技术的发展主要是以海量数据和粗暴消耗个人隐私为基础,单纯依靠传统的法律规则手段已经不足以去对抗这个系统快速扩展所带来的挑战,只有通过发起更多的公共领域的讨论来刺激和推动技术范式的变迁,才有可能形成一种具有内在制衡能力的技术生态系统。他认为,当前法律的使命可能更重要的是要通过法律来给技术、给国家和商业资本制造出一个“不太舒服”的外部环境来刺激技术的发展和技术政策方向的转变。
二、人工智能立法的理论与实践
以数据信息的发展和应用为主要特点的大数据时代,使得人工智能技术的进步日新月异,面对人工智能的快速发展,我国开始在理论和实践层面对相关立法和监管措施加以探索。例如,无人机监管、自动汽车事故责任及人工智能生成物的保护等问题均亟待立法予以明晰。
无人机监管是当今世界各国普遍面临的立法难题,其背后隐藏着空间(使用)权、空间隐私权与空域管理权等权力(利)之间的碰撞。广州大学公法研究中心张玉洁讲师的报告以“我国民用无人机监管立法的地方经验与制度探讨”为题,通过对深圳等八个地方政府规章中关于无人机监管的规定进行实证分析,提出应当以“私权利保障+公权力监督”为立法导向构建一个多元的空域分类管理体系,从而缓和与化解我国不同地方、不同立法例对无人机法律定位的混乱现象。
安徽大学法学院储陈城副教授的报告以“自动汽车程序设计中‘电车难题’的刑法正当性”为题,提出刑法客观归责要件中“被允许的危险”法理或许是合理解决自动汽车程序设计中“电车难题”的理论路径,即如果自动汽车程序设计行为满足“被允许的危险”理论要素——概括的利益优越性和立法确立的最善义务,就可能在构成要件阶段被排除归责,从而在合理的限度内保障自动汽车技术的发展。
人工智能生成物作为人工智能与大数据结合的产物,其产生过程依赖于自身的自主决策且经济价值和社会影响巨大。武汉大学法学院朱梦云博士的报告以“人工智能生成物的著作权保护设计”为题,她认为人工智能生成物享有排他性著作权保护具有必要性和正当性,通过对现行人工智能生成物著作权归属模式的利弊进行分析,提出在我国应当赋予人工智能生成物著作权保护,而构建以政府为主导的人工智能生成物开发利用机制更为可行。
支振锋副主编评议时提出,对于无人机的研究应将范围从无人机延伸至无人飞行器,而若在无人飞行器的框架下进行细化研究则需要在内容上加以扩展。关于人工智能生成物的著作权保护,他认为这一问题可以理解为人工智能在生产作品时的利益分享机制问题,虽然人工智能会带来新业态、新的商业模式,会产生组织方式、经济方式等方面的社会变革,并且一定会带来规则和规制的变化,但人工智能现阶段不能作为法律主体,没有权利和义务,而是人的智慧的衍生,其所有的权利和义务都来源于它的所有者。
关于人工智能生成物著作权的保护,谢海定副主编建议在理论和实践之间找到更为恰当的切入点,并着重探讨人工智能生成物的保护途径。华东政法大学大学陆宇峰副教授则提出自然人的作品与人工智能生成物之间最重要的差异就是独创性。他认为,从思想与表达二分的角度来说,《著作权法》只保护表达但并不代表法律不保护思想,《著作权法》是承认人有思想的前提下才保护表达,并不是不保护思想。
《高等学校文科学术文摘》常务副主任沈丽飞肯定了用法理学、法哲学方法来研究刑法问题的价值,提出人工智能设计的刑法法义问题的研究重要意义,但关于自动汽车程序设计中电车难题的设想未必可能发生,应当从个案出发提炼出一般性的、普遍性的现实问题进行研究。
三、智慧司法建设的挑战与应对
党的十九大报告明确指出:“深化司法体制综合配套改革,全面落实司法责任制,努力让人民群众在每一个司法案件中感受到公平正义。”在司法体制综合配套改革中,司法与科技的深度融合后的智慧司法建设成为基础性的、不可或缺的组成部分。然而,智慧司法将在一定程度上改变甚至颠覆现有的司法理念和规则,成为我们必须面对的最严峻的挑战。
上海于2017年初启动了司法审判人工智能辅助系统的开发,开发的行政案件智能辅助办案系统前期以政府信息公开案件为基础案由,构建了智能阅卷、智能归纳、智能辅助、庭审评议等模块组成的系统总体架构。上海黄浦区人民法院葛翔法官的报告以“司法实践中人工智能运用的现实与前瞻”为题,提出在法律人工智能系统开发的同时,仍需对法律与人工智能的交互关系、人工智能对司法审判过程的积极作用以及人工智能的技术本质和既有条件有更为深入的认识。他认为,人工智能进一步在法律领域产生深远影响,仍存在人工智能任务模式、通用性方面等障碍,而下一步人工智能裁判发展的基础应为建立法律术语语义网络并完善法律知识库体系。
在人工智能时代,将量刑规范文本中的规则和方法输入智能辅助办案系统,让法官在量刑过程中获得智能系统提供的技术帮助,对智能系统提供的量刑决策的建议加以采用,其前景十分令人期待,但所谓“人工智能替代法官量刑”的认识是否妥当?华东政法大学张勇教授的报告以“人工智能、规范量刑与司法能动的实现”为题,认为运用人工智能技术辅助法官量刑应当基于责任与预防的“并和主义”确定量刑的基准和方法,在量刑规范层面保证法官的刑事裁量空间,因此人工智能只应当作为辅助法官量刑的工具,而最后的裁决仍要靠法官司法能动的实现。
不同于传统的证据,互联网电子证据具有易修改、难固定、易伪造、难认定等特征,在这种情况下,如何对互联网电子证据进行验真,就成了司法实践中的难题。浙江财经大学法学院冯姣讲师的报告以“互联网电子证据的验真”为题,认为我国的司法实践在互联网电子数据验真方面已经将强调证据之间互相印证的评价模式异化成了对互联网电子证据证明力和证据能力进行验证的手段,而这明显有悖于国际上对互联网电子证据验真的主要四种模式的特点,因此其认为我国互联网电子证据验真程序的构建仍需要根据互联网电子验真的四个层次依次进行。
西南财经大学法学院罗维鹏讲师的报告以“人工智能裁判的问题归纳与前瞻”为题,从人工智能与司法的宏观方面着眼,提出从三个方面综合分析人工智能裁判与司法人工智能关系的可能——这三个方面分别是回答何为人工智能的本体论、回答人工智能裁判是否可能的认识论以及人工智能裁判是否应当的价值论,他认为价值论在这三重分析中最为重要,而人工智能裁判在现阶段面临的困难也不应当等同于最终的不可能性。
在评议环节,华东政法大学科研处副处长卢勤忠教授提出,人工智能裁判的概念,应当以大数据时代信息化智能开发为背景加以理解,而自动设计的汽车处在人工智能的初级阶段,并未处于强人工智能阶段。从现在人工智能的研究学科来看,一般从法理学、民法学和经济法的学度研究较多,相对而言,刑法学科的研究是滞后的,这一差异与学科的特色有关。他认为,对于人工智能的现有研究集中于两个方面,第一是将人工智能作为工具展开,第二是把人工智能作为主体展开,但关于人工智能裁判则恐怕只能以工具性的方式展开。
《高等学校文科学术文摘》常务副主任沈丽飞在评议时,提出对人工智能时代如何实现司法能动性这一问题进行审慎性的思考十分必要,规范量刑应当作为司法能动性的一种约束性的条件,以便探讨规范量刑的具体要求。关于电子证据的验真模式,她认为,必须考虑到其所处的特定环境和特殊需要,并提出相关的立法建议。互联网电子证据作为一个特殊的证据形态需要采用一种新的验真方式或者规则,而这些均需要加以阐述,以证明“电子证据验真”这一命题的科学依据。另外,沈丽飞提出,目前很多关于量刑、事实综合的裁判,实际上是计算机选择的结果,是程序性设计的结果。我们法学界研究的人工智能不能滞后于科学研究,并且应当与科学家眼中的人工智能一致,否则我们所有的研究就可能没有意义。
快,关注这个公众号,一起涨姿势~
北京师范大学刑事法律科学研究院关于举办“2018年刑事法律人才夏令营”活动的公告
杨春洗法学教育基金会2017-2018年度刑法学科奖教学金评选结果
北京大学法学院魏振瀛教授民商法研究发展基金优秀学位论文奖获奖者公示
北京大学教育部人文社科重点研究基地——宪法与行政法研究中心举行第四届学术委员会委员聘任仪式