马长山 | 智慧社会背景下的“第四代人权”及其保障

马长山：华东政法大学教授，博士生导师

随着网络技术、信息技术和人工智能技术的加速融合发展，人类开启了智慧社会，“其影响力足以与工业革命相媲美”，这必然会促发人权的发展与变革。

一、智慧社会背景下的人权问题与挑战

首先，侵权的机制化。人脑“黑箱”基本都是个别性的、随机性的、不断变化的，而算法黑箱则是普遍性的、连续性的、稳定性的；人脑“黑箱”是一种难测的自主判断，算法黑箱则是一种可控的必然选择；人脑“黑箱”是现实场景互动中的一个或几个即兴片段，而算法黑箱则是一种自动化系统，会形成自动化的歧视和侵权“决策”。也就是说，算法黑箱是一个建模系统，是一种完整机制，它一旦存在算法歧视、信息控制、侵犯隐私等问题，就会成为连续性的常规动作，产生系统化和机制化的侵权后果。 其次，侵权的“客观”化。技术公司往往在软件下载使用过程中不设菜单式选择而只有概括式同意，隐私政策和用户协议有意用晦涩繁琐冗长的表述来“迫使”用户作出无奈的勾选默认，以及通过隐藏界面甚至在软件升级中设置“后门”等方式，来表明当代神奇的科技是一种晦涩难懂的技术，让人们切身感受到人类世界已经被植入了计算机逻辑。可见，一些技术发展披上了客观性外衣，从而呈现出“客观”发展后果的形式，这就使人权保护任务变得更为艰巨。 再次，侵权的耐受化。在智慧发展时代，即便是普通百姓有心想维护自己的个人隐私、数据权利、信息自由或者反抗歧视，他们也没有足够的能力、方法和路径。因此，与普通民众相比，掌握“技术霸权”的技术公司、商业平台和政府部门拥有着巨大的优势，这就使得人们具有超出以往的耐受心理，人们不得不为了享受进步福利而无奈放弃一些既有的价值和权益，于是，人权侵蚀现象蔓延、人权保护乏力的情况就日渐突出了。  最后，侵权的覆盖化。如今平台经济所构造的是一种复合式、多环状的、“赢者通吃”的庞大商业生态圈，它所带来的是要么覆盖他人、要么被他人覆盖的“覆盖者之战”。由此引发的人权侵蚀问题也会随着“覆盖者之战”而扩展、蔓延和覆盖，比如信息隐私遭遇的挑战就“覆盖”了传统隐私权保护领域，算法歧视也“覆盖”了性别歧视、种族歧视、身份歧视等传统领域，数据鸿沟严重侵蚀公平机会，“覆盖”了社会教育和劳动就业等传统领域，不一而足，它使得“很多旧有的习惯将被颠覆，很多旧有的制度将面临挑战。”

二、当代人权变革与“第四代人权”的形成

(一)人权形态的数字化重塑  1. 人的信息存在方式赋予了人权的数字属性 一是从自然人到“信息人”的转变。大数据和算法主导了经济和社会生活，“网上的个人信息全方位覆盖了你从摇篮到坟墓的全部私人生活，慢慢地积累所有数据，直至在计算机数据库中形成一个‘人’”。于是，智慧社会中的人们，就逐渐从工商业时代那种生活于单一现实空间、以物理方式存在的自然人，转变成生活于现实\虚拟双重空间、以数字信息方式存在的“信息人”。 二是数字人性的表达和建构。以往在公共空间和私人生活中固化的、封闭性的物理个体，如今更多地展现出破碎性、流动性、可视化的数字信息形态，这些构成性的数据逐渐变成一个信息化实体，它“正在拓展我们的边界，也在拓展存放自我身份的容器”。而且，“无处不在的数据、无处不在的道德数字化正在迅速改变我们的生活、我们的社会关系，甚至我们对自己人性的理解”。就是说，数据和信息已成为每个人不可分割的构成性要素，它描绘、表达和建构了人们的自然本性、社会角色和个性特征，呈现着人们的人格尊严和主体价值。 三是“生物－信息”的双重面向。如果说人与自然分离是生物意义上第一次“人成之为人”的话，那么，“以网络化、数字化和智能化的方式变革工业生产方式和农业生产方式，并再一次以新的联合方式颠覆工业文明时代的制度安排、思想观念和思维方式等，重塑符合信息文明的概念范畴和政治、经济、文化、法律等社会体制”，这就导致了信息意义上第二次“人成之为人”。随着这个转变的发生，我们将会在这个数字和程序算法的世界里发展出一种新的人性形态”，因此，当代社会中的人也就日益赋有了“生物－信息”的双重面向。综上可见，人权观念已经不能再仅仅建立在传统自然人的基础上，它在很大程度上也要建立在数字化的“信息人”基础上；人权属性已经不再仅仅依赖于人的生物属性和物理空间，它在很大程度上也要依赖于人的信息属性和虚拟空间。 2. 权利发展的数据信息生态推动了人权的数字化演变首先，权利内涵中融入了数据信息法益。一方面，随着大数据技术的重要性越发凸显，“一个全新的不平等边界将被撕开个口子，将世界分割成掌握数据的一拨人和不掌握数据的另一拨人”，信息成为社会不平等、不公平的新型载体和作用机制；另一方面，它会形成严重的信息鸿沟、信息孤岛、信息不对称等问题，这就大大地限制了公民的民主参与、自由表达和权利维护，信息也便成为公民的经济、政治和社会权利的重要客体。因此，亟需通过改革来建立适应信息时代要求的“数据新政”。其次，数据信息要素促发了权利变异。就隐私权而言，通过搜集、挖掘、利用、分享个人信息的形式，把物理空间转换为信息空间，对公共领域和私人领域、此共同体与彼共同体、远程临场和本地临场进行了深刻重塑。同时，基于对个人信息的搜集、分析和利用，商家对用户的平均可预测程度可以达到93℅左右，这些清晰的数据画像和透明的身份拼图的背后，一方是无处不在、秘而不宣的数据掌控者，另一方则是全景透明、无知无觉的消费者；侵犯隐私也并不是意在“公共暴露”，而是重在悄悄地利用、无声地监视或者暗中实施歧视策略，有时则会表现为有针对性的宣传信息推送。这就不仅侵蚀了一个人自己的信息身份建构，还侵犯了人们不受打扰的权利。 最后，数据信息演化为新兴权利。一方面，“大数据技术的繁荣和信息不对称的加重将令财富分配不公现象更为严重”；另一方面，基于数据和信息资源的重要经济价值与社会作用，又生成了前所未有的大量社会利益和新型社会关系，进而不断转换成现实生活中的新兴权利诉求和制度变革。作为其中的一个典型，“新的‘数据权’最令人激动。所有这些，就形成了权利的信息化赋能、深度延展和数字化生态，大大丰富了生存权、发展权的时代内涵，从而推动了人权的信息化演变，有效拓展了人权的进步空间。 3. 信息时代的社会解组突破了既有人权保护逻辑 首先，双重权力生态日渐形成，人权保护面临全新挑战。第一，二元结构被三元结构所取代。传统的政府/市场二元结构发生重大变革和解组，走向了政府—平台—商户(消费者)、公权力—社会权力—私权利的三元结构。第二，双重权力生态下的人权境遇。容易形成公权力与社会权力之间的某种“共谋”，甚至公共决策的认知和监管被社会权力所俘获。第三，权力制约、权利保障机制面临困境。在技术“霸权”和算法决策面前，私权利处于更加弱势的地位，乃至陷入“数字鸿沟”、算法霸权和监控社会之中，人权保护自然也就会遭遇严重的压力和挑战。 其次，自主与控制、扩展与限缩的交换平衡，突破了政府/市场、干预/自由的边界。一是算法社会的自主与控制；二是扩展与限缩的交换平衡；三是传统的政府/市场、干预/自由的边界被彻底打破。传统那种政府/市场、干预/自由的边界和逻辑，已经被双重空间的虚实同构以及数字信息的分布共享属性及力量所解构和重塑，其原有的价值准则和治理策略都也就难以再简单套用下去了。这就需要从信息社会自身的规律出发，发现、提炼和重构自由、平等、正义和人权保护的全新逻辑与边界。最后，日渐数字化、信息化的人权，需要全新的保护方式。一方面，传统的人权保护方式日渐尴尬。另一方面，主权与人权的边界日渐模糊。商业营销、社交媒体、搜索引擎等等均超越物理空间和国家边界，侵犯隐私、新型歧视、以及跨国监控等问题日渐突出，人权的国际化保护就变得更为复杂和艰难。虽然欧盟GDPR设定了数据保护的“长臂管辖”，但它已经引起争议，如若用在人权与主权问题上则更难行得通。这样，确立新的人权保护逻辑，探索新的人权保护方式也就势在必行了。  (二)智慧社会背景下的“第四代人权” 首先，在发展动因上，源于信息革命。“第一代人权”背后是反封建、反专制的资产阶级革命；“第二代人权”背后是反对资本剥削、消灭贫富分化的社会主义革命；“第三代人权”背后是争取国家独立的民族革命。如今的智慧社会背后是一场信息革命，它带来的同样是人类一次解放和制度转型，只是它并非通过武装斗争的形式，而是以技术革命的方式来颠覆传统工商业时代的生产生活关系，塑造了空前的人类信息化生存状态和智慧化生活，因此，必然会引发迈向网络化、数字化、智能化发展的重大制度变革，造就新一代的人权形态。其次，在内涵逻辑上，发生了根本转向。前三代人权无论是政治参与、经济保障还是生存发展，基本都是在物理空间的逻辑框架内来展开、沿着人的生物属性来表达诉求的。而在当今智慧发展时代，人类开始了物理/电子(现实/虚拟)的双重空间生活，人类的物质生产、商业贸易和日常交往都需要在通过线上线下来交错进行；人们的角色身份、社会关系、交往行为、甚至言语交流，不再仅仅是千百年来惯常的生物性展开，而是越来越多以信息化、数字化方式来构造和呈现。传统单一物理空间中人的价值尊严、自由平等、政治参与、经济保障、公平机会、劳动就业、生存条件等等，必然会面临网络化、数字化、智能化的巨大冲击和深刻重塑。 再次，在价值内核上，实现了品质升级。每个阶段的人权变革与发展，都会形成对既有人权价值内核的超越和升级。第二代人权就超越了第一代人权那种形式上自由、平等观的局限，走向了更具实质意义的经济、社会、文化权利观。第三代人权又超越了第二代人权那种个体权利观，走向了关注生存与发展的集体权利观。如今的“第四代人权”也同样如此。 第一，它大幅拓展了人的自主性，实现了新时代的人权价值加持；第二，它能实现了人权的品质升级。最后，在关系构架上，呈现关联义务的社会延展。一是社会权力成为新的人权威胁力量；二是侵犯人权的方式更加技术化；三是信息全球化的无缝链接已超出主权疆域。总之，在关联义务的社会延展过程中，国家(政府)不仅自身要积极作为来履行保护义务，还需要监督和规制社会权力主体，尽最大努力抑制侵犯人权的现象的发生，使智慧社会沿着更加符合人性的方向行进，从而建立良法善治的法治秩序。  

三、“第四代人权”的法治化保障

(一)确立“数字人权”理念 首先，立足数字化加持。无论是人权属性、人权要素、人权内容、还是人权形态，都正在从前三代人权的物理加持方式，转向当下人权的数字加持方式，进而构成了“第四代人权”的发展动力和基础。此时，只有从智慧社会的客观需要来增进人权的数字加持，才能更有效地保护“数字人权”。 其次，认同数字化人格。首先，数字素养不仅是数字经济发展的关键要素和重要基础之一，也是人格所需的必备要素。其次，无论是公共领域还是私人领域，都已突破了传统的物理空间意义和范围，不断地向虚拟空间进行拓展和延伸，因此，数据和信息承载着重要的主体价值和人格权益。再次，日常生活领域中的自动化算法决策会越来越多地取代人脑决策，算法黑箱、算法霸权、算法歧视等问题也会随之凸显并普遍化，此时的核心问题不再是契约自由和财产权，而是数字化人格。认同数字化人格是保护“数字人权”的必然选择。  最后，重塑人权价值观。启蒙时期的价值理想是现代性的产物，反映着工商业社会的生产生活规律；而如今人类迈进了智慧社会，人格尊严、自由平等、公平正义、劳动就业、生存发展等项人权难以再恪守启蒙价值。(二)构建“第四代人权”的保护机制首先，推进数据信息自主权的制度化。事实上，“信息自决权这一法律概念拖延了数字化技术的应用进程，影响并限制了使用舒适性。但同时，我们又不愿意放弃对信息自决权的执着”。因此，我们应把“信息自决权”修正为数据信息自主权并推进其制度化，这样才能更好地维护信息权益和“数字人权”。  其次，探索场景化的权益平衡机制。“数字人权”的保护，已不再是前三代人权的“目标性”追求，而是更务实的、置于具体场景之中的权益平衡。因此，这就需要在数据和信息的公共性和私人性之间，政府部门、商业平台、技术公司和消费者之间，以及公法保护和私法保护之间，形成一种多元平衡、互动共享的数字人权保护机制，既要消解算法歧视、社会监控和数据鸿沟等人权威胁，倡导和保障智慧社会的“数字人权”；也要确保数据信息的共享流通和数字经济的正常运转，从而为“第四代人权”提供可靠的法治化保障。最后，探索过程—结果的规制策略。随着智慧社会中现实世界与虚拟世界、物理世界与数字世界的边界消失，使得“制度性反应缺失，行为成本和后果更加难以计算”。在这一时代背景下，“数字人权”保障机制就不能再局限于传统的结果规制方式，而应该适时在制度规则中嵌入代码规制，既防止了预防制那种“提前阻却”所带来的自由限制，也防止了追惩制那种“事后修复”所带来的伤害难题，从而实现场景化、过程化、智慧化的即时互动规制。 (三)塑造尊重人权价值的“道德基础设施”一方面，应确立算法的伦理原则。只有“当算法在质量监控之下，以公平方式影响各方当事人，正义方能实现”。因此，需要在算法决策中嵌入必要的人权价值和法治伦理，设定算法的自律准则。另一方面，应培养算法“智能体”的道德习得能力。 “智能体的道德行为也是‘道德基础设施’”。这样，就能够使算法“智能体”形成道德推理与自主德性学习的自律约束机制，从而通过习得法治伦理来自主地抑制算法风险，维护数字时代的人的地位和尊严，更好地保障“数字人权”和促进法治秩序。

本刊已发相关主题的文章还有：

3. 张文显: 《法治与国家治理现代化》(2014年第4期)；

4. 焦洪昌: 《“国家尊重和保障人权”的宪法分析》(2004年第3期)；

5. 刘海年: 《不同文化背景的人权观念》(1994年第3期)；

等等。

文摘来源：《中国法学》2019年第5期

图片来源：百度图片

长按识别图中二维码，快速关注我们！