新书|韩旭至、李辉等译：《人工智能与法律的对话2》
点击蓝字
关注我们
《人工智能与法律的对话2》
[德]托马斯·威施迈耶、蒂莫·拉德马赫 编
韩旭至、李辉 等译；韩旭至、陈吉栋 校
上海人民出版社2020年版
序 人工智能向善
[德]蒂莫·拉德马赫（Timo Rademacher）
[德]托马斯·威施迈耶（Thomas Wischmeyer）
目标与方法
通常被称为人工智能的机器学习技术正越来越多地成为政策和商业决策的基础，产生广泛的社会影响。与此同时，人工智能技术变得越来越复杂和难以理解，使得控制人工智能，以及判断是否按照现有法律使用人工智能变得更加困难。因此，就连科技狂热者也呼吁对人工智能实施更严格的规制。与此同时，监管部门也开始介入并通过相关法律，如欧盟《通用数据保护条例》第22条的不受仅基于完全自动决策制约的权利，2018年美国《加州消费者隐私保护法》第140条第d款第6项和第s款的保护和限制商业及非商业的个人信息研究，2017年《德国反垄断法》和《德国行政诉讼法》的修正案。
尽管需要对人工智能采取行动的观点得到了广泛认同，但对于究竟可以或应该采取怎样的行动，以及规制可发挥多大的效用，人们却远没有清楚的认识。此外，关于规制人工智能的讨论有时只关注人工智能系统中特定的技术故障或错误使用造成的恶劣结果。基于深思熟虑的策略，努力平衡人工智能技术的机遇与风险的规制措施在很大程度上仍然缺失。
在此背景下，本书分析了人工智能给个人和社会带来的事实影响和法律挑战。本书贡献在于提出规制建议，旨在不抑制技术的潜力，并可保留其可问责性、合法性和透明度。为了实现这一目标，本书作者遵循了一种可以被描述为“三重语境化”的方法：第一，基于规范的分析和主张，在塑造或限制人工智能设计和使用的法律和宪法体制之上进行思考和构建。第二，必须牢记，简而言之，人工智能技术是解决人类目前必须解决的现实问题的工具。如同官员、医生、司机等等。因此，仅仅考察人工智能是“良好运作”还是“危险”并不足够。相反，有必要将新技术的特点与相应被所取代或补充的人类活动进行个案比较。因此，真正的问题是，从相应的法律框架来看，人工智能实际上是比人类“做得更好”，还是“更危险”。第三，这本书及其作者的选择反映了，在发展人工智能规制的法律视角上，不仅需要跨学科的理解，而且需要采取一个明确的专业方法。这就预设了需要私法学者、公法学者、法理学者和经济法学者以共同协作的精神来研究这个问题。
规制人工智能的争论是全球性的。《通用数据保护条例》于2018年生效以来，欧盟法律的影响力与日俱增。尽管如此，由于美国在该领域的技术主导地位，相关学术讨论仍主要集中在美国层面。不管有意还是无意，学者们经常采取一种基于美国宪法行政传统的规范和概念框架，例如侧重于人工智能的“可问责性”。本书作者均有德国法或瑞士法背景，精通欧盟法，为该领域的全球话语引入了不同的法律传统。这一传统由数十年来相对严格和全面的数据保护立法形成，也相应多样化和丰富。因此，当涉及到描述现有的人工智能法律和规制时，本书将主要以德国法和欧盟法为蓝本。而相关法律的参考只是用以说明人工智能给全球的规制者所带来的挑战。
人工智能
从技术的角度来看，人工智能在概念上并不特指某一项具体的技术。虽然，目前最受关注的是通过“机器学习”从数据中提取信息的技术，但人工智能研究实际上包含许多不同的子领域和方法论。同时，机器学习也不是一个完全统一的概念，而是由各种各样的技术组成。从传统的线性回归到支持向量机和决策树算法，再到各种类型的神经网络，都属于机器学习的范畴。此外，大多数基于机器学习的系统是一套过程和技术体系，而不是一个界限清晰的实体，这使得确定人工智能的意义范围变得更加困难。就其本身而言，人工智能作为一个研究领域起源于20世纪50年代中期，著名的达特茅斯夏季研究项目即常被提及。现在，相关学者主要关注那些能够“使用模拟人类智能的复杂方法来处理可能非常大的异构数据集，以实现自动化应用”的技术。
在此背景下，一些学者主张放弃人工智能的概念，转而提出“算法控制、自动决策或决策支持系统”，或者专注于基于机器学习系统。如今，包括决策制定或决策支持系统的社会影响、其可能存在的歧视性因素、系统的具体设计或其使用的算法在内的一些规制挑战诚然并不是主要的。本书的贡献即在于也考虑了“传统”计算机程序的规制影响。而最有趣的挑战则出现在采用了先进的机器学习算法的地方。至少从外部观察者的角度来看，这些算法与人类决策过程具有重要的共通点。这引发了系统可能存在责任与罪责的重要问题。与此同时，从受该种决策或决策支持系统影响的角度来看，不透明性的增加、新的产能，或仅仅是使用该系统所带来的社会不确定性因素，导致了法律和规制面临各种新的挑战。
结构和内容
本书以沃尔夫冈·霍夫曼-里姆（Wolfgang Hoffmann-Riem）对该主题的宽泛介绍开篇。该介绍乍看似乎琐碎，但却是最具相关性和挑战性的：本着“只能对所能规制之事物进行规制”的理念，霍夫曼-里姆深入分析了为什么建立一个合法和有效的人工智能治理结构会对法律的规制能力和我们所知的制度架构形成挑战，并提出了规制创新路径的类型化以应对挑战。
接下来的章节将讨论人工智能规制的基础，并重点关注大多数人工智能系统的共同特征。探寻这些特征如何与数据驱动技术下的法律框架相联系，而相关法律框架又已经存在于国家和超国家的法律之中。在大多数人工智能技术所共享的特征中，本书作者认为：
首先，人工智能依赖于对大量个人数据的处理，“激活”了欧盟数据保护法，从而大大减少了人工智能技术的公共开发者、私营开发者以及用户的操作空间。尼古拉斯·马奇（Nikolaus Marsch）在其文章中提出，可通过对欧洲的数据保护基本权利进行解释，以为欧盟及成员国的立法者平衡人工智能的机遇和风险提供更大的空间。随后，克里斯蒂安·恩斯特（Christian Ernst）以医疗保险、信用评分和中国社会信用体系为例，描述了人工智能系统对人类自主性和个人自决权的威胁。此外，人工智能的决策和预测缺乏透明度（“黑箱”现象），似乎破坏了预测、审查和理解决策过程的预期。对此，托马斯·威施迈耶（Thomas Wischmeyer）进行了批判性研究。他建议政策制订者至少应在一定程度上转移其注意力，即从关注受具体使用某一人工智能系统而影响的个人，转移到建立能够有效控制该系统的体制机构和框架上来。亚历山大·蒂斯比克（Alexander Tischbirek）分析发现，人工智能技术大多严重依赖于统计学方法来揭示相关性、模式和概率，而不是判断因果关系和理由，因此倾向于延续歧视性做法。与众人的直觉恰恰相反，他强调为了揭露这种偏见和扭曲，可能有必要收集和存储更多而不是更少的个人数据。最后，扬-埃里克·施默（Jan-Erik Schirmer）提出了一个“价值连城的问题”，即人工智能系统应被视为法人抑或仅仅是物。他认为答案简单明了，即“二者皆有之”。
虽然人工智能系统的设计和应用引发了许多一般性的问题，但人工智能规制的成功与否在很大程度上则取决于其具体的应用领域。因此，规制人工智能的提议必须考虑技术部署中的具体事实和法律场景。为此，在第二部分的章节中，本书详细审视了几个行业和实践领域，如社交媒体、法律科技、金融市场、医疗和竞争法。在本书看来，在这些行业和领域的决策过程中，人工智能的影响力与日俱增。研究表明，在大多数情况下，人工智能不仅是规制对象，而且往往同时也是应用和/或执行规制的潜在工具。因此，第二部分的大部分章节也包含了关于通过人工智能进行治理的内容。其他文章，即关于不确定性下的行政决策、执法、公共管理、人工智能与税收的章节。这些章节实质关注的是，人工智能系统应当被用于和/或助于法律适用。
目录
序 人工智能向善
导论 人工智能对法律与规制的挑战
一、人工智能的应用领域
二、影响的程度
三、法律问题
四、治理模式
五、通过数字善治以履行国家责任
六、法律有效实施的障碍
七、制度及规制的类型
八、作为法律措施替代或补充的道德标准
九、论跨国法的必要性
第一部分 规制人工智能的基础
第一章 人工智能与数据保护的基本权利：为技术创新和创新保护打开大门
一、本章的目标：“打开一扇门”
二、为什么需要打开一扇门
三、如何打开大门
四、没有不带框架的门:立法者和法律学者的责任
第二章 人工智能与自主：自动系统时代的自主决定
一、简介及实际应用
二、自动系统对自主决定的潜在风险
三、法律框架条件：个人自决
四、法律回应的可能
第三章 人工智能和透明度：打开黑箱
一、引言
二、通过获取信息来产生知识
三、通过解释创造能动性
四、未来之路
第四章 人工智能与歧视：对歧视性系统的歧视
一、引言
二、歧视性系统？
三、当前的反歧视法理论与人工智能
四、走向知识创造的范式
五、结论
第五章 人工智能与法律人格：“部分权利能力”的引入--德国法上的“部分法律地位”
一、导论
二、双重困境
三、德国的“部分法律地位”：部分权利能力的引入
四、老鼠和机器
五. 结论
第二部分 对人工智能的规制与通过人工智能进行规制
第六章 人工智能与社交媒体
一、军备竞赛和筛选偏差
二、现象论
三、社交媒体规制的概念
四、保护性的社交媒体规制
五、促进性的社交媒体规制
六、结论
第七章 人工智能与法律科技：对法治的挑战
一、引言
二、应用领域
三、“法律”与“代码”直接的概念差异
四、宪法框架
五、“通过设计进行规制”的提出：一个平衡的方法
六、结论
第八章 人工智能与不确定条件下的行政决定
一、导言
二、冲突：机器学习对阵行政法
三、挑战：机器学习和不确定条件下的行政活动
四、结论
第九章 人工智能与执法
一、引言：智慧执法
二、智慧执法的现状
三、宪法框架
四、三个主要的问题
五、结论
第十章 人工智能与金融市场：照常营业？
一、金融市场中的人工智能
二、对金融市场中人工智能进行监管的方法
三、金融市场中人工智能技术的治理
四、人工智能与金融市场：走向新的未来
第十一章 人工智能与公共治理：政府与公共管理中的人工智能规范性准则
一、德国政府与行政部门在人工智能治理准则设计中面临的挑战
二、参考点：伦理与政治的比较
三、指导准则
四、展望
第十二章 人工智能与税收：全自动化税收程序中的风险管理
一、引言
二、法律基础
三、风险管理系统对人工智能的运用
四、结论
第十三章 人工智能与医疗保健：产品和程序
一、案例研究
二、法律框架：《欧洲医疗器械法》概述
三、医疗器械定义，德国《医疗产品法》第3条第1款
四、软件作为医疗器械的市场准入监管
五、软件作为医疗器械进入市场后的监管
六、前景
第十四章 医疗保健中的人工智能：医生、病人和责任
一、简介：医学中的人工智能
二、人工智能对医学伦理学中医患关系的地位和作用的影响
三、人工智能对责任法中医患关系的地位和作用的影响
四、医生在医患关系中的地位与作用
第十五章 人工智能对竞争法的挑战
一、导论
二、人工智能
三、人工智能与对竞争法的挑战
Regulating Artificial Intelligence
Thomas Wischmeyer,Timo Rademacher Editors
Springer Nature Switzerland AG 2020
作者信息
[德]蒂莫·拉德马赫（Timo Rademacher）是汉诺威大学公法与新技术学科的助理教授，讲授欧洲和德国的宪法、信息法。分别于海德堡大学获法学博士学位，牛津大学获法学硕士学位。当前研究方向是大数据分析的监管框架。
[德]蒂莫·拉德马赫（Timo Rademacher）是汉诺威大学公法与新技术学科的助理教授，讲授欧洲和德国的宪法、信息法。分别于海德堡大学获法学博士学位，牛津大学获法学硕士学位。当前研究方向是大数据分析的监管框架。
译者信息
主译：韩旭至，华东政法大学数字法治研究院副院长、特聘副研究员，民法学博士、法理学博士后，长期专注于数字法治研究。
李辉，上海市科学学研究所副研究员，博士，研究方向为科技政策、人工智能伦理与治理。
参译：上海大学法学院讲师金枫梁、大连海洋大学法律与人文学院副教授王黎黎、中共上海市委党校讲师徐涛、东南大学法学院讲师余涛
独角兽法学精品·人工智能丛书
《机器人是人吗？》
《谁为机器人的行为负责？》
《人工智能与法律的对话》
《审判机器人》
《批判区块链》
《机器人的话语权》
《数据的边界：隐私与个人数据保护》
《驯服算法：数字歧视与算法规制》
《人工智能与法律的对话2》
微信号 : DigitalLaw_ECUPL
探寻数字法治逻辑
展望数字正义图景
数字法治战略合作伙伴：理财魔方