人工智能与法律问题初探
人工智能掀起新一波产业浪潮
近年来，面对迅猛发展的人工智能产业，各国纷纷出台人工智能国家战略，抢占战略制高点。2016年10月，美国白宫发布了《国家人工智能研究和发展战略计划》和《为人工智能的未来做好准备》两份重要报告,全面部署人工智能发展。继美国之后，英国政府相继发布了《人工智能：未来决策制定的机遇和影响》和《在英国发展人工智能产业》两份报告，阐述了人工智能的未来发展对英国经济、社会和政府的影响，论述了如何利用英国的独特人工智能优势，增强英国国力。此外，欧盟、日韩等也纷纷从战略层面进行布局。
全球互联网企业也正是看重人工智能未来发展的巨大商机，纷纷布局人工智能产业链。Facebook首席执行官马克·扎克伯格在2016年3月划定了以人工智能为核心的“十年路线图”；Google首席执行官Sundar Pichai在2016年4月第一次明确提出，将人工智能优先作为公司大战略；微软CEO萨提亚·纳德拉也在2016年10月提出，人工智能将会成为微软的下一个战略目标。2016年9月，美国谷歌、脸书、亚马逊、IBM、微软五家科技公司宣布将成立人工智能联盟，进行人工智能未来应用及标准的研究。
在基础研究方面，深度学习、人机交互系统、人脑研究等人工智能基础研究不断推进。应用方面，人工智能在交通、医疗、制造业、社交、环保等领域应用不断深化，包括无人驾驶、智慧医疗、智能制造、语音识别与互动、机器人等众多方面。以无人驾驶为例，Google及Tesla等开发的无人驾驶汽车已累计行驶了数亿公里，技术日益成熟。世界范围内的智能机器人应用范围不断扩大，从智能制造、医疗到物流、智能家居服务等领域，应用日益成熟。
系列法律问题值得研究
人工智能掀起新一波产业浪潮，将深刻影响人们的生产与生活，带来一系列法律问题，值得研究。
一、隐私与数据保护问题
当前人工智能的发展，很大程度上得益于大数据的喂养。相比于工业时代，“数据”就是人工智能时代的石油和天然气。这里的数据，不仅包括个人数据，也包括不属于个人数据，但有商业价值的数据。个人数据方面存在以下挑战：
技术与商业模式变革，导致个人数据概念不断扩展，界限模糊；个人数据财产权性质凸显，挑战传统制度框架；国家安全价值与个人数据保护价值冲突与选择；数据跨境流动日益频繁，域外管辖情况复杂。数据的权属问题也是当前讨论的焦点，谁拥有包括个人数据在内的数据权属？用户，企业还是其他？在2017年发布的《建立欧盟数据经济》中，欧盟开始考虑设立数据产权，即“数据生产者权利”，其客体主要是“非个人的和计算机生成的匿名化数据”。实践中，计算机生成的数据可以是个人性的或非个人性的，当机器生成的数据能够识别自然人的时候，该类信息则属于个人信息，应适用个人数据保护规则，直到这些数据完全匿名化为止。按照欧盟委员会的设想，数据生产者（设备的所有者或长期用户）权利可以是排他性的财产权，数据生产者有权分配或许可他人使用其数据，并独立于其与第三方之间的合同关系；或者是仅仅是纯粹的防御性权利，只允许在非法盗用数据的案件中提起诉讼。
二、算法歧视
机器学习的自主或者自动化的决策系统日益被广泛应用在推荐引擎、精准广告、信贷、保险等诸多领域，甚至政府部门也利用自动化决策来处理给犯罪人定罪量刑等公共事务。由于算法模型的设计都是编程人员的主观选择和判断，所使用的数据也可能是不相关、不准确或者歧视性的，这就可能导致自动化决策的结果会影响个人权益，或者对某些群体造成歧视。确保算法及其决策可以有效接受中立第三方或者监管机构的审查，实现算法决策的透明性和公平性，是国际社会的一个主要共识。美国联邦贸易委员会（简称FTC）在2016年1月发布的《大数据：包容性工具抑或排斥性工具？》（Big Data: a Tool for Inclusion or Exclusion?）特别关注大数据中的歧视和偏见问题。对于消费者，一方面需要确保公平法律得到有效执行，另一方面防止大数据分析中采取歧视等不公平行为。对于企业，FTC建议企业考察数据集是否具有代表性，所使用的数据模型是否会导致偏见，基于大数据进行预测的准确性如何，以及对大数据的依赖是否会导致道德或者公平性问题。
此前，在State v. Loomis一案中，据了解，法院曾在判案时，参考了COMPAS（一种基于证据衡量罪犯未来犯罪可能性，并为矫治署提供决策支持的软件）做出的犯罪人Loomis再犯罪可能性的评估结果。Loomis认为一方面COMPAS不当地使用了性别作为评估依据，且评估结果的非准确性使其不能作为判案依据；另一方面法院据此判案有程序违法之嫌，不符合个案处理的原则。
对此，美国威斯康辛州最高法院提出三个观点：1）如果使用得当，巡回法庭在判刑时考虑COMPAS风险评估并不违反被告的正当程序权利，而且将性别作为参考因素提高了风险评估的准确性;（2）巡回法庭在这种情况下使用COMPAS风险评分不是滥用自由裁量权;（3）巡回法庭在软件中写入过去认罪协议书中的指控时没有滥用自由裁量权。最终，法院一致裁决驳回了该诉讼请求。
2017年6月，美国最高法院拒绝提审该案，间接承认了法官在定罪量刑中可以参考智能化软件提供的预测结果。虽然如此，非盈利机构ProPublica对COMPAS的实证研究发现，COMPAS的犯罪风险评估算法系统，系统性地歧视了黑人，黑人被该系统错误地评估为高犯罪风险的概率是白人的两倍，而白人则更多地被错误评估为低犯罪风险。该案带给我们的启示是：预测算法只能是一种辅助法官行使自由裁量权的工具，而无法直接做为判案依据，实践中要严谨使用以避免不正当的程序违法行为。尤其是在面对可能涉及歧视的算法规则时。
三、监管与责任承担问题
以自动驾驶为例，作为人工智能的重要应用之一，近年来，美、德等发达国家积极推动立法，鼓励自动驾驶车辆测试及应用。2016年9月21日，美国交通运输部（DOT）颁布《联邦自动驾驶汽车政策》（今年9月发布了第二版《自主驾驶系统的安全愿景》），提出自动驾驶汽车安全评估、联邦与州监管政策协调等四部分内容，进一步为自动驾驶技术提供了制度保障。2016年4月，德国政府批准了交通部起草的相关法案，将“驾驶员”定义扩大到能够完全控制车辆的自动系统。目前我国自动驾驶方面立法政策相对滞后，如何对自动驾驶等产业进行规制，如何确定事故责任承担等也是值得思考的法律问题。
四、知识产权问题
如今，人工智能软件可以写诗，也可以进行美术创作。这些作品是否具有独创性？谁可以拥有这些作品的版权？2017年，微软在北京发布了人工智能小冰的诗集《阳光失去了玻璃》，包含了139首现代诗，全部是小冰的创作。此类创作随着人工智能技术发展将会越来越普遍，欧盟法律事务委员会建议欧盟委员会就“与软硬件标准、代码有关的知识产权”提出一个更平衡的路径，以便在保护创新的同时，也促进创新。同时，对于计算机或者机器人创作的可版权作品，需要提出界定人工智能的“独立智力创造”的标准，以便可以明确版权归属。国际标准化组织IEEE在其标准文件草案《合伦理设计：利用人工智能和自主系统（AI/AS）最大化人类福祉的愿景》中也提出，应对知识产权领域的法规进行审查，以便明确是否需对人工智能参与创作的作品的保护作出修订。其中基本原则为，如果人工智能依靠人类的交互而实现新内容或者发明创造，那么使用人工智能的人应作为作者或发明者，受到与未借助人工智能进行的创作和发明相同的知识产权保护。
五、机器人法律人格问题
机器人是否可以被赋予法律人格？享有法律权利并承担法律责任？近年来，欧盟在机器人立法方面进行了积极探索。2015年，欧盟议会法律事务委员会决定成立一个工作小组，专门研究与机器人和人工智能发展相关的法律问题。2016年，该委员会发布《就机器人民事法律规则向欧盟委员会提出立法建议的报告》，2017年2月，欧盟议会已通过一份呼吁出台机器人立法的决议。在其中开始考虑赋予复杂的自主机器人法律地位（电子人，electronic persons）的可能性。
此外，人工智能发展所带来的伦理问题等也值得关注。人工智能因其自主性和学习能力而带来新的伦理问题，包括安全问题、歧视问题、失业问题、是否能最终被人控制的问题等等，对人类社会各方面将带来重大影响。目前IEEE及联合国等已发布人工智能相关伦理原则，如保障人类利益和基本权利原则、安全性原则、透明性原则、推动人工智能普惠和有益原则等。
建议与对策
一、加强人工智能相关法律问题的前沿研究，积极借鉴国际先进经验
人工智能作为新一波的产业浪潮，其所带来的法律问题也是各国关注的焦点，我们的问题意识基本与国际同步。目前美欧等理论界已在逐步探讨并陆续推出成果，我们应加强人工智能前沿理论研究和探讨，为未来人工智能相关立法及司法审判提供智力储备。
二、积极探索人工智能前沿立法
目前美国已经在自动驾驶立法等方面推出了前沿立法，欧盟已经在讨论机器人相关立法等。对于自动驾驶等人工智能前沿领域，应积极借鉴国外先进经验，积极探索相关立法与制度，促进产业健康良性发展。在促进产业发展的同时，应该加强制度建设，提升“软实力”与规则的国际话语权。
三、加强教育和培训，提高法律从业者人工智能应用相关知识和技能
人工智能技术的发展对法律服务及司法审判等都将带来相应影响。教育与人才培养方面，需要建立与未来人工智能产业发展相适应的法律从业者教育体系。应鼓励相关研究机构、高等院校和专家开展法律服务及司法审判等相关人工智能基础知识和应用培训，提高法律从业者人工智能应用相关知识和技能。加强国际合作，共同探讨应对人工智能技术发展对法律服务及司法审判带来的影响。（作者单位：腾讯研究院首席研究员）
本期责编：焦冲
注：文章不代表平台观点