两会热点：人工智能立法

Original plus评论员学术plus 2022-04-11

2019加入学术plus丨2018学术大礼包丨 2017不可以错过的重磅报告们

十三届全国人大二次会议3月4日上午在人民大会堂新闻发布厅举行新闻发布会。会上，大会发言人张业遂在回答记者提问中表示：全国人大常委会已将一些与人工智能密切相关的立法项目列入本届五年的立法规划，同时把人工智能方面立法列入抓紧研究项目。

本文就此简要回顾了各国在人工智能发展战略的不同程度进展，以及人工智能在发展中愈加凸显的4个主要问题，最后提出AI的监管不仅要符合科技本身发展的规律，更重要的是要适合我国国情以及不同地区的发展实际情况，只有这样的AI监管才能更好地促进科技与社会的协调发展与共同进步。

图：大会发言人张业遂回答记者提问。新华网/中国政府网陈杰摄

文章仅供参考，观点不代表本机构立场。

关注两会：人工智能立法

作者：学术plus高级评论员张涛

“全国人大常委会已将一些与人工智能密切相关的立法项目列入本届五年的立法规划，同时把人工智能方面立法列入抓紧研究项目。”

各国AI战略

人工智能是引领新一轮科技革命和产业变革的战略性技术，世界各主要发达国家都已将人工智能上升为国家重大发展战略。2018年以来，美国、欧盟、瑞士、法国、日本、意大利、印度等国都出台了人工智能相关的国家战略和指导文件。

一是美欧等国进一步扩展人工智能战略，加速布局AI生态。欧盟发布欧盟及其成员国《人工智能合作计划》，8月美国正式通过《2019 国防授权法案》，提出重点发展AI、机器学习和量子科学技术。

二是德国、印度、意大利等政府发布“国家人工智能战略”，将人工智能的重要性提升到国家的高度，从宏观政策上加强引导和规划，以促进人工智能领域的发展。2018年6月，印度发布《人工智能国家战略》，并就印度人工智能国家战略的构建提出了框架方案。

三是澳大利亚等国政府正在研究发布国家人工智能战略。目前，澳大利亚还没有发布 AI 战略，但澳政府计划创建一份技术发展路线图、一个标准框架、一个全国 AI 道德框架，用于支持人工智能可靠发展。俄罗斯也在研究人工智能国家战略，计划于2019年上半年发布。

详细数据资料请进一步参见：

格雷·艾伦：中国的人工智能战略

斯坦福《2018人工智能指数报告》

中美欧2018人工智能政府文件

特朗普签署美国AI倡议，人工智能独立审计势在必行

美军人工智能武器化大盘点

AI发展中的问题

人工智能技术的应用具有不确定性，会给人类社会带来法律关系、道德伦理、社会治理等方面的新挑战。随着人工智能相关技术在新闻信息、社会治理、交通出行等行业的应用，逐渐出现信息茧房、算法合谋、算法歧视、法律伦理等方面的问题和挑战。

（一）信息茧房

在今日头条客户端，点击一条关于茶叶的消息，往往就会持续收到各种关于茶的养生知识和广告推送……在大数据和人工智能算法的支撑下，信息传播迎来了信息个性化推荐的时代。信息个性化推荐可以快速完成用户与信息的精确匹配，降低用户获取精准信息成本，为个性化高质量信息获取带来便利。但同时用户可以轻易过滤掉自己不熟悉、不感兴趣的信息，“只看想看到的内容，只听想听的内容”，最终在不断重复的过程中强化了固有偏见和喜好，形成“信息茧房”。

（二）算法合谋

2018年3月23日，新浪微博网友@Eric Tsui 在网络上晒出了一组图，表示两个人使用滴滴打车软件，从同样的地点出发、同样的目的地，但价格却不同，并直言：滴滴打车利用“大数据杀熟”。

图：新浪微博网友@Eric Tsui称滴滴打车利用“大数据杀熟”

大数据杀熟，是指互联网公司通过对用户隐私数据的收集，经过算法分析，计算出用户对于某种产品或服务的价格敏感情况，然后对不同人群制定差异化的价格。这种动态定价和差异化定价就是一种算法合谋。滴滴出行、携程、飞猪、京东、美团、淘票票等多家互联网平台都被曝光过存有“杀熟”的情况。

（三）算法歧视

2015年美国芝加哥法院使用的一个犯罪风险评估系统（COMPAS）被证明对黑人存在歧视。如果一个黑人犯了罪，他被该系统错误地标记为具有高犯罪风险的可能性更大，因此可能会被法官判处更长的刑期。美国卡内基梅隆大学的一项研究表明，谷歌的广告系统存在性别歧视。在推送高收入工作招聘信息时，男性比女性收到推送的频率更高。这些案例都显示出人工智能系统和应用在实现过程中对用户存在歧视问题。

（四）法律和伦理挑战

2015年，英国首例机器人心脏手术致病人死亡。2018年，无人驾驶技术在全球范围内出现多起事故，造成人员伤亡。然而并没有相关法律对其中的责任划分作出明确规定，那么机器人、无人汽车发生事故的主体责任又该由谁来承担？

一旦法律赋予人工智能以法律人格，又可能会对当前的人格法、刑事责任制度、知识产权、侵犯责任或劳动法律制度产生一系列的连锁反应。如何让人工智能系统和产品符合人类社会的各种规范和价值，人工智能发展过程中必须解决的问题。

AI立法不应太超前

AI技术应该被监管吗？如何监管？

政府监管对于预防技术可能带来的伤害是非常必要的。当监管应用于人工智能等快速发展的领域时，错位的监管可能会扼杀创新，破坏人工智能带给我们的巨大的潜在好处，比如提高无人驾驶汽车的安全性、提高生产率等等。埃隆·马斯克（Elon Musk）曾敦促美国政府尽早对人工智能进行监管，但也不希望监管阻碍技术的创新和发展。

全国人大代表李彦宏认为：首先，AI立法本身不应该太超前，很多时候新事物刚刚出现，让它稍微跑一段时间然后再总结经验，找到规律再来立法。

其次，在不同的领域，涉及的立法都不一样，比如说像无人驾驶。北京市很重视无人驾驶，很快有相应的法律来保障我们的创新能够有序进行，到今天百度已经拿到了50张左右的自动驾驶测试车证。

所以在人工智能发展过程中一方面要大力促进人工智能技术的发展和应用，另一方面要加强前瞻性预防和约束引导，确保安全可控。即避免过度监管人工智能的研究，重点监管和关注人工智能在交通运输、医学、政治和娱乐等领域的应用。这种方法不仅平衡了人工智能研究带来的好处和人工智能系统可能的潜在危害，而且更具可操作性。

更多阅读：

陈纯院士带你看AI

人工智能监管指南

（全文完）

作者专栏

张涛，学术plus高级评论员，专注研究人工智能产业技术与网络信息安全。

美新一轮技术出口管制，或得不偿失丨美国国会发布《美国未来四大战略威胁》丨人工智能监管指南丨关于区块链你必须知道的：10个行业案例+核心问题与解决方案丨中美贸易战下，日本被这4个困境团团围住丨【Nature】如果AI可以预测和限制战争？丨【麦肯锡】政策制定者必读的AI报告：人工智能时代应解决这三件事丨美国发布《武器系统网络安全报告》丨欧盟发布国家网络安全战略评估工具，涵盖15个目标142个问题丨美国发布AI白皮书《机器崛起：人工智能及对美国政策不断增长的影响》丨网络战，没有规则！丨美国《国家网络安全应急措施》四大挑战与十项措施丨Deepfakes变脸术竟成为美国国家安全的新威胁丨【布鲁金斯】2020-2040年军事技术变化预测丨【五眼情报联盟】最新发布：加密数据三原则丨机器学习的偏见丨牛津大学在思考：如何让AI成为一个好人？丨无人驾驶，法律你准备好了吗？……长按识别二维码查看更多观点或进入公众号“个人专栏”结识“学术plus”专家作者团队。