人工智能治理论（二）：对人工智能进行法律、伦理和安全管理的尝试和探索
本平台聚焦互联网和人工智能新时代、新生态法律的研究与服务，整合资源，跨界合作。系由曹旭律师团队运营，业务范围以一般民商事争议解决为基础，创新型中小企业法律服务、创业园区法律支持服务、互联网领域法律服务为核心。诚实守信，勤勉尽责，以最大的努力维护委托人的合法权益。
合作联系微信：soupain
邮箱：105491396@qq.com
备注：本号原创作品
作者：曹旭律师
首发：人工智能法律研究
阅读说明：节选自论文的一部分。
人工智能已经不知不觉渗透到我们的衣食住行之中，对社会结构、生活秩序乃至国际格局造成了巨大的影响，即便目前仅仅是其最初级的阶段。
如果说，以往人们对人工智能的印象还是仅存在于文学作品里的话，今天，人工智能带来的挑战，则必须由哲学家、科学家、法学家、社会学家、商界领袖和政界领袖等各个群体从每个角度做出严肃的思考和探讨。
2017年7月8日，国务院印发的关于《新一代人工智能发展规划》的通知，将发展人工智能确定为国家战略的同时，提出“制定促进人工智能发展的法律法规和伦理规范”，“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”。
本文从法律、伦理、安全、社会治理的角度出发，总结人工智能发展引发的社会问题和目前国际社会尝试解决问题的探索，分析人工智能时代问题的新现象、新特征，提出人工智能治理的新思路和新建议。
对人工智能进行法律、伦理和安全管理的尝试和探索
人工智能的广泛应用引发的问题已经收到了越来越多的关注，相应的治理模式和应对建议也在不断的探索之中。
2015 年1月11日，“生命的未来研究所”（Future of Life Institute，FLI）「5」发表了一封“公开信：为稳健性和利益性的人工智能而进行研究”（Research Priorities for Robust and Beneficial Artificial Intelligence: an Open Letter），提出“我们的人工智能必须只做我们要它们做的”（our AI systems must do what we want them to do），即“有益于人的人工智能”（Beneficial AI）的口号。
「1」“生命的未来研究所”（Future of Life Institute，FLI）由 Skype联合创始人Jaan Tallinn、麻省理工学院教授Max Tegmark、物理学家史蒂芬•霍金、SpaceX 和 Tesla Motors 创始人Elon Musk、牛津大学Future of Humanity Institute主任Nick Bostrom、 MIT Center for Digital Business主任Erik Brynjolfsson、哈佛大学遗传学教授George Church、MIT物理学教授Alan Guth以及剑桥大学、UC Berkeley 等人工智能方面的专家、教授，以志愿者的身份于2014年创立。
2016年，美国政府连发三份AI报告，提出美国国家人工智能战略，包括理解并解决人工智能潜在的法律、道德、社会等影响。英国政府连发二份AI报告，呼吁重视并研究人工智能伦理与法律问题。欧洲议会发布了关于人工智能和机器人的报告，表达了其对于机器人将给人类带来的风险的关注，包括：安全、隐私、诚信、尊严、自主。为了应对这些风险，欧洲议会讨论了未来可能面对的道德挑战以及应对的监管措施。联合国教科文组织（The United Nations Education, Scientificand Cultural Organization）与世界科学知识与技术伦理委员会（World Commission on the Ethics of Scientific Knowledge and Technology）联合发布报告讨论了人工智能的进步，以及这些进步所带来的社会与伦理道德问题。
全球最大的非盈利性专业技术学会IEEE（Institute of Electrical and Electronics Engineers，电气和电子工程师协会）于2016年4月发布 “IEEE 关于人工智能及自主系统的伦理考虑的全球倡议”（The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems ），当年12月13日发布项目成果之一“人工智能设计的伦理准则”（ Ethically Aligned Design）第一版白皮书，并于2017年12月更新为第二版。全球倡议和白皮书都是为了更好地保证在人工智能技术设计中更加深入地融入伦理上的考量。白皮书由IEEE关于人工智能及自主系统的伦理考虑全球倡议下，多个委员会所提供的信息与观点创建而成，这些委员会由人工智能、伦理学、政治学、法学、哲学等相关领域的250多位专家组成。这份文件总结了各项制定出来的标准，表达了对包括一般原则、伦理、方法论、通用人工智能（AGI）和超级人工智能（ASI）的安全与福祉、个人数据、自主武器系统、经济/人道主义问题、法律等13个相关领域的关切和认知。
注：曹旭律师是正式的IEEE会员。
"2017年1月，在美国加州阿西洛马，由“生命的未来研究所”组织召开的“2017阿西洛马会议”（the 2017 Asilomar conference），包括844名人工智能和机器人领域的专家们联合签署了“阿西洛马人工智能原则”（AsilomarAI Principles），呼吁全世界的人工智能领域工作遵守这些原则，共同保障人类未来的利益和安全。“阿西洛马人工智能原则”核心思想即“Beneficial AI”，提出“人工智能研究的目标，应该是创造有益（于人类）而不是不受（人类）控制的智能。”（The goal of AI research should be to create not undirected intelligence, but beneficial intelligence.）
这些探索的主要观点可以归纳为以下内容。
1，以人为本。
人工智能系统必须为人类的利益服务。人工智能系统在设计过程中，必须注入人类的价值观和规范，以使其和人类尊严、权力、自由和文化多样性的理想相一致。为此，首先需要归纳应当写入并且能够通过编程反映的人类价值观和法律、道德规范，其次要建立人工智能程序的检验、评估和管理制度，确保这些价值观和规范被完整的遵守了。
2，共享原则。
人工智能的开发不能是为了某一个国家或组织的利益。由人工智能创造的经济繁荣应该被广泛地分享，惠及全人类。人工智能的使用应该缩小贫富差距的鸿沟，而不是造成更巨大的贫富差距。人工智能所创造的财富必须照顾到发展中国家的利益，必须照顾到弱势群体的利益。
3，透明和可追溯性
人工智能的决策过程应该是透明和可追溯的。“黑箱”现象不可接受。人类需要清楚的了解人工智能为什么会推断出某一结论，而不是其他结论。当不利结果或事故发生时，能够追溯人工智能的决策过程以确认根源所在。所有的决策数据必须是可以被获取并呈交给法院，以供争议发生时评估的。人工智能做出的司法判决应提供令人满意的司法解释以被相关领域的专家接受。政府或组织依据人工智能分析做出的剥夺或限制个人基本权利的行为，必须能够提供其合法合规的分析过程和理由。
4，问责制
当不利结果或事故发生时，人工智能本身并不能承担责任，而应由人工智能背后的人或组织承担责任。因为人工智能的参与方众多，所以人工智能的决策过程需要被详细记录。当不利结果或事故发生时，能够依据记录，根据设计人员、编写人员、管理人员、使用人员等不同的参与方所发挥的具体作用，确定责任方。所有参与方必须有清晰的身份标识以确定行为人的真实身份。
5，个人数据和隐私保护
人工智能对个人的信息碎片挖掘和分析的能力只会越来越强。个人的数据和隐私需要得到有效的保护，不能因为人工智能系统的强大而导致个体的隐私权利受损。在给予人工智能系统分析和使用数据的能力时，人们应该拥有自主权力去访问、管理和控制他们产生的数据。个人数据获取与知情同意规则必须合理设计。
6，安全管理
人工智能研发团队在开发系统时，需要提前采取相应的安全防范措施。必须通过安全、可靠的环境来开发，有足够的抵御黑客攻击的能力，有完善的检验制度及时发现具有潜在安全风险的系统，在输入错误、环境、依赖条件改变等情况下，确保AI系统失效但不会失控。
7，武器利用
首先，人工智能武器系统必须始终处于人类的控制之下。其次，人类使用人工智能武器系统必须遵守合理的规则，不能超越道德界限。这需要对使用规则进行制定并融入到人工智能武器系统的设计中。最后，人工智能武器的军备竞赛，和因使用机器人就轻易发动战争的情况必须被限制和避免。
8，法律规范
所有相关规则应尽可能制作成法律规范的形式加以强化和固定，用立法、执法、监督、审判的手段确保其运行。
响应司法部和中华全国律师协会的号召，本号提供免费公益法律咨询。进入方式：点击菜单 “公益咨询 - 免费公益法律咨询”。
行业研究报告分享：
31 5G在中国：展望和地区比较
关注本公众号，并回复关键字"5g中国"。
32 联通&华为-面向5G的室内覆盖数字化演进白皮书-2018.6-21页
关注本公众号，并回复关键字"5g室内"。
33 2018新型智慧城市发展与实践研究报告-中国信通院-2018.04-63页
关注本公众号，并回复关键字"城市发展"。
34 智慧家庭标准化白皮书
关注本公众号，并回复关键字"智慧家庭"。
35 2018智慧农业发展研究报告：新科技驱动农业变革-亿欧智库-2018.05-57页
关注本公众号，并回复关键字"智慧农业"。
更多重量级研究报告，持续分享中......
曹旭律师原创作品集：
本站原创文章，欢迎个人朋友圈转发分享！
刊物、机构或其他公众号如需转载，请联系授权事宜：105491396@qq.com
投稿及商务合作，请加微信sea-cho。
如果要加入“人工智能法律研究与交友”微信群，请加微信soupain，备注或发送“加群ai+姓名+职务”。
如果要加入“法律星球”微信群，请加微信sea-cho，备注或发送“加群星球+姓名+职务”。
聚焦互联网与人工智能新时代、新生态法律研究与服务。包括互联网法律、人工智能法律、金融科技法律、区块链法律、AR/VR虚拟(增强)现实法律、物联网法律、车联网法律、智慧城市法律、智能制造法律、大数据法律、云服务法律等相关领域的研究与服务。