人工智能发展应用需要重视法律保障——“人工智能与法治”高端研讨会将于9月19日召开

来源：上海市法学会

人工智能是人类科技发展的高端成果与智慧结晶，已上升为国家战略，在未来发展中具有核心竞争力。今年9月17日至19日，由国家发改委、科技部、工信部、国家网信办、中国科学院、中国工程院、上海市人民政府共同主办的2018世界人工智能大会将在上海举办。这是一次全球性的人工智能高端会议，将提供世界顶尖人工智能合作交流的平台，推动和主导人工智能产业和基础创新融合发展，必将成为该领域爆发式发展过程中的重要里程碑。

当前，人工智能的研究、开发、应用涉及了社会多个方面，也冲击着法律与社会伦理，人们在看好人工智能大好发展前景的同时，也应不断思索这项新兴技术对社会法治和未来人类走向的重要影响。

著名理论物理学家霍金曾经说过：

发明AI（人工智能）可能会成为人类历史上最大的灾难，如果管理不善，会思考的机器可能会为（人类）文明划上句号。

这一担忧不无道理，无论是曾经褒贬不一的克隆技术，还是如今方兴未艾的人工智能，因为涉及伦理、道德、社会公共安全乃至全人类未来的命运，都无时不在叩问着我们：到底该以何种恰当的形式进行最合理的规范和引导，以便将这些技术真正推向前行并最终服务于全人类？显而易见，法治是这一问题的最好答案。

令人欣慰的是，研究运用法治思维和法治方式，规范和引导人工智能行业良性发展，更好地造福人类，已经成为法学法律界及社会各界的普遍共识，正日益成为法学研究的一个新的重要方向。

法学学科在人工智能的浪潮中正积极尝试跨学科研究，实现自身的转型突破。在国家层面，国务院于2017年7月就发布了《新一代人工智能发展规划》，指出要制定促进人工智能发展的法律法规、伦理规范和政策体系，要“重视人工智能法律伦理的基础理论问题研究”，为应对人工智能所带来的风险与挑战指明了方向。

从法律的视角考察人工智能发展和应用，关键是主体性与归责方式。

◆     主体性，即我们是否有必要在法律上承认人工智能应用主体（通俗意义的机器人）的法律主体地位？

◆     归责方式，即到底谁该为智能机器人的非人为预期的行为负责？

◆     比如利用医疗智能机器人发生医疗事故、自动驾驶造成交通事故、智能交易引发重大失误等问题，该归咎于技术故障、操作不当、设计缺陷，还是机器制造者的失误、主观故意，甚至或是智能机器人的自主意识？

◆     法律又该如何约束智能机器人的研发、制造与应用？

◆     又该如何判定机器人的法律责任？

◆     人工智能在未来是否可以替代理性思考者，比如法官……

一系列的问题冲击着我国现有的法律体系，也让法律人应接不暇。人工智能时代的法治涵盖了法学理论、规范制度及司法实践的“法律革命”和升级转型，需要认真对待和审慎回应。

面向全球、面向未来，上海作为我国改革开放的排头兵、创新发展的先行者，上海要建成人工智能发展高地，理应在这一领域发挥示范引领作用。

上海法学法律界积极参与其中，切实回应社会关切，推动技术进步的规则跟进，架构关于未来法治的基本共识，提升我国对于人工智能技术发展和人工智能法律保障与规制的引领。

由上海市法学会牵头，上海市经济和信息化委员会、上海市法学会、上海人民出版社、上海市科学技术协会、上海市科学学研究所、科大讯飞等单位联合主办，以“发展应用与法律保障”为主题，将于9月19日举行的“人工智能与法治”高端研讨会，是2018世界人工智能大会主办方分论坛之一，旨在推进人工智能与法律问题、人工智能与司法应用的深度研究，积极回应社会发展面临的新挑战，为智能科技产业发展的“中国方案”探索新路径、创造新经验，为未来科技发展提供制度支撑，让智能科技成果更好地助力法治中国建设，推进司法公正、促进司法文明，服务人类命运共同体。

会议将邀请国内外法学理论、司法实务、科学学、高科技企业等领域顶尖专家学者参加研讨，共同发布“人工智能与法治的上海倡议”，推动达成对人工智能发展应用与法律保障问题的相关共识，力争形成上海关于“人工智能与法治”专门研究及应用的领先优势，支持国家人工智能产业和技术创新融合发展、保障上海科创中心建设。

人工智能时代已经来临，它不仅改变人类世界，也会深刻改变人类的法律制度，需要相应的法治健全。关注人工智能时代的法治，就是站在人类命运共同体的角度，积极应对互联网、大数据、人工智能、区块链等前沿科技对国家治理、社会公平正义建设所带来的机遇和挑战。

会议时间

2018年9月19日 9:00-12:00

会议地点

上海科学会堂（南昌路47号）1号楼卢浮厅

主办单位

上海市经济和信息化委员会、上海市法学会、上海人民出版社、上海市科学技术协会、上海市科学学研究所、科大讯飞

协办单位

上海司法智库学会、《东方法学》、浙江清华长三角研究院司法改革与社会治理研究中心、优炫软件

参会领导

❶ 中国法学会副会长 张文显

❷ 上海市副市长 龚道安

❸ 上海市高级人民法院院长 刘晓云

❹ 上海市人民检察院检察长 张本才

❺ 上海市法学会党组书记 崔亚东

主要嘉宾

❶ 赵志耘，科技部中国科学技术信息研究所党委书记，科技部国家新一代人工智能发展研究中心主任，研究员，博士生导师

❷ 洪小文，微软全球资深副总裁，微软亚太研发集团主席兼微软亚洲研究院院长

❸ 江晓原，上海交通大学讲席教授，科学史与科学文化研究院首任院长

❹ 王栋，腾讯专家，腾讯云总经理

❺ 刘宪权，中国刑法学研究会副会长，上海市法学会刑法学研究会会长，华东政法大学刑事法学研究院院长，教授，博士生导师

❻ 赵志伟，科大讯飞股份有限公司高级副总裁，政法事业群总裁

❼ 彭诚信，中国法学会民法学研究会常务理事，上海交通大学凯原法学院副院长，教授，博士生导师

❽ 赵春学，北京优炫软件股份有限公司联合创始人

背景介绍

近年来，上海市法学会高度关注人工智能发展中出现的法律问题，关注人工智能在司法领域乃至法治建设中的应用。与高校、司法机关多次合作举办围绕大数据、人工智能、智慧法院等主题的学术研讨活动，与上海人民出版社共同主办的《东方法学》杂志早在2017年就刊发了《人工智能有限法律人格审视》一文，这是国内较早刊出的关于人工智能的法学专业论文，2018年又以《人工智能与大数据规制》专刊的形式，呈现了法学界关于人工智能法律问题的最新研究成果，在学术界产生了良好反响。

➤     在实践方面，2017年2月，上海市高级人民法院牵头，上海政法各部门参与，承担了中央政法委交办的研发“以审判为中心的诉讼制度改革”软件任务。

在市委政法委的领导下，经过一年多的努力，上海“刑事案件智能辅助办案系统”已上线运行并在全市公、检、法系统全面推开应用。该系统依托大数据、云计算等现代科技手段，充分运用图文识别（OCR）、自然语言理解（NLP）、智能语音识别、司法实体识别、实体关系分析、司法要素自动抽取等人工智能技术，通过制定统一适用的证据标准、证据规则，并嵌入公检法司各机关的刑事办案系统中，实现对刑事案件证据标准、证据规则的统一指引和对证据进行校验、把关、提示、监督，确保侦查、审查起诉的案件事实证据经得起法律检验，确保刑事办案过程全程可视、全程留痕、全程监督，减少司法任意性，有效防范冤假错案产生,为提升司法质量、司法效率和司法公信力发挥了积极作用。可以说，这是人工智能在司法领域深度应用的典范，开启了人工智能辅助刑事办案的先河，在全国乃至世界具有引领作用。

➤     在学术研究方面，上海学者紧紧围绕国家发展战略，主动谋划，率先对人工智能的相关法律问题开展研究，推出了一批有影响的研究成果。

如彭诚信教授主编的“独角兽法学精品·人工智能”丛书涵盖国外科学界和法学界两大研究领域的最前沿成果，刘宪权教授主编的《人工智能：刑法的时代挑战》针对人工智能时代刑法所面临的问题进行回应，代表了国内学者在该领域的最新研究成果。

此前，上海市法学会和上海人民出版社共同发起举办“人工智能与法治”系列活动，在2018年上海书展期间举行了“人工智能与法治”系列活动启动仪式，并首发了《机器人是人吗？》《谁为机器人的行为负责？》《人工智能与法律的对话》《人工智能：刑法的时代挑战》等一系列相关图书，引起社会各界的强烈反响。

责任编辑：胡    鹏

版面编辑：路小艺   倪璐窈