《人工智能重大立法问题研究》开题研讨会在清华大学召开
会议伊始，申卫星教授首先代表清华大学法学院和清华大学智能法治研究院向参与本次研讨会的嘉宾表示欢迎与感谢。申卫星指出，本研究团队在 2020 年完成了一项自由探索研究，对于综合立法还是分散立法、中央立法还是地方立法、制定新法还是修订旧法和综合立法的基础条件做了研究，并通过全国政协双周座谈会和清华大学智库等场合、渠道提交了立法建议。今年是在科技部战略规划司立项的“人工智能重大立法问题研究”，以开放的态度吸收了国内相关领域的法律专家、技术专家、伦理政策专家参与，希望能够兼顾实践需求和科学理论提出具体的立法思路和内容。本次开题研讨会的目的是介绍课题组的研究进展和初步结论，向与会领导、专家寻求评论意见和建议，从而为后续的进一步研究明确方向。申卫星表示：希望与会者秉承“打破沙锅问到底”、“不解决问题誓不罢休”的精神进行讨论与研究，真正做到将“论文写在中国大地上”，解决国家当下发展面临的问题。
科技部战略规划司副司长张旭对人工智能立法研究的背景进行了介绍。张旭表示，根据总书记的批示指示，科技部于 2017 年建立了人工智能规划协调机制，承担人工智能领域的相关工作，其中就包括人工智能立法和人工智能国际治理方面的交流合作。人工智能立法也是近两年全国人大、全国政协都高度关注的问题，也是科技部重点推进的工作之一。在 2025 年，我们需初步建立人工智能的法律法规、伦理规范和政策体系。而工作推进过程中，我们发现仍有很多问题不够清晰，需要进一步研究，这正是委托清华大学法学院开展本项课题研究的原因。
科技部战略规划司处长吴家喜进一步明确了此次课题研究的目的。吴家喜指出，开展课题研究，最重要的是要想从源头上把很多问题理得更加清楚，包括立法的思想理念、立法的依据、立法的路径等，最终达到为未来的决策和讨论提供依据的目的。
接下来，清华大学法学院助理研究员刘云代表课题组作开题报告。
刘云首先介绍了本课题研究的基本立场：人工智能领域需要做立法储备研究，研究的目标是国家层面出台综合性的立法。随后，刘云就课题的研究问题、立法需求、欧美进展、立法思路、立法内容与立法技术进行了详细介绍，并且对立法的调整范围、主要调整的场景、AI 风险等级划分及其分层措施、AI 风险评估机构、AI 责任主体、监督管理机构的设置、AI 的其他相关议题做了分别的分析并给出了初步的结论。
开题报告结束后，申卫星教授对开题报告进行了补充发言。申卫星指出，开题报告主要展示了三方面的内容，一是国内对立法的需求，二是欧洲和美国的立法资料，三是课题组的研究思路，这些资料已经较为详实了。而根据立法时间表的要求，我们需要尽快形成一个立法的框架，以欧美的立法资料与国内的伦理规范、分散的、单独的、地方的立法为依据，形成综合性的成体系的法，以回应中国社会对人工智能立法的焦虑，回应国际社会对我们国家的不信任，使人工智能产业的发展有一个良好环境的同时，人的尊严能在人工智能时代得到保障。
接下来，与会各位嘉宾分别发表了评论意见。
清华大学交叉信息研究院助理教授于洋教授从经济学的角度，分析了人工智能立法需处理的一些盲区。于洋认为，进入 AI 时代后，算法彻底改变了原有的经济增长模式，已有的法律法规体系中对政府、企业的约束已不适用于现在的经济增长模式。其次，在算法经济的环境下，生产模式转向碎片化、灵活化、重叠化，劳动力可以折叠、穿插在市场中，这与现在劳动法中劳动力在某一时段只能受雇于某一雇主的结构不同，需要立法进行处理。此外，部分大型互联网企业在一定程度上已经是一个承担了行政职责的部门，其行政权的使用也应当被法律规范起来。
中科院自动化所研究员曾毅主要针对开题报告中的内容进行了发言。曾毅表示，在给出人工智能的定义时，要有开放性的考虑，平衡人工智能未来演化与现阶段法律规制需求之间的关系。与伦理规范相比，法律有更强的约束性。因而，在人工智能立法中，应要求声明人工智能的使用，以免混淆人与人工智能的界限，并谨防以人工智能的伦理和安全为名，做不道德的事的情况发生。
中国政法大学教授刘艳红围绕人工智能立法的必要性、立法内容、立法主体与立法特色等进行了全面的介绍。刘艳红首先指出，人工智能立法非常有必要，立法能够使人工智能学科、理论、实务、研究多个层面形成较为统一的认识。其次，立法的内容应该是统一的，人工智能涉及的内容非常丰富，分散立法并不能起到应有的效果。再次，在立法主体上，全世界关于人工智能的立法主要是由学术性的机构、学会完成的，目前还没有国家层面的立法，这意味着大家也都在观望，以国务院、科技部这种立法主体去发布的效果可能更好。此外，刘艳红还指出，立法的特色非常重要。立法是为了回应中国问题，要体现出中国在人工智能使用最多的领域里最大、最明显的问题，并针对它们进行立法。
中国信息通信研究院互联网法律研究中心研究员姬祥发表了他对欧盟的人工智能法案的理解。姬祥认为，欧盟人工智能法案的主体思想与 GDPR 是非常一致的，都是基于风险控制的路线，但该法案同时把创新作为一个非常重要考虑因素，为人工智能的发展提供了较大的自由度。我们国家如果未来要坚持综合立法的导向，也应当考虑规制可能的风险，而不是对技术发展本身作出更多的限制。
北京科技大学副教授张凌寒以“人工智能立法的近期和远期”为题进行了发言。张凌寒表示，近期来看，科技部可以从科技成果转化的规则、科技评价体系、科技政策，以及技术标准的制定和实施等方面影响人工智能立法。而从远期来看，虽然人工智能的定义并没有达成共识，但本质上它是一种技术的发展。我们对人工智能的治理，就是要紧紧抓住对于技术的治理，特别是技术源头的治理展开。未来在人工智能立法过程中，归因和归责是最重要的问题。
中国科学技术发展战略研究院原副院长、研究员、清华大学科教政策研究中心特约研究员杨起全表示，对人工智能立法问题研究，他的观点是积极研究、稳步立法、关注国际、保障发展。一是要采取更积极的支持研究的态度，给立法提供基础。二是要稳步立法，如果 2025 年无法实现综合立法，标准指引也是可行的方式。三是要关注国际，重点关注国外的立法思想、立法路线，以及法律实施情况。四是要保障发展，立法应该坚持的基本立场是要保障和促进人工智能的健康发展。
阿里巴巴集团法务总监王莹从人工智能立法的立法定位和价值导向展开进行了发言。王莹表示人工智能立法应该是面向未来发展的，要有价值引领上的定位。同时，未来要有人工智能立法需建立一个框架，让产业届、不同领域的学者能够对号入座，分级分类是一个比较好的方法论。在立法节奏上，可以在已有的框架基础之上，继续模块化，把研究与实证相结合，将产业中的优秀案例应用到框架中。
蚂蚁集团隐私保护研究中心主任李海英则认为，对于人工智能，目前国际上更多的是战略先行的方式。我们现在的研究中思想性、宏观性的内容可以上升为发展战略，规则性、强制性的要求则可以沉淀为法律规则，这对于构建更完整的人工智能法律政策体系非常有意义。在综合立法与分散立法的选择上，李海英认为人工智能的数据问题、安全问题、主体责任问题、竞争的问题，可以通过其他立法覆盖，针对人工智能进行单独的立法也是可行的。但无论是如何立法，人工智能对于互联网行业转向以基础技术驱动的发展模式具有非常重要的作用，在立法当中，要给它研发创新预留一定的空间，
腾讯研究院秘书长张钦坤表示，中国未来发展面临的一些关键问题，无论是底层的 AI 框架，还是人工智能芯片，都需要积极鼓励发展、创新，才有可能推动解决这些被卡脖子的问题。虽然目前算法也出现了很多问题，但在当前的强监管态势下，各领域的问题都会有各领域的监管部门牵头治理，AI能带来的系统性的风险很低。因而，中国现在更缺的是一部促进发展的法律。
华为云高级法律顾问王晓光认为，我们的伦理规范、伦理准则出台后，配套相应的可落地的措施，可以使其治理原则、意图得到更加显性的体现。此外，王晓光还谈到，我们在谈 AI 分级分类的时候，除考虑 AI 对个体的影响外，还应扩展到 AI 在某一个行业、某一个更大的基础设施领域使用的情况。
旷视公司法务总经理李欣认为，制定人工智能相关的法律是有必要的，但是我们应以顶层设计为先，采用工具箱式的立法方式，最终达成 2025 年建成法律体系的目标。此外，从产业界的视角出发，李欣表示更希望有一部促进法。人工智能涉及到很多领域，对于不同的应用场景包括基础技术层面、应用层面，可以借鉴欧盟法律中的分级分类思路，制定一部分级分类规制的促进法。
清华大学人工智能国际治理研究院副院长、公共管理学院教授梁正围绕立法立意、立法立场与立法手段三方面进行了发言。梁正认为，“十四五”规划中明确提到“数字化发展”，在更广的数字经济背景下，以人工智能为单独的规制对象，我们缺乏一部立法立意为促进和发展的功能性的法。在立法立场上，需要考虑的是国际性的问题，重点解决如何提升国家的科技创新竞争力问题。在立法手段上，需重点考虑的则是如何平衡用法去调节相关主体的利益权责分配的关系。
此外，与会专家还围绕 AI 可解释性、立法思路等议题做了讨论交流。
最后，张旭副司长对本次研讨会进行了总结。他表示，立法与规范的初心是总书记指出的“促进人工智能健康发展”，治理也是为了更好地促进人工智能的健康发展。研究人工智能重大立法问题，是在一个大的框架下谈立法的问题。除法律外，还有伦理规范、政策、技术标准等，但目前这个大的框架还是不清晰的，期待通过后续更多的讨论，让工作能够有实质性的突破。吴家喜处长也补充总结指出，课题组可以到 AI 产业的主要企业分别开展调研，为人工智能立法提供支撑。
通过此次开题研讨会，课题组进一步明确了研究方向、凝聚了共识，下一步将继续按照课题任务书确立的五大科学问题推进研究进展，积极开展 AI 治理案例收集和 AI 治理实践调研，最终提出具有中国立场和国际共识的立法建议。
撰稿 | 徐梦如
审校 | 刘云
欢迎关注“清华大学智能法治研究院”公众号
实时获取“计算法学”新动态