​人工智能与自动化在合同中的应用

点击蓝字，关注我们
#

4月28日，浙江大学国际战略与法律研究院举办系列讲座，主题为人工智能与自动化在合同中的应用（The use of artificial intelligence and automation in contracting）。该讲座由浙江大学文科资深教授、国际战略与法律研究院院长王贵国教授主持，演讲嘉宾为University of Ferrara的Alberto De Franceschi教授，以及University of Osnabrück的Christoph Busch教授。

王贵国教授说，此讲座为浙江大学国际战略与法律研究院国际前沿问题系列讲座的一个专题。国际前沿问题系列讲座的目的是为了促进不同地区学者的交流，为学生提供更多的学习机会。

Christoph Busch教授是欧洲私法和商法教授，奥斯纳布吕克大学欧洲法律研究所所长，纽黑文耶鲁法学院耶鲁信息社会项目的通讯研究员。Alberto De Franceschi是费拉拉大学私法和数字法教授，鲁汶大学数字法全球教授，浙江大学欧盟数字法客座教授。两位教授是欧洲法律研究所（ELI）数字法律组联合主席。

Christoph Busch教授的讲座主题为Is EU consumer law ready for the AI chatbot economy?（“欧盟消费者法是否为人工智能聊天机器人经济做好了准备？”）。Busch教授从社会热议的ChatGPT引入，认为此类聊天机器的广泛使用将会对欧盟消费者法产生重要的影响，然后从三个方面进行分析，一是聊天机器人经济，二是此类经济将会给欧盟消费者法带来哪些挑战，三是分析欧盟法律研究院最近启动的关于算法合同的项目，该项目旨在分析探索欧盟消费者法需要如何做。

Busch教授将使用聊天机器的消费者分为两类，一类称之为增强型消费者，即AI作为决策支持系统，为消费者提供额外信息以帮助消费者作出决策；另一类称为算法消费者，即消费者将决策完全委托给AI，由AI代替消费者作出决策。Busch教授认为这将给欧盟消费者法带来相当根本性挑战，因为欧盟消费者法是以“人”为基础的，即其前提是消费决定是由人作出的。但在新场景中，随着算法型消费者和增强型消费者的出现，AI占据了舞台中心。如自动驾驶汽车技术以及搜索引擎优化方面，AI的出现便为消费者法带来的新问题。就此，Bush教授讨论了其所在的ELI为解决这些新问题正在研究的算法合同项目，方式是通过测试一系列场景来验证欧盟的立法、指令和法规在多大程度上为AI做好了准备，尝试开发的用于自动合同的分类系统

最后，Busch教授对欧盟消费者法的修改提出了一些建议。首先，欧盟电子商务指令中规定，成员国应确保其法律制度允许通过电子方式订立合同，认为若现在将其转化为聊天机器经济，则有必要声明成员国应确保其法律制度允许通过算法代理签订合同。此外，消费者有权使用人工智能系统签订合同，任何直接或间接放弃或限制此权利的合同条款对消费者不具有约束力，即算法合同的非歧视原则。同时，商户不得以阻止消费者使用AI系统与其订立合同的方式设计、组织或操作其在线界面，即设计的合规性或友好型设计，使消费者能够使用这些新技术。同时，应以2019年加州机器人程序披露和责任法案为蓝本，规定透明度要求，即若企业或消费者正在使用AI系统，应予以披露，以便对方清楚其在与AI系统进行对话。针对AI系统的弱点，Busch教授认为应该有保护AI系统免受操纵的规则;交易者不得以可能损害人工智能系统的方式使用其在写界面的结构、设计、功能或操作方式，使得AI变得难以作出做出自由、自主和知情决策或选择。最后，Busch教授提及欧盟委员会关于金融服务远程营销指令中的第16D.3条，该条款赋予消费者与人进行交谈的权利。其认为，该条款是以人为本的，但同时可能会阻碍创新，使企业规模化变得更加困难，尤其是对小型初创企业更是如此。这表明人们有必要继续研究自动化的局限性以及授权的限制等问题。

在讨论环节中，王贵国教授、程乐教授以及同学们就消费者拒绝使用AI的权利、AI错误导致的纠纷解决及责任归属、数字化时代的隐私忧虑等问题与Busch教授进行了深入探讨。

Alberto De Franceschi教授的讲座题目为The use of artificial intelligence and automation in B2B contracting: Global Challenges and the UNCITRAL Draft Principles（“人工智能和自动化在B2B合同中的应用—全球挑战和贸易法委员会原则草案”）Franceschi教授从自动合同订立与合同履行间的区别、合同订立中使用自动化的案例以及UNCITRAL关于自动化合同的原则草案等讨论这一主题。

首先，Franceschi教授指出，根据《贸易法委员会电子商务示范法》和《联合国关于国际合同使用电子通信公约》（“ECC”），自动化合同至少包含两种情况，一是通过EDI在计算机之间发送的电子通信形成的供应合同，二是自然人在网站下订单形成的销售合同。其中，通过EDI或其他互联网技术订立的合同，可以分为由“智能”设备通过连接的在线平台下订单的合同，以及互联网机器人与网站互动形成的合同。

Franceschi教授在讲座中列举了大量的美国、德国、新加坡、日本等国家法院的判例，对于涉及不同自动化合同存在的各类问题予以分析，包括通过与“智能”扬声器互动形成的合同、互联网与网站交互形成的合同、自然人与自动谈判工具交互形成的合同、在算法交易平台上形成的合同等等；问题包括市场运营商的责任、屏幕抓取/截屏的数据侵权、系统输出的归因问题等等。这些问题都是国际贸易法委员会制定原则所关注的内容。

Franceschi教授还指出，在实践中自动化系统主要用于低风险、低变量的交易中，如机器学习和基于认知的问题解决。目前专家们正在开发在合同中使用AI来执行更复杂的决策过程，如谈判。实践中，以确定性方式运行的自动化系统意味着系统在给定相同输入的情况下生成相同的输出，而非确定性的自动化系统则具有很大的挑战。然而，无论使用何种技术，自动化系统或工具并没有独立意志或独特的法人资格，因此欧洲正在广泛讨论自动化系统的输出可归因于操作人员。目前一些法域的现行合同法规则可能不足以解决与自动化系统不可预测性相关的新问题。另一个问题是，某些规则是否因人为干预而无法应用于自动执行的合同。此外，智能设备的使用涉及一系列的参与者，包括个人、计算机程序、操作系统的人员等，因此需要分析系统如何运作以及各方之间存在哪些其他合同安排。例如，与更基础的机器类比，使用平台提供服务的框架合同，通常会影响有关责任归属的问题。

Franceschi教授认为，了解错误的归属问题，首先需要了解编程错误和第三方干预如何影响自动化订立和执行合同。就责任而言，编程错误可能会导致第三方软件供应商对使用该系统订立或履行合同的一方承担责任。因此，确定合同条款，需要确定如何处理“动态信息”（即可能根据外部数据源定期或连续变化的信息，例如市场价格）。此外，通过确定性系统签订的合同，具有良好的可预测性；而通过非确定性系统订立的合同，则可能需要额外的规则来抵消这种系统的不可预测性。Franceschi教授认为，在合同中可根据透明度、可解释性和可追溯性的原则制定条款，也可从衡平原则和代理的一般原则中寻找灵感，以界定一方当事人可以拒绝使用自动化系统订立合同的情形。

最后，Franceschi教授简要分析了UNCITRAL工作组关于自动订立合同的原则草案，共七项原则，即自动化系统的定义、在合同中使用自动化系统、法律承认、责任归属、心态、法律后果以及法律合规。Franceschi教授指出，目前自动订立合同中出现的相关问题在UNCITRAL的草案中都有相关的原则，其中讨论的焦点在于责任归属、有效性、心态、编程错误及第三方干预。

讨论环节，王贵国教授、程乐教授及同学们就自动化系统输出的责任归属、AI开店中可能存在的消费者欺诈、禁止反言学说在自动化系统归因中的应用等问题与Franceschi教授进行了深入的探讨。

最终，王贵国教授对两位教授及所有参与本次讲座的同学表示了感谢，本次讲座圆满结束。关于本次讲座的详细内容请见附件ppt及会议录屏。

EN

END

微信号｜ZJU-AISL欢迎关注