刘克：《人工智能在实物鉴别中的应用和几个法律问题》|《人工智能与法学》第八讲

点击蓝字 关注我们

2022年12月28日星期三下午，浙江大学光华法学院《人工智能与法学》课程第八讲顺利完成。本次课程由得物首席法务官、中国国际经济贸易仲裁委员会仲裁员刘克老师讲授，授课主题为《人工智能在实物鉴别中的应用和几个法律问题》。课程由浙江大学数字法治研究院副院长高艳东老师主持，高老师简要介绍了刘老师的职业经历和个人背景，并鼓励大家从实务届中汲取法律养分。

教师简介

刘克

得物首席法务官

中国国际经济贸易仲裁委员会仲裁员

01

人工智能在实物鉴别中的应用

首先，刘克老师为大家介绍了AI鉴别的需求背景。在开始介绍前，为了加强理解，刘老师先简单引入了人工智能的基础概念。人工智能的核心是计算机软件，它被编程为执行算法（带有执行特定任务的指令的代码集），包括：识别相关模式，得出结论后再反馈给操作者，并根据所得出的结论做出可预测的判断，之后在各个阶段不断优化实践，再用以预测未来行为，同时具有自动化重复功能。

在确保大家对人工智能有一个初步认识后，刘克老师开始分享AI鉴别的需求背景。第一，数据方面，刘老师提到，在由经济合作与发展组织（OECD）与欧盟知识产权局（EUIPO）联合发布的《关于全球假货贸易的研究报告》中发现，2017-2019年，全球海关查获了约7万件的潜在假冒伪劣货物；2019年，这些潜在假冒伪劣货物的交易总额接近750亿美元。另外根据有关方面数据显示，国内每年假冒伪劣商品产值超过1000亿美元。第二，从需求角度看，日常生活中实物商品的真伪鉴别一方面依靠品牌方的判断，需要大家将产品携带至专卖店，也没有形成收费的专门服务，缺乏社会化的专业能力；另一方面依靠专门的第三方鉴别机构，但是专业人员稀缺，并且培养一个经验老道的专家成本较高。可见，实物鉴别的需求大量存在，但目前却没有较好的方法满足，那么人工智能鉴别就成为了打破现状的重要选择。

其次，刘克老师介绍了何为AI鉴别以及如何进行AI鉴别。人工智能鉴别（AI鉴别），这是一项通过人工神经网络、计算机视觉等一系列人工智能技术，将被检物表象特征与预先收集的海量真伪数据进行对抗训练的技术方法。AI鉴别指的是利用人工智能中“深度学习”这门技术，自动去发现并总结真品赝品的特征，进而对新“看到”的待鉴图片与庞大数据库进行判断和对比，从而得出产品真伪的结论。涉及人工智能技术领域主要包括：算法（Algorithm）、专家系统（Expert system）、机器学习（Machine learning）、知识库（Knowledge base）、深度学习（Deep learning）、计算机视觉（Computer Vision）、神经网络（Neural networks）、自然语言处理（Natural Language Processing）。

刘克老师形象地将AI鉴别比喻成专家“鉴宝”，一件藏品呈现在专家面前时就激发了专家脑海中的鉴别程序，专家从脑海中调取出他曾经见过且被证明为真的与眼前的藏品最相似的物品，这件物品的学术名称就叫做“标准器”。专家再将眼前的藏品的特征抽象成几个验证点与其脑海中的标准器一一比对，如果全部一致则认定为真，如果差异点较多则倾向于判定为假。而AI鉴别的优势之一在于精度比肉眼识别高，另外AI有自学习能力，可以通过海量的学习来不断优化，不仅成本低，速度也非常快。

最后，刘克老师介绍了近几年市场上关于AI鉴别的主要探索者。例如Entrupy公司，主营AI箱包、球鞋鉴别。这家公司的设立是基于2012年科技竞争中算法领域的一个名叫ImageNet的突破。这极大提高了机器通过使用大量数据集来识别照片中的日常物品的能力，也是深度学习技术领域的重大分水岭。国内玩家则包括包小鉴、得物等公司。实际上，鉴别领域的主要玩家鉴别方法都大同小异，优势则体现在样本量上，可以说谁家的样本量最多，AI的“粮食”就越多，吸收学习的就越多，其鉴别的精度与准确率就越高。

02

法律人视角下的AI鉴别

人工智能的广泛应用也使其逐步进入法律人的视野。刘克老师首先从立法方面介绍到，《深圳经济特区人工智能产业促进条例》（2022年11月1日起实施）首次在法律法规中明确“人工智能”的定义，即利用计算机或者其控制的设备，通过感知环境、获取知识、推导演绎等方法，对人类智能的模拟、延伸或扩展。并对人工智能的行为底线和法律责任做了规定，明确在人工智能研究和应用活动中不得侵害国家安全、公共利益和个人权益，禁止实施歧视用户、侵害消费者权益、滥用技术行为，并强调相应的法律责任，要求各方主体严守行为底线。

《上海市促进人工智能产业发展条例》（2022年10月1日起实施）也给出了一系列定义，例如：人工智能，是指利用计算机或者计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。人工智能产业，是指人工智能技术研发和应用所涉及的软硬件产品开发和生产、系统应用、集成服务等，包括关键基础元器件产业、智能软件产业、智能终端产业；以及人工智能技术在经济、生活、城市治理等领域融合应用带动的相关行业。

《关于规范和加强人工智能司法应用的意见》（2022.12.9）则概括性地提出了人工智能在司法领域应用的一些指导性原则，包括安全合法原则、公平公正原则、辅助审判原则、透明可信原则、公序良俗原则等。这对人工智能在其他垂直领域的应用也有一定的指导作用。

具体在AI鉴别领域，的确存在着一些看得见的法律问题。首先是误差问题，目前市场上投入商业使用的AI鉴别服务，都会在类似用户协议中强调：AI鉴别系根据用户上传的商品拍摄照片进行鉴别判定，可能受到拍摄角度、光线、设备等因素导致鉴别结论受到影响等。其次是证据力问题，因为很难佐证实物、照片、鉴定结果这三者之间是否存在必然联系，物品从卖家通过快递员到站点最后到仓库等全链路难以形成闭环，经历过程多，难以被复现，所以消费者想要通过AI鉴别结论来维权，实际上是很难被司法机构、行政执法机构所支持的。同时还有归责问题，AI鉴别的误差或误判如何归责。另外还有算法控制、算法歧视、算法透明等问题。

紧接着，刘老师分享了一个案例。在Nilsson v.Gen.Motors，LLC，Mar.30，2018（No.18-471）（N.D.Cal.）案件中，一名摩托车手称被告的自动驾驶汽车驶入其车道时导致其受伤，但事故发生时，被告未进行人工操作。在诉状中，原告仅依据一般过失理论（而不是有缺陷的设计或警告），并声称自动驾驶制造商违反了其注意义务，因为车辆本身（而不是备用驾驶员）驾驶以疏忽方式导致原告受伤。制造厂商在答辩中也承认自动驾驶汽车也应用合理的谨慎义务驾驶。尽管该案在诉讼前期和解了，但它提出了几个新问题。例如，如果过错不能直接追溯到人类行为者，法律必须确定：1、是否将人工智能产品本身视为独立的参与者。如果是，则考虑管理人工智能的适用注意义务（例如，“理性自然人reasonable person”标准与新的“合理机器reasonable machine”标准）。2、当人工智能产品可自主运行时，如何界定可预见性。人工智能的使用不仅引发了关于人工智能的可预见性问题，而且还引发了人类最终是否会被要求遵守不同标准的问题，尤其是在人工智能可以执行任务的情况下。

虽然人工智能产品的产品责任案件和侵权案件目前才刚刚浮现，但随着技术的发展，也可能会因此催生新的认定标准。刘克老师认为未来的AI产品责任将涉及到诸多法律标准的认定问题，包括但不限于，传统侵权理论中制造商和AI产品操作人的责任认定标准，传统侵权理论中原告是否存在过错？制造商的产品责任认定标准，制造商已尽谨慎义务和行业的标准，AI认定为独立自主的参与者，则AI极小概率的“过失”或“瑕疵”造成的损害后果由谁承担，如果人类都无过错，则是否适用公平原则或其他标准？

03

法务工作管理经验

最后，刘克老师更是将其宝贵的法务工作管理经验倾囊相授。公司的不同发展阶段所需要的法务团队规模是不同的，当法务只有一个人时往往是一专多能的；二至三人时主要职能是处理合同事宜；团队扩大到五至六人时，职能可能增加到合同、诉讼等；再扩大到十人以上时，对诉讼事务、非诉事项、知识产权等事宜就有了明确分工。刘老师更是提炼出法务管理十大模型，并简要介绍了其中四个，包括BBR模型、魔方模型、蛋糕模型、火锅模型等。

END

本文文稿：曾洁 编辑：顾   昂

本文审阅：冯然然

（本文观点和内容与本公众号无关）

（如有侵权，请联系删除）

延伸阅读：

主　    编：李华勇

副  主  编：王星雨

来稿请投：[e-mail]

转载须授权