平台能否根据算法自动化决策进行处罚？法院回应来了
典型意义
本案系涉平台算法规制的典型案例。通过对算法自动化决策的司法审查，厘清了平台行使算法权力的合理边界，明确了算法自动化决策的程序正当性标准，确定了平台公开算法规则、合理解释技术原理、第三方专业机构验证等判定规则，形成平台、用户及公共利益关系的动态平衡，为构建平台算法裁判规则提供了可借鉴的司法例证，对促进平台经济健康发展具有积极意义。
网上冲浪的时候
我们经常能够看到
一些网友投放的商品链接
其实这是一种常见的推广手段
但是部分推广者为了获取收益
采取不当方式吸引用户点击
近期，杭州互联网法院对一起网络服务纠纷案作出判决，认定原告存在违规推广行为，平台有权采取处罚措施。该判决现已生效。
原告小张（化名）在被告A公司运营的网站注册账户并开展推广活动。经大数据排查，被告认定原告账户“流量异常”，冻结账户内佣金17万余元。为证明原告确实存在采用作弊方式不当牟取佣金利益的违规行为，被告委托某司法鉴定所对其采用的监测方法进行鉴定。
原告诉称，其与被告签署的协议条款不符合公平原则，排除原告主要权利，应属无效。同时，被告拒绝向原告披露判定流量异常的证据，有违合同目的实现。佣金系原告通过推广业务赚取的收入，即便有证据证明原告存在违约行为，冻结当月全部推广佣金的措施亦属显失公平，故要求被告立即解除对原告账户内佣金的冻结。
被告辩称，原告注册账户时已签署相关服务协议，即表示其同意由被告对其推广数据进行监管，并认可平台规则以及平台对认定违规的逻辑与标准，被告有权对推广数据进行抓取、排查，对推广行为负有监管责任。原告“引流”的绝大多数买方并未实际浏览被推广商品信息，推广数据确存在流量异常现象，且无法给出合理解释，已经违反相关推广规定。同时，被告作为平台方履行监管职责出于善意，并不以通过处罚措施获得利益为目的。
1
不能仅凭大数据专业分析报告进行司法审查。大数据分析具有很强的专业技术性，如不对算法逻辑演算过程进行司法审查，就会形成以专业技术分析代替司法判断的局面，司法权威将受到挑战。同时，法律判断也不能代替专业技术判断，而是要在技术中立的基础上对逻辑演算过程进行司法审查，否则将直接影响司法公正。仅凭大数据专业分析报告中的源代码记录，难以证实大数据逻辑演算过程的真实性和合法性。平台的自动化决策并非纯粹工具性角色，面对算法权力不断嵌入社会生活的局面，司法机关应当对这种重要的社会权力进行有效监督，在平衡平台、用户以及公共利益关系的前提下，促使平台算法逻辑构造趋向公开、透明。
2
专家证人接受法庭质询，其陈述意见具有相当合理性。对大数据分析报告进行公证可以保证算法源代码的客观性，却不能体现算法逻辑构造的合理性，需要引入第三方专业机构进行验证。平台通过委托鉴定的方式推演算法逻辑，法庭通知鉴定人出庭接受质询，同时通知平台的算法技术人员出庭接受质询，并通知用户有权委托专业辅助人出庭提出质疑并反驳对方的陈述意见和证据材料。本案中，由代表法律专业评审的法官和代表大众评审的人民陪审员组成的合议庭经评议认为，专家证人陈述意见具有相当合理性。
3
利用算法进行大数据分析和平台自治是遏制扰乱网络交易秩序行为的有效手段。在网络交易空前活跃的背景下，扰乱网络空间正常交易秩序现象严重，网络空间治理工作刻不容缓。在治理手段上，行政机关的公处罚效果较好，但行政执法资源有限，客观上需要网络平台积极参与治理，通过签署网络服务合同、制定平台规则的方式遏制违法行为。平台对海量交易进行高密度排查，只能借助算法技术手段进行大数据分析，很难采取其他方式进行有效排查。
4
平台自治程序具有正当性。平台行使算法权力应当公开透明，事先披露治理机制、管理规则以及相关技术原理。在平台自治过程中，用户有权对自动化决策提出质疑和申诉，进一步知晓算法逻辑构造。本案原告在申诉程序中辩称自己一直通过其他平台进行付费投放推广。经查，原告主要推广活动并非通过上述平台，其提交的视频证据证明力低，难以采信。
5
平台服务协议和交易规则具有权利义务上的一致性。一方面，涉案推广模式具有鲜明特点，系借助被告平台的大数据分析实行“一对多”推广，用户因此获利。如果缺乏大数据分析，涉案推广模式便存在算法上的障碍。而在海量的推广交易中，平台只能借助大数据分析维护正常交易秩序、制裁违规推广行为。另一方面，在算法契约披露不充分的情况下，用户有权要求平台对算法逻辑构造作出合理解释。仅记载源代码和相关数据的分析报告尚不足以证明算法权力的合理性。面对用户质疑，基于权利义务相一致的理念，平台应当本着诚实信用的精神，在履约阶段进一步追溯自动化决策，对算法逻辑构造作出合理解释，促使算法契约的合意趋于完善。权利和义务应当是对等的，在平台规则事先明示的情况下，被告有权判定用户存在违约行为并开展治理活动。
# 法官说法 #
网络平台借助大数据分析的算法，对海量交易进行高密度的筛查，发现网络用户存在违规行为时，依据双方网络服务协议约定的自动化决策机制作出私处罚，已经成为遏制网络用户不良行为的有效手段。鉴于自动化决策的算法是存在权力异化风险的“双刃剑”，通过对典型案例的审理，互联网法院引导公众提升对大数据分析算法权力的社会认知和社会信任。
根据我国《电子商务法》《个人信息保护法》的精神，平台行使算法权力应当公开透明。一方面，平台应当对技术原理作出事先披露，保障用户知情权；另一方面，平台行使算法权力应当符合正当程序，用户有权在事中提出质疑和申辩。在事后的司法审查中，法庭应当处理好专业技术分析和法律推理判断之间的关系，推动平台对自动化决策进行追溯，要求平台对算法逻辑构造作出合理解释。平台可以通过委托鉴定的方式推演算法逻辑，用户也可以委托专业辅助人提出质疑并反驳对方证据，法庭应当通知鉴定人和双方的技术辅助人员出庭陈述意见，对涉及商业秘密的证据采用“适当提示”和“保密承诺”的方式引导当事人完成举证、质证。如果算法解释具有合理性，而用户则无法提供相反证据予以反驳，则用户应当承担违约责任；如果算法解释不具有合理性，则算法契约的核心要件存在缺陷，合意不充分的契约缺乏法律效力，平台应当承担撤销处罚的法律责任。