6000多条投诉直指“大数据杀熟”！四部门重磅出手，最新解读
作 者丨王俊 肖潇 实习生 睢佳
编 辑丨王俊,张铭心
图 源丨AI
11月24日，四部门联合开展“清朗·网络平台算法典型问题治理”专项行动，尽管是周末发布信息，但由于上周中钟睒晱炮轰算法作恶、上周五快手因落实青少年模式不到位等导致违法信息扩散被处罚等消息，受到了市场和公众的高度关注。
21世纪经济报道记者注意到，此次专项行动的要求非常细化，提出重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题。但不少要求在此前《互联网信息服务算法推荐管理规定》等文件中均有痕迹。业内人士告诉21世纪经济报道记者，往年中央网信办也有算法检查，此次专项行动或意味算法治理的常态化。
算法治理自2021年开始，三年间，相关法律法规不断完善，然而公众对算法的感知与治理要求之间仍存较大差距。
受访的业内人士指出，推荐算法往往是平台最核心、最大利润部门；主要部门背DAU（日活跃用户）指标，算法合规影响用户活跃度和留存率，若无外部影响，内部严抓算法治理往往动力不足。
也就是说，算法合规与平台的商业逻辑存在核心冲突，两者天然构成张力。“算法治理像瓷器店里抓老鼠”，有专家如此形容。
算法治理旋风刮起，或迈向常态化监管
梳理发现，自2021年起，算法治理便被纳入监管范围，治理内容从“推送不良广告行为”、到整治“违法活动引流、宣介违法违规商品、搜索结果推送低俗负面联想词”，以及打破 “算法歧视”“大数据杀熟” 等。
从2022年起《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等政策陆续实施，均涉及算法的详细治理规则。
此次，四部门联合开展“清朗·网络平台算法典型问题治理”专项行动，与此前的专项行动相比，要求更加细化。除却专项行动的要求外，下发的《通知》中还给出了《算法专项治理清单指引》，列明了核验项目、核验要点、核验内容。一位头部平台的合规负责人告诉21世纪经济报道记者，往年中央网信办也会到企业进行算法检查，此次算法治理专项行动或意味算法治理的常态化。
并且，此次专项行动的任务落地到了地方：各地网信部门要发挥统筹协调作用，牵头开展专项行动。加强与属地电信、公安、市场监管等相关部门联动，细化工作分工，压实工作责任。
推荐算法：明令禁止推送高度同质化内容
根据专项行动要求，有几项重点：1.深入整治“信息茧房”、诱导沉迷问题；2、提升榜单透明度打击操纵榜单行为；3、防范盲目追求利益侵害新就业形态劳动者权益；4、严禁利用算法实施大数据“杀熟”；5、增强算法向上向善服务保护网民合法权益；6、落实算法安全主体责任。
具体怎么治理乱象，“算法专项治理清单指引”提出了明确的核验要求。
比如，在“信息茧房”的问题上，专项行动要求：严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签，不得将违法和不良信息记入用户标签并据以推送信息，不得超范围收集用户个人信息用于内容推送。
该项要求主要针对推荐算法。推荐算法包括多种类型，比如基于内容的推荐算法，侧重于分析内容本身的特征，从用户过去喜欢的内容中提取关键特征，匹配用户的兴趣偏好。简言之，推荐算法本质是“投其所好”，从而增加平台访问次数、延长停留时间，提升用户黏度。
2022年实施的《互联网信息服务算法推荐管理规定》中，首次将算法防沉迷写入法规，其要求“算法推荐服务提供者不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”。
此次专项行动中再次明令禁止：严禁推送高度同质化内容诱导用户沉迷。
专项行动还强调：“不得将违法和不良信息记入用户标签并据以推送信息”。实践中，为了留存用户，一些平台会给用户推送低俗色情等信息。
根据专项整治行动，将推进拆标签等合规动作。
同济大学法学院助理教授、上海人工智能社会治理协同创新中心研究员朱悦指出，广义的标签可以是自然语言表述，由用户自行提供得到的，也可以是算法通过学习得到的。“后一类常常也叫做表征或嵌入。”
如果是前者，拆除难度一般不大，业务上多少会有损失，损失的大小和场景有关。不过，如果本身数据治理做得不好的话，标签合规的补课就会有一定的工作量。
专项行动要求，平台应具备针对“信息茧房”“同质化推荐”等网民重点关注问题的防范举措，通过内容去重、打散干预等技术策略，提升推送内容多样性丰富性，及时总结相关成效，配合有关部门的监督检查工作。
决策算法：以优惠政策复杂为由解释“杀熟”，空间越来越窄
决策算法也是这次专项行动的重点。专项行动要求：严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。详细公示时间预估、费用计算、路线规划等算法规则。搭建畅通的申诉渠道，及时受理劳动者因交通管制、交通事故、恶劣天气等不可控因素导致的配送超时等申诉。
大数据“杀熟”是近年来消费者关注的重点。指的是企业通过收集和分析用户的历史购买记录、浏览习惯、个人信息等数据，建立用户画像，然后根据这些信息对新老用户采取不同定价的策略。简言之，在平台内存在“杀熟”机制的情况下，老用户因黏性较高，可能会被收取更高的价格，而新用户则可能享受到更多的优惠。
在黑猫投诉平台，检索“大数据杀熟”关键词，多达6000多条投诉，投诉理由多为在价格短时间浮动大、不同人不同价、不同手机不同价、不同平台价格差异大、买完就大幅降价等。矛头直指主流电商、在线旅行、外卖、网约车等头部主流商业平台。
在实践中，“大数据杀熟”的界定并非易事。21世纪经济报道记者曾用不同移动设备对携程、飞猪、去哪儿等测试，发现不同会员等级、不同平台、不同的优惠政策都可能导致价格不统一，相关行为的模糊性、隐蔽性和复杂性让“杀熟”的认定困难重重。
值得注意的是，此次专项行动中明确：提升优惠促销透明度，清晰说明优惠券的领取条件、发放数量和使用规则等内容。客观如实说明优惠券领取失败原因，严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。
并且，《算法专项治理清单指引》中还要求：平台应说明优惠促销规则，如适用范围、参与条件、特定限制等。对于使用优惠券的场景，平台应说明优惠券发放范围、用户身份限制、发放数量、使用条件等信息。
这也意味着，平台以优惠政策为由来解释“杀熟”，空间越来越窄了。
算法治理好似瓷器店里抓老鼠？
从前文不难看出，此次《通知》和《算法专项治理清单指引》里的要求并非新规，许多内容已在过去的相关政策文件、专项行动中多次强调，但问题在于，实施效果似乎不尽如人意。
拿用户标签来说，《互联网信息服务算法推荐管理规定》要求，“平台应向用户提供用于个性化推荐服务的个人兴趣标签管理功能”。本次《算法专项治理清单指引》也重提了这一点。
可实际上，目前几乎没有主流APP能够提供标签管理工具，大部分平台的操作仅仅是让用户对单条内容点击“不感兴趣”。
对外经济贸易大学法学院教授张欣长期跟踪算法治理，她了解到有两个落地难题：
一是目前许多平台已经不再使用个性化标签，自然也没法让用户挑选标签，存在算法治理规则和现实的“时差”；
另一个更主要的问题可能是，个性化推荐一直是用户对算法安全、可信度感知最强的领域，但平台到底怎么执行、监管又如何执法监督，还存在不足。
从本质上说，算法治理和平台的商业逻辑存在核心冲突。一位前社交平台法务向21世纪经济报道记者透露，推荐算法是最核心的部门，“即使不考虑技术的复杂性，要在利润部门推进合规约束都很不容易。”
另一位头部短视频平台的前员工也有类似感受，“主要部门都是要背DAU（日活跃用户）目标的，做治理肯定会影响用户活跃和留存，风控部门的话语权又很小。没有外部影响的话，内部很难严抓合规，尺度很松散。”
只有那些稳坐行业头部宝座的平台，才有底气严抓内容生态合规。一位学者因此将算法治理形容为“在瓷器店里抓老鼠”，投鼠忌器是最大顾虑。
不过在张欣看来，算法公开、提高算法透明度是可以落地的抓手，并且已经过全球经验检验，并非完全“瞎抓耗子”。“其实这一次专项行动，也是对我们之前小、快、灵立法的一次检验，接下来最重要的是将一些议题落实。”
SFC
本期编辑 江佩佩
21君荐读
疯狂低价竞争之中，电商平台的“囚徒困境”如何打破？⼁竞争秩序场