要给算法立规矩！网信办圈定几大禁区，互联网平台的回应来了

权威、深度、实用的财经资讯都在这里

一眼看完浓缩版

27日，国家网信办起草《互联网信息服务算法推荐管理规定（征求意见稿）》（全文见文末），并向社会公开征求意见。上海财经大学商学院数字经济研究中心主任钟鸿钧认为，从诸项法规和《征求意见稿》的推出来看，隐私信息的滥用是监管坚定打击的内容。平台需要在更加合规的环境下，进行调整和反思。

同一段网约车行程，不同的用户手机叫车定价不一样；因为偶然点开一个宠物视频，就被疯狂推荐宠物消费产品……类似的大数据杀熟、价格歧视、信息漫灌行为或将面临罚款、治安管理处罚可能被追究刑事责任。

据国家网信办官网27日消息，为了规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康发展，国家网信办起草了《互联网信息服务算法推荐管理规定（征求意见稿）》（以下简称《征求意见稿》），并向社会公开征求意见。

《征求意见稿》适用于在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称“算法推荐服务”）的提供者。其中明确“应用算法推荐技术”是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。

当日上午，《征求意见稿》一经发布，立刻在互联网大厂群中传开。有互联网信息服务上市公司内部人士表示，有关注，《征求意见稿》与《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《互联网信息服务管理办法》等法律、行政法规一脉相承，但仍在评估其对于企业具体业务的影响。

也有垂直行业互联网公司内部人员表示，大型互联网平台由于用户数量巨大、服务面广，对于算法推荐的模式开发也更为先进，“我们可能先观察一下看这些大平台的合规路径，再加以借鉴。”

此前，一篇题为 《外卖骑手，困在系统里》的文章刷屏网络。文章指出，在外卖系统的算法与数据驱动下，外卖骑手疲于奔命，动辄违反交规，与死神赛跑，引发网友关注。

征求意见稿提出，算法推荐服务提供者向劳动者提供工作调度服务的，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，履行劳动者权益保障义务。

互联网专家表示，长期以来，某些互联网公司之所以能在对垒很多传统产业企业时竞争力强，和其不一定合理的算法策略密不可分，但是制度的完善会使他们的效率优势被削弱。

网约车平台对于司机的管理也依赖算法。有多家媒体报道，算法对司机的管理也有诸多不合理之处，包括对疲劳驾驶的管控、高额抽佣、变相鼓励闯红灯、乘客差评管理不科学等。对于这些不合理不透明的算法，使用者是有权提出要求的。

征求意见稿提出，算法推荐服务提供者应当接受社会监督，设置便捷的投诉举报入口，及时受理和处理公众投诉举报。算法推荐服务提供者应当建立用户申诉渠道和制度，规范处理用户申诉并及时反馈，切实保障用户合法权益。

消费者还深受“大数据杀熟”之苦。上海市消保委和复旦大学孙金云团队对网约车平台计程计时情况开展的比较试验发现，存在大量相同的软件和路线，价格不一样；贵手机叫车容易“被升级”；实际价格每次都比预估价格贵了一点，而且差得不止是一星半点。

北京市消费者协会调查发现，近9成人认为“大数据杀熟”现象普遍存在，56%的被调查者表示，自已有过被“大数据杀熟”的经历，其中以网购、在线旅游、酒店住宿、网约车、外卖、影视等消费场景最多。

对此，征求意见稿提出，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。

互联网专家表示，这条规定直接指向了“大数据杀熟”，以后遭遇“差别对待”的用户，有权力向服务提供方问个清楚了。

上海财经大学商学院数字经济研究中心主任钟鸿钧认为，平台基于用户数据的野蛮成长红利期已经过去了。《征求意见稿》出台对于互联网数字经济的商业模式将产生比较大的影响。从全球发展趋势来看，数据隐私保护都有很强的合规趋势。

钟鸿钧称，首先需要肯定的是，算法推荐服务本身是有巨大价值的，用户适当地分享消费喜好等个人信息对于自身消费的便利性是有价值的。举一个最极端的例子是网约车，用户对于定位准确性的要求是刚需，只有定位准确，才能确保服务的有效性。因此，结合用户信息的算法推荐本身是有商业和社会价值存在的，但从诸项法规和《征求意见稿》的推出来看，隐私信息的滥用才是监管坚定打击的内容。

“互联网平台更需要思考的是杜绝基于隐私信息的差别定价等信息滥用行为，平台基于用户数据的野蛮成长红利期已经过去了，平台需要在更加合规的环境下，进行调整和反思。” 钟鸿钧说。

钟鸿钧表示，从三十条细则来看，《征求意见稿》更多是为算法推荐服务提供者的工作如何做“指路”，要规范和更长远地发展算法推荐技术的价值，这不是从一个极端走向另外一个极端。平台可以根据监管要求思考：什么样的信息是可以利用的？应该怎样利用，在兼顾法律法规、商业价值和社会效益之间规范治理、协同发展？

中国软件网、海比研究总裁曹开彬认为，从整个推荐算法的发展来讲，我国的技术发展水平在全球仍处于领先地位，例如抖音、TikTok等，但如何把领先的技术用于更良性的产品创新，是企业需要主动调整的方向，企业应该做到“科技向善”。

曹开彬表示，从监管层面来看，对于算法这种先进技术的滥用已经到了整治的关键期。而《征求意见稿》第十三条所提出的“利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持”；“利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管”等行为将成为监管重点。现阶段来看，电商类、搜索以及精准营销类互联网平台将受到较大影响。

互联网信息服务算法推荐管理规定

（征求意见稿）

　　第一条 为了规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康发展，弘扬社会主义核心价值观，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规，制定本规定。

　　第二条 在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称算法推荐服务），适用本规定。法律、行政法规另有规定的，依照其规定。

　　前款所称应用算法推荐技术，是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。

　　第三条 国家网信部门负责全国算法推荐服务的监督管理执法工作。省、自治区、直辖市网信部门依据职责负责本行政区域内算法推荐服务的监督管理执法工作。

　　第四条 算法推荐服务提供者提供算法推荐服务，应当遵守法律法规，尊重社会公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合理和诚实信用的原则。

　　第五条 鼓励相关行业组织加强行业自律，建立健全自律制度和行业准则，组织制定行业标准，督促指导算法推荐服务提供者建立健全服务规范、依法提供服务并接受社会监督。

　　第六条 算法推荐服务提供者应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。

　　算法推荐服务提供者不得利用算法推荐服务从事危害国家安全、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息。

　　第七条 算法推荐服务提供者应当落实算法安全主体责任，建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度，制定并公开算法推荐相关服务规则，配备与算法推荐服务规模相适应的专业人员和技术支撑。

　　第八条 算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型。

　　第九条 算法推荐服务提供者应当加强信息内容管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。

　　发现违法信息的，应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门报告。发现不良信息的，应当按照网络信息内容生态治理有关规定予以处置。

　　第十条 算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容，不得设置歧视性或者偏见性用户标签。

　　第十一条 算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容。

　　第十二条 算法推荐服务提供者应当综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响、引发争议纠纷。

　　第十三条 算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持；不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管。

　　第十四条 算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。

　　第十五条 算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。

　　算法推荐服务提供者应当向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。

　　用户认为算法推荐服务提供者应用算法对其权益造成重大影响的，有权要求算法推荐服务提供者予以说明并采取相应改进或者补救措施。

　　第十六条 算法推荐服务提供者向未成年人提供服务的，应当依法履行未成年人网络保护义务，并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式，便利未成年人获取有益身心健康的信息内容。

　　算法推荐服务提供者不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容，不得利用算法推荐服务诱导未成年人沉迷网络。

　　第十七条 算法推荐服务提供者向劳动者提供工作调度服务的，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，履行劳动者权益保障义务。

　　第十八条 算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者合法权益，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。

　　第十九条 国家网信部门建立分类分级管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度、对用户行为的干预程度等对算法推荐服务提供者实施分类分级管理。

　　第二十条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。

　　算法推荐服务提供者的备案信息发生变更时，应当在变更之日起五个工作日内办理变更手续。

　　算法推荐服务提供者终止服务的，应当在终止服务三十个工作日前办理注销备案手续，并作出妥善安排。

　　第二十一条 国家和省、自治区、直辖市网信部门收到备案人提交的备案材料后，材料齐全的，应当在三十个工作日内予以备案，发放备案编号并进行公示；材料不齐全的，不予备案，并应当在三十个工作日内通知备案人并说明理由。

　　第二十二条 完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等显著位置标明其备案编号并提供公示信息链接。

　　第二十三条 具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。

　　算法推荐服务提供者应当完善算法推荐服务管理机制，对算法推荐服务日志等信息进行留存，留存期限不少于六个月，并在相关执法部门依法查询时予以提供。

　　第二十四条 国家和省、自治区、直辖市网信部门会同有关主管部门对算法推荐服务开展算法安全评估和监督检查工作，对发现的问题及时提出整改意见并限期整改。 

　　算法推荐服务提供者应当配合有关主管部门依法实施的安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。

　　第二十五条 参与算法推荐服务安全评估和监督检查的相关机构和人员应当对在履行职责中知悉的个人信息、隐私和商业秘密严格保密，不得泄露、出售或者非法向他人提供。

　　第二十六条 算法推荐服务提供者应当接受社会监督，设置便捷的投诉举报入口，及时受理和处理公众投诉举报。

　　算法推荐服务提供者应当建立用户申诉渠道和制度，规范处理用户申诉并及时反馈，切实保障用户合法权益。

　　第二十七条 算法推荐服务提供者违反本规定第七条、第八条、第九条第一款、第十条、第十一条、第十二条、第十三条、第十四条、第十五条第二款、第二十二条、第二十六条规定的，由国家和省、自治区、直辖市网信部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处五千元以上三万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

　　第二十八条 算法推荐服务提供者违反本规定第六条、第九条第二款、第十五条第一款、第三款、第十六条、第十七条、第十八条、第二十三条、第二十四条第二款规定的，由网信等有关主管部门依据职责，按照有关法律、行政法规和部门规章的规定予以处理。

　　第二十九条 具有舆论属性或者社会动员能力的算法推荐服务提供者违反本规定第二十条的规定，未按照要求备案或者在报送备案时隐瞒有关情况、提供虚假材料或者通过欺骗、贿赂等不正当手段取得备案的，由国家和省、自治区、直辖市网信部门依法撤销备案，并给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处五千元以上三万元以下罚款。

　　具有舆论属性或者社会动员能力的算法推荐服务提供者终止服务未按照要求及时办理注销备案手续，或者发生严重违法情形受到吊销互联网信息服务许可、关闭网站、终止服务等行政处罚的，由国家和省、自治区、直辖市网信部门予以注销备案。

　　第三十条 本规定自2021年   月   日起施行。

编辑：邱江  陈其珏

往期回顾

本期责任编辑：赵唯佳

监制：浦泓毅

▼

版权声明

上海证券报微信保留本作品的所有权利，未经书面授权，任何单位或个人不得转载、摘编、链接或以其他方式复制发表，否则将被依法追究法律责任。

微信热线：王老师 021-38967805；版权合作：范老师 021-38967792。

好看，你就点一下！