“算法”之下安有完卵？美国33州检察长诉Meta公司危害儿童心理健康

* “中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台

摘要

美国33个州的检察长联合起诉Meta公司，声称该公司旗下的主流社交媒体平台Facebook和Instagram等软件利用算法推荐功能和频繁的消息通知危害儿童及青少年心理健康。如此大范围、跨党派地对科技巨头的“围追堵截”，在近年的互联网发展过程中实属罕见。本文针对此案争论焦点、各方立场与律政博弈，互联网与未成年人健康间的复杂关系，以及欧盟与美国的不同监管体系进行简要分析，试图探寻算法裹挟之下的新生一代是如何被社交平台“操纵”与“伤害”，以及如何被法律“保护”的；大数据高歌猛进的当下，我们又能为未来做些什么。

01

事件梳理：

为何起诉Meta？

美国东部时间10月24日，包括加利福尼亚州、纽约州、亚利桑那州和伊利诺伊州在内的全国33个州检察长（Attorney General）在Meta公司（Meta Platforms, Inc.）所在地加利福尼亚州北区联邦法院（U.S. District Court for the Northern District of California）对其发起了联邦诉讼（The State of Arizona, et al. v. Meta），指控其旗下Instagram和Facebook等应用通过“刻意”设计其软件上的“有害”功能，例如无止境的新闻推送、频繁的消息通知，以及“无限滚动”的交互界面设计等，使得用户的成瘾性显著增强，同时也加剧了青少年心理健康危机。此外，另有9个州的检察长还在各自的州与哥伦比亚特区（Washington, D.C.）提起了单独的诉讼，要求法院下令禁止Meta的违法行为，并要求Meta支付高额罚款。

随后，Meta发言人安迪·斯通（Andy Stone）在一份声明中说：“与检察长们一样，我们致力于为青少年提供安全、正向的网络使用体验，而且还推出30多种工具来协助青少年与他们的家人。但我们感到失望的是，检察长们没有与整个产业合作，为青少年使用的app制定一套明确的标准。”

此次多州检察长发起的联合诉讼被视为近年来少见的“跨党派联盟”，反映两党在这一议题上已跨越党派分歧，将保护儿童和青少年群体免受网络侵害列为其优先事项，足见两党监管互联网科技巨头的一致决心。若此番诉讼最后判决Meta败诉，那么此案将成为新的法律判例，扩及适用于包括TikTok、YouTube在内的所有社交媒体平台，影响深远。

这一份洋洋洒洒共计223页的联合诉讼状，多处指明Meta公司利用其强大、超前的技术在Instagram、Facebook和其他社交媒体平台上“设计并部署”了（designed and deployed）“有害功能”（harmful features），“故意”（purposefully）让儿童和青少年等年轻用户上瘾，而他们使用Meta的社交媒体软件后会产生抑郁、焦虑、失眠、干扰教育和日常生活以及许多其他负面后果。其还指控Meta公司经常在未征得未成年人监护人同意的情况下收集13岁以下儿童的数据，这一做法实已违反美国联邦法律。

纵观诉状，可以总结Meta涉嫌违反美国保护青少年相关法律的四条“罪状”：

美国33个州检察长联合起诉Meta公司诉讼状封面（meta-multistate-complaint, Case 4:23-cv-05448 Document）。

图片来源：纽约州总检察长办公室

(1) 通过开发Instagram和Facebook，Meta创建的独有商业模式能够最大限度地增加年轻用户在其社交媒体平台上的使用时间和大部分注意力；

(2) Meta设计和部署有害的、具有心理操纵性的产品功能，以诱导年轻用户延长其平台使用时间、增加使用频率，同时错误地向公众保证其功能是安全的、适合年轻用户的；

(3) 经常发布误导性报告，吹嘘其对用户造成伤害的低发生率；

(4) 尽管内部研究报告、独立专家分析和公开数据显示Meta的社交媒体平台对年轻用户有害，但Meta仍然拒绝放弃使用已知的有害功能，并加倍歪曲、隐瞒和淡化这些功能对年轻用户身心健康的影响。

诉状还特意指出，Meta已违反了《儿童在线隐私保护法》（Children’s Online Privacy Protection Rule, COPPA）中规定的相关社交平台应尽之义务，在未经监护人许可的情况下非法收集了13岁以下未成年用户的个人数据。

《儿童在线隐私保护法》（COPPA）。

图片来源：Federal Trade Commission

02

各方立场与法律争议

领衔此次法律行动的民主党籍纽约州检察长莱蒂夏·詹姆斯（Letitia James）发表声明称，“儿童和青少年正遭受前所未有的心理健康问题，社交媒体公司像Meta应对此负有责任。Meta通过故意设计其平台，使用操纵性功能使儿童上瘾，降低其自尊心，从孩子们的痛苦中获利”。

纽约州检察长Letitia James召开记者发布会。

图片来源：TimesUnion

来自田纳西州的共和党籍检察长乔纳森·斯克梅蒂（Jonathan Skrmetti）也表示，“这是美国的艰难时期”，“我们面临着自内战以来从未见过的两党极化问题。因此，对于两党的州检察长来说，他们经常公开表达不同意见，但如今却走到一起，朝着同一个方向前进，我认为这说明了一些问题。”

田纳西州检察长Jonathan Skrmetti召开记者发布会。

图片来源：Daily Memphian

Meta方面，除了发表声明外也公布了一系列措施，如“构建儿童保护生态系统”（Building a child protection ecosystem）、“推进技术干预”（Advancing technological interventions）以及“定期问责和发布执行报告”（Accountability and enforcement reports）等。同时，也将根据第三方研究与评估机构定期公布“社区标准执行报告”（Community Standards Enforcement Report），其中囊括了反对“危害儿童：裸体、身体虐待和性剥削”（Child Endangerment: Nudity and Physical Abuse and Sexual Exploitation）内容的相关举措。11月7日，Meta还宣布参与“Lantern计划”并成为其创始成员之一。该计划声称是“首个儿童安全跨平台信息共享计划”，旨在为参与其中的科技公司分享与辨识有关违反儿童安全政策的账号搭建合作与沟通平台，并提供相关基础技术设施。

Meta公司安全中心页面上的网络平台儿童保护举措一览表。

图片来源：Meta官网

可以看出，此番诉讼聚焦于“心理健康”这一难以测算的法律概念。《互联网法律评论》分析道，选用这一切入点对于原告方来有更大的挑战性，因为青少年的心理健康问题与社交媒体之间的关联性比起身体健康问题来说更难证明；作为“不生产内容”的社交平台，如何证明其功能及算法在法律上具有“可责性”，也是一大难题；并且，如何用法律来解决或修正社交媒体带来的“社会性后果”？该诉讼的预期结果能否对因“比较”产生的社会性自我否定和抑郁有所助益呢？

州检察长们决定让Meta公司“自证其罪”，即利用Meta公司内部的研究来证明其“明知故犯”，证其罪成。

诉状中引用的研究于2021年秋季在《华尔街日报》上首次得到披露。该研究发现，Meta公司知晓Instagram应用对青少年，尤其是少女在心理健康和形象问题方面可能造成的危害。研究指出，13.5%的少女曾表示Instagram加重了她们渴望自杀的念头，17%的少女称该应用加重了自己的进食障碍等等。而这一研究正是由Facebook（Meta公司前身）产品经理弗朗西斯·豪根（Frances Haugen）向媒体披露后被世人所知，她也曾就此议题在美国国会和英国议会委员会作证说，该公司“将利润置于安全之上”。

2021年，Frances Haugen在美国国会听证会上。

图片来源：Time

此后两年间，美国各级议会的议员们推出了如《加州适龄设计规范法案》（California’s Age-Appropriate Design Code Act, CAADCA）和《联邦儿童在线安全法案》（Kids Online Safety Act, KOSA）等议案，但这一系列议案都被法院发出禁令或未能签署生效成为正式法律文本（后文详述）。相关法律学者和议员将其归咎于互联网科技公司的强大游说能力，以及部分规定有违反宪法第一修正案中的“表达自由权”之嫌。

全美各州保护儿童相关法律颁布情况

（数据截止至2023年4月28日）。

图片来源：纽约时报

根据两党政策研究机构“全美州议院大会”（National Conference of State Legislatures）、代表成人娱乐业的“自由言论联盟”（Free Speech Coalition）和其他跟踪州法案的组织数据，自2021年以来，全美境内在州层面的立法机构已经通过了至少38项法案，涉及社交媒体内容监管、未成年用户使用行为管理以及广泛网络内容消费者的在线隐私数据等。

就在今年11月7日，Facebook前工程总监兼Instagram顾问阿图罗·贝贾尔 （Arturo Bejar）在国会参议院司法委员会隐私、技术和法律小组（Senate Judiciary Subcommittee on Privacy, Technology, and the Law）举行的审查社交媒体和青少年心理健康危机听证会上作证，称其曾向Meta公司高管表明该公司的社交媒体平台可能对青少年造成不良影响，但未曾收到任何积极的回复，公司也从未采取有效补救措施。

Arturo Bejar。

图片来源：AP Photo

因此，现次多州再次联手对Meta公司提起诉讼，亦可视作监管部门的最新尝试，试图在法律层面将未成年人的互联网使用行为与其心理健康程度联系起来，在互联网科技公司飞速前进过程中加装一道法律“制动器”。

03

零星的立法突破

遇上强大的科技游说

实际上，这已非美国各州检察长首次联手“追捕”Meta——2020年，美国48个州和地区就曾以反垄断为由起诉该公司，联邦贸易委员会（Federal Trade Commission）也提出了单独起诉。

Facebook首席执行官马克·扎克伯格（Mark Zuckerberg）于2019年在美国众议院金融服务委员会（House Financial Services Committee）听证会上作证。

图片来源：NPR

一年后，Facebook公司（即现在的Meta公司）宣布着手开发专门面向13岁以下未成年用户的“Instagram Kids”应用，但这一消息即刻引发了相关立法者和儿童保护团体的强烈反对。彼时，由来自世界各地的逾百名医疗专业人员、教育工作者和儿童护理人员组成的美国“无商业化童年运动”组织（Campaign for a Commercial-Free Childhood，今改名为“公平竞赛”（Fairplay Organization）组织）对此事发表了一份声明，详细说明了“如果儿童进入Instagram的图像虚幻世界，他们的健康发展和隐私将受到损害”。此外，该组织还发起了一份请愿书，呼吁Facebook公司不要使用“Instagram Kids”应用来针对儿童。

这些社会活动者和相关问题专家表示，已有研究证实过度使用移动电子设备和社交媒体与儿童和青少年面临的许多风险有关，包括肥胖、心理健康状况不佳、抑郁风险增加以及自杀概率的上升。他们说，“Instagram尤其利用了年轻人对错过机会的恐惧和对同伴认可的渴望”，“该平台对外表、自我炫耀和消费品牌的过度强调给青少年的隐私和健康带来了挑战”，“年龄较小的孩子，正如‘Instagram Kids’计划中的目标人群，更加没有准备好应对这样一个平台所带来的挑战”。

不久之后，来自40多个州的检察长给该公司首席执行官马克·扎克伯格写了一封信，他们在信中表示：Facebook“从未成功保护过其社交平台上儿童的切身利益”（historically failed to protect the welfare of children on its platforms），并敦促该公司放弃“Instagram Kids”计划。在遭到州检察长、立法者和儿童权益团体的强烈反对后，Facebook公司很快放弃了该计划，转而选择搭建“家长监督工具”（Parental Supervision Tools）。同年11月，包括科罗拉多州、马萨诸塞州和新罕布什尔州在内的两党检察长小组宣布针对“Instagram对年轻人的影响以及潜在的有害影响”展开联合调查。

全美州检察长协会（NAAG）致扎克伯格的一封信。

图片来源：NAAG官网

Instagram宣布暂停“Instagram Kids”项目，转而开发“家长监督工具”（Parental Supervision Tools）。

图片来源：Instagram

然而，由于科技公司与游说集团的强烈反对，前述各州一系列保护美国儿童与青少年网络安全的法律推进过程正陷入停滞——

2009年至2023年间Meta在美国境内用作游说用途的费用统计（单位：百万美元）。

图片来源：Statista

成员包括许多美国科技巨头公司的科技行业组织“TechNet”等团体向加州州议员们施压，要求将该法案对“儿童”的定义缩小到16岁以下，而非之前所规定的18岁以下。

今年9月，另一为科技公司游说的机构“NetChoice”将加州总检察长告上联邦地区法院并获得了联邦法官的支持，称该州实施的《加州适龄设计规范法案》（CAADCA）“可能违法了宪法第一修正案”。

NETCHOICE v. ROB BONTA, Attorney General of the State of California 诉状首页。

图片来源：NetChoice

而此前一月，阿肯色州一位联邦法官叫停了该州的一项新近实施的法律，该法律要求特定的社交媒体平台在未成年用户创建其网络帐户之前验证用户年龄并获得监护人许可。

同月，来自德克萨斯州的联邦法官也判定一部新推出的反色情法令暂时失效，该法规定社交平台应限制未成年人访问网络有害内容，要求包含露骨内容的网站验证其用户已年满18周岁，并在用户查看内容之前显示警告。

在更早些的3月，为国会服务的公共政策机构“国会研究服务”（Congressional Research Service）也表达了类似观点，敦促立法者们应将法律中新的网络年龄限制可能带来的后果纳入考量范围之内，例如互联网科技公司将会收集更多的用户敏感数据。

“国会研究服务”提交的报告。

图片来源：美国国会官网

公民自由倡议者们则认为，若此类法律继续实施亦可能给成年用户带来不良使用体验，如更加广泛的“侵入性年龄验证系统”等……

全美各州立法实施年龄验证进度追踪图表（黑色表示已经推出相关法律，蓝色表示即将推出相关法律）。

图片来源：FSC Action Center

双方在法律层面的博弈大有愈演愈烈之势。多方争辩的焦点之一在于，未成年人健康状况是否真的可以与互联网使用“挂钩”？

04

互联网与未成年人健康

皮尤研究中心2022年的一项研究显示，Instagram是美国13-17岁青少年中第三受欢迎的社交媒体平台（62%），仅次于YouTube（95%）和TikTok（65%）。超过三分之一的受访青少年表示，他们“近乎不间断地”（almost constantly）使用其中至少一款社交媒体应用。

皮尤研究中心2022年调查数据。

图片来源：皮尤研究中心

宾夕法尼亚大学（University of Pennsylvania）的一项研究证明了社交媒体的使用会增加抑郁和孤独感，人们在社交平台上花费的时间与幸福感下降之间存在因果关系；此外，哈佛大学陈曾熙公共卫生学院（Harvard T. H. Chan School of Public Health）发表的一篇文章详细阐述了Instagram是如何“导致青少年陷入抑郁和焦虑的漩涡”的。该文作者社会与行为科学系（Department of Social and Behavioral Sciences）教授布林·奥斯汀（Bryn Austin）表示：“通过实验研究，我们发现Instagram凭借其算法驱动的内容推荐，同时根据每个用户的参与模式进行大数据分析，将弱势青少年带入危险的恶性循环和负面的社会比较，并使他们对外表、体型和身材抱有不切实际的幻想”。

据福布斯新闻网报道，在对Meta提起诉讼之前，已有一系列针对社交媒体公司的诉讼，指控这些平台对青少年心理健康造成不可逆的伤害——阿肯色州共和党籍总检察官蒂姆·格里芬（Tim Griffin）于今年3月份对Meta及其竞争对手TikTok提起诉讼，他声称这两家公司在其应用程序上的内容上欺骗了用户，违反了阿肯色州的《欺骗性贸易行为法》（Deceptive Trade Practices Act，DTPA），“知情地”（knowingly）设计了平台与用户的互动方式，以进一步诱使青少年用户“上瘾”。当时，Meta安全主管安提戈涅·戴维斯（Antigone Davis）发表了一份声明，指公司正在改进软件功能和相关政策以满足青少年及其家人的合理需求，并声称该公司正采取一系列举措来阻断有害内容的传播；犹他州官员也对另一社交媒体巨头TikTok提起诉讼，称该公司部署了“令人上瘾的功能”，以吸引年轻用户无休止地使用其应用，获得巨额广告收入。为此，TikTok首席执行官周受资在3月的美国国会听证会上表示，该公司“将把安全——尤其是青少年的安全——放在首位”，并称该公司将在未来推出“旨在减少有害内容的额外保护”。

美国国会议员于去年秋开始关注Instagram的自动推荐功能是如何向少女展示自残图像，并向广大年轻用户宣扬“饮食失调”内容。美国总统拜登随后在X（原twitter）上发帖呼吁重视社交媒体对儿童的不良影响，应加强儿童安全保护。

美国国会参议员Markey等人公开发布一份调查研究，直指“Meta 有意利用儿童以及青少年在 Instagram 上的活动数据，通过算法推送鼓励危险饮食行为的内容”。

图片来源：国会参议员Edward Markey个人主页

美国总统拜登X贴文截图。

图片来源：X

监督公共卫生与人民健康的美国联邦医务总监（U.S. Surgeon General）也在今年5月发布公共健康咨文，警告社交媒体对儿童和青少年的身心健康构成威胁，这份官方文件的措辞令人触目惊心，直指“有充分的证据显示，社交媒体可能对儿童和青少年的心理健康和福祉造成深远的危害”，“每天使用社交媒体超过3小时的青少年，面临抑郁和焦虑症状的风险将增加一倍”，而统计显示，美国孩童每天使用社交媒体的平均时间高达3.5小时，整个孩童与青少年族群的心理健康令人忧虑。

《2023年美国医务总监倡议：社交媒体与青少年心理健康》封面。

图片来源：The The U.S. Surgeon General’s Advisory: Social Media and Youth Mental Health

澎湃新闻援引中国贵州财经大学与美国西密歇根大学的一项研究报告分析称，短视频可能影响儿童和青少年的注意力，成瘾性很强。这种成瘾性主要来自于多巴胺的释放，这是一种在大脑中负责调节情绪、动机和奖励的神经递质。平台则是分析用户的观看时长、点击率、点赞和退出时的行为，甚至包括地理位置在内的多种因素，来优化推荐效果，进一步增加平台的“用户粘性”。对于消费内容的用户来说，这种推荐机制与赌博机的间歇性奖励机制类似，使用户产生“下一次可能就会‘中奖’”的想法，进而培养用户的使用习惯，让他们在平台上花费更多时间。短视频平台的设计，如“点赞”功能和下滑寻找喜欢的视频等，同样能刺激多巴胺释放，增强了用户的愉悦感，进而促使他们继续使用社交媒体并发布内容。

过去多年来，已有越来越多的报告说明了社交媒体对青少年存在负面影响——

2021年1月，法国女权协会“放肆者”（Les effronté-e-s）发起集体请愿，要求TikTok修改算法、提高家长监控功能效率，并增加内容审核人力物力。协会在公告中表示：“一方面，TikTok平台发布青少年甚至幼儿的性感视频，引恋童犯罪分子出动；另一方面，青少年容易在平台上过早接触色情内容”。

欧盟资助的“欧洲儿童上网研究网络”机构（eukidsonline）曾在19国开展深度调研，并于2020年发布最新报告指称：11%到45%的9-11岁儿童有每天登陆社交网络平台的行为；7%到45%的9-16岁儿童在网上遭遇过导致自己不开心、不舒服或担惊受怕的经历。

2016年，研究机构IZA的一份报告表明，青少年使用社交媒体1小时后，他们的幸福感与自尊心都会下滑，甚至会出现自我伤害、抑郁等行为。

2011年，美国儿科学会根据一项研究，向家长发出警告称，青少年群体中出现了“Facebook抑郁症”的现象……

多年之后，将Facebook更名后的Meta似乎依然没有对青少年用户的心理健康给予足够的重视。因此，这一次，来自数十个州的总检察官们希望以诉讼的方式来“警醒”Meta。

05

世界另一端：

欧盟监管法律作为“他山之石”？

回溯过往，亚马逊、谷歌、YouTube、微软、Meta以及TikTok等科技公司，在过去几年间皆因未能遵守儿童在线保护的法律而在欧盟遭受过诉讼，本次诉讼或许可被视为欧盟监管的溢出影响。

今年8月25日起，欧盟《数字服务法案》（Digital Services Act，DSA，后文称《法案》）已正式生效。欧盟委员会主席冯德莱恩（Ursula von der Leyen）在X上表示，“我们将欧洲价值观带入了数字世界。我们的法案旨在保护我们的儿童、社会和民主”。同日，按照法案的要求，欧盟指定了19个超大型在线平台（VLOP），它们必须在法案生效后四个月内遵守数字服务法案的要求。这些平台中既有Google、Meta等搜索引擎和社交媒体，也有Booking等购物、旅游网站。任何违反法案规定的公司都将面临高达其全球营业额6%的罚款，而屡犯者甚至可能会被完全禁止在欧洲开展业务。

欧盟《数字服务法案》。

图片来源：Aurora

此番新出台的《法案》是一组建立于欧盟原有的《欧盟电子商务指令》（e-Commerce Directive）基础上的法案，它不直接监管出现在网络平台上的言论，而是重点监管平台自身的角色。根据该法案，任何网络平台都有义务采取措施，防止和删除包含非法商品、服务或内容的帖子，确保欧洲各地法律承认的基本权利受到保护。出于提高透明度和加强问责的需要，《法案》还要求各平台以更清晰的言论向用户解释其就内容所做的审查，同时平台亦有责任为用户提供举报此类内容的途径和提供上诉方式。该法案还规定：任何网络平台都不得再推广基于个人性取向、宗教、种族或政治信仰的定向广告，也不得向儿童投放定向广告。平台还必须披露每个广告的购买者和其他详细信息。针对超大型在线平台，法案特别规定：这些平台必须评估其运营对儿童心理的产生的负面影响，其后重新设计其内容推荐系统并向欧盟委员会报告。

在《法案》生效之前，与其类似的另一法案《通用数据保护条例》（General Data Protection Regulation，GDPR，后文称《条例》）早已于2017年开始实施，这是欧盟首次试图将“布鲁塞尔效应”扩展到互联网监管领域。这一说法由哥伦比亚大学法学院教授阿努·布拉德福德（Anu Bradford）于2012年首次提出。她指出，由于欧盟成员国众多，其构成的单一市场庞大，欧盟立法比单一欧洲国家立法更能在博弈中占据优势。欧盟在无需诉诸国际机构或寻求欧盟外国家合作的情况下，仅凭自身市场力量就足以将欧盟标准转换为全球标准。而这一效应已在反垄断、污染排放等多个领域产生了显著效果。《条例》在以欧盟单一市场为后盾迫使大型科技公司妥协之余，也为全球个人信息保护提供了一个新标杆，许多国家的立法正是参照该条例而定。

欧盟《通用数据保护条例》。

图片来源：Ackcent

那么在信息保护层面，儿童的年龄为何事关重要？《条例》第6条详细列明在六种情况之下，机构及企业应当有权处理用户的个人数据，当中包括得到当事人的同意；履行与当事人的合约或为这合约作准备；依从法律责任；保护当事人或另一人的重要利益，而当事人无能力给予同意；执行为公众利益而进行的工作或行使赋予数据控制者的正式权力；及为合法利益为目的。不过，在最后一种情况中，条例又特别申明，儿童的权利会得到特别的保护，当其权利被侵害，机构不能用合法利益为申辩理由；《条例》第8条又进一步限制关于儿童数据的处理，任何16岁以下的儿童（或部分欧盟成员国定为13岁，这也是最低门槛），其同意必须由负有父母责任的人士给予或授权。换言之，在欧盟内，儿童在下载并使用社交媒体平台时，其同意应是由其父母给予的，而13岁以下的儿童，更加是不可能使用社交媒体平台提供的网络服务。

时至今日，欧盟委员会已与包括Meta在内的五个平台合作进行了多次“压力测试”，确认其是否有能力满足《法案》的要求，并评估这些平台是否能够“检测、解决和减轻虚假信息等系统性风险”。而路透社援引非营利组织Eko的研究报告指出，在测试期间，Meta仍在批准包含有害内容的在线广告。据路透社报道，欧盟委员会（European Commission）刚于11月10日颁布最新指令，规定Meta公司和另一社交媒体公司Snap应在12月1日前提供更多关于自身网络平台如何保护儿童免受非法侵害的内容。而就在前一日，委员会才刚向Alphabet公司旗下的YouTube以及Tiktok下令，要求提供更多的类似信息。无独有偶，该委员会上个月还向 Meta、X 和 TikTok 等公司发出紧急命令，要求这些公司提供详细说明，举证其为打击恐怖主义、暴力内容和仇恨言论相关的内容在其平台上的传播而采取了有效措施；如果委员会对答复不满意，可以对这些公司展开调查。因为根据《法案》的规定，主流社交媒体平台必须采取更多措施来删除非法与有害的在线内容，否则将面临高达其全球营业额 6% 的罚款。

因此，《法案》作为政府对互联网科技公司管控的最新尝试，对互联网公司造成的负担更重，对互联网公司的盈利模式冲击也更大，“布鲁塞尔效应”会否继续有效，有待进一步观察。

据CNN报道，各大科技巨头公司为应对《法案》纷纷公布了其最新举措——Tiktok发言人摩根·埃文斯（Morgan Evans）表示，他们引入了一款可以提示非法内容的全新程序，并表示将在欧盟用户的内容被删除时向其提供具体解释。此外，该公司也将停止收集欧盟各成员国的青少年互联网使用行为数据信息；Meta全球事务总裁尼克·克莱格（Nick Clegg）称该公司“一直支持《法案》的愿景目标，愿共同在欧洲建立一个将伤害降至最低的监管制度”；微软首席数字安全官考特尼·乔治亚（Courtney Gregoire）详细介绍了该公司如何加强其Bing搜索引擎的安全措施以遵守该法律；苹果公司在一份声明中表示，《法案》的目标“与苹果公司保护消费者免受非法和有害内容侵害的目标一致”；谷歌发言人表示，“我们与《法案》有着共同的目标，即让互联网更加安全、透明和负责任，同时确保欧洲用户、创作者和企业继续享受网络带来的好处”……

Tiktok为遵守《法案》而对应用进行更新。

图片来源：Tiktok Newsroom

Meta针对《法案》生效一事作出相关声明。

图片来源：Meta Newsroom

微软公开其最新措施以遵循《法案》相关规定。

图片来源：Microsoft Blogs

苹果公司发布《法案》跟进专页。

图片来源：Apple

谷歌公司宣布遵守《法案》相关规定并调整其运营方式和工作流程。

图片来源：Google

06

新古典主义的尽头？

美国跨党派共识与230条款存废之争

我们再次将视角拉回到美国。CNBC援引一位律师的采访称，本次针对Meta的诉讼“只是全行业调查的一部分”，“可能成为‘整个行业和解谈判的工具’。而随着时间的推移，此次诉讼可能会促使每家科技公司‘表现良好’”。无独有偶，就在去年，一个由多州检察长组成的跨党派调查小组曾表示，他们正就类似的儿童健康问题对TikTok进行调查，研究这款时兴的短视频平台是否会对年轻用户的健康产生负面影响，从而违反了部分州的消费者保护法。

从TikTok到Meta，坐拥庞大社交媒体平台的互联网巨头公司几乎与信息安全、内容审查和数据收集等议题“相伴相生”，增强对其监管似乎已是美国政界当下少见的两党共识。但对于具体监管措施及施政范围，两党仍缺乏基本共识——民主党议员们对于围绕科技巨头的行业垄断与言论自由问题抱持着警惕的态度；而另一边厢，共和党派则非常不满社交媒体平台上充斥的“自由派倾向”，指责硅谷的互联网公司存在政治立场偏见，在言论审查方面持有双重标准，对保守派的网络言论限流、删除甚至封号。

美国两党间的分歧并不鲜见，对于采取何种措施监管互联网公司也各执一词。但是，两党一致认同应对1996年生效的《通信规范法》（Communication Decency Act）第230条规定（47 U.S.C. § 230）进行修订——该条规定：互联网服务商不必为其用户的行为和内容负责。这一条款成为了互联网兴盛发展的基石，国际民权组织“电子前线基金会”（Electronic Frontier Foundation）将其称为“保护网上言论最重要的法律”。

美国国会议员针对230条款发表演讲。

图片来源：Economist

230条款立法的背景是网络刚兴起的1996年，当时最新潮的应用是网络论坛。这些论坛会基于各种理由（例如反霸凌、反歧视）而去改动、删除使用者的发文，而这样的改动当时会被使用者提告要求赔偿。为了鼓励论坛平台经营者去维护良好的言论环境，230条款首先规定了平台不需要为使用者的言论负责；更重要的是，平台可以改动、下架其合理认为不适当的言论（即便这些言论是受宪法保障的言论）且不用面对民事诉讼。230条款让搜寻引擎以及社交媒体平台可以毫无后顾之忧地调整、下架使用者的内容，而不用面对任何诉讼。

就在今年初，美国最高法院开庭审理了“冈萨雷斯诉谷歌案”（Gonzalez v. Google LLC, 598 U.S. 617, 2023）。诉讼的核心争议之一就落脚在：社交媒体是否需要为其算法推荐非法内容而担责？这也触及到了230条款的核心——审理此案的下级法院依据230条款为谷歌提供了免责保护。而美国最高法院在5月发布的一份未签名意见书中表示，针对互联网平台对用户发布内容不必承担责任的“法律盾牌”（即230条款），最高法院暂时不会做出改变。这一决定暂时保留了广泛的免责条款，使得Meta、Google等互联网科技公司不必为用户在其社交媒体平台上发表的言论承担责任。不过，许多国会议员仍然呼吁对这一免责条款进行改革，此次针对Meta的诉讼也正是此次案件的“余震”之一。

美国最高法院庭审内部现场速写。

图片来源：SCOTUSblog

问题在于，这一判决难掩针对该条款日渐升温的存废争议。即便最终能够修订230条款，互联网科技公司改动其社交媒体平台内容的行为可能不再免责，但任何对社交媒体的管制，也都可能会触及美国宪法中历史悠久的言论自由条款。

美国法学教授埃里克·戈德曼（Eric Goldman）认为，“由于没有就230条款提供任何意见，最高法院为所有原告留下了空间，可以继续在下级法院推动他们反对230条款的论点。最高法院最终将不得不解决这个问题”。在目前此类案件暂无明确进展和最新法官判决的情况下，相关学者们从言论自由的法理中整理出三种看法：第一种是认为科技公司已经取得了接近政府的地位，所以他们管制言论的行为必须要受到宪法的制约；第二种是认为科技公司本身调整、管制使用者言论的行为是一种受保护的言论，类似于报纸编辑对于意见评论拥有改动、编辑的言论自由；第三种是将科技公司视为电视、广播平台的提供者，他们比起报纸或是普通市民需要受到更多的政府管制而且这些管制不会违反他们的言论自由权。

无论如何，美国互联网科技行业都已走到了监管变革的十字路口——除了230条款的可能修订，互联网巨头们还面临着来自两党共同推动的反垄断调查和诉讼，正如本次针对Meta的多州联合诉讼一样。可以预见的是，美国社交媒体平台的“狂野西部时代”接近尾声。

钛媒体在一篇报道中分析称，过去25年时间的美国互联网行业自由发展黄金时代已经结束，主导美国经济和互联网监管的新古典自由主义（Neoliberalism）已经走到了尽头。过去几十年时间，无论两党谁上台执政，他们的经济政策大体抱有近似的理念：放松监管，鼓励竞争，推动全球化，让市场自己进行调节，让企业得到最大自由空间。尽管2008年的金融危机让美国政府在金融领域重新加强了监管，但在互联网经济方面却始终保持着放手发展的立场。放松企业的政治捐款限制更是让经济权力加快影响到政治领域。

互联网经济的崛起是新古典自由主义的成功象征，而230免责条款更是新古典自由主义意识形态的一部分。美国政府主持资助研究互联网技术，之后开放这一领域，刺激私人资本涌入进行商业开发，鼓励技术创新和创业机遇，造就新的经济产业和就业机会。雅虎、谷歌、亚马逊等诸多互联网巨头都诞生于这一技术热潮之中，他们几乎主导了全球所有的国家市场。

互联网巨头的社会影响力令人无法忽视，他们控制着每个网络用户的数据，决定着他们所能看到的资讯，潜移默化影响着政治舆论。社交媒体在保护言论自由的旗帜下，长期无视放任平台上的极端、反智、仇恨内容，更是间接刺激了民族主义和民粹主义在美国政治舞台的抬头。

一个明显的趋势是，2016年美国大选正是美国互联网行业监管环境的一个分水岭。正是那次大选暴露出来的诸多问题，让社会开始关注社交媒体平台在政治舆论形成方面的影响力，尤其是虚假信息和仇恨内容以及对青少年的不良影响给整个美国社会带来的巨大破坏力；特朗普与保守派对Meta、X、谷歌、亚马逊等互联网巨头的敌视态度，更是科技巨头反垄断监管大潮的直接推动力。

无论明年大选结果如何，如今以特朗普所代表的共和党右翼保守民族主义和以拜登为代表的民主党中左翼改良主义都已与新古典自由主义渐行渐远。两党联手控制互联网科技公司“无序发展”的“戏码”，今后或许会越来越多。

参考文献

[1] https://www.forbes.com/sites/brianbushard/2023/10/24/meta-sued-by-33-states-over-substantial-dangers-for-kids-on-instagram-and-facebook/?sh=1237020a177f

[2] http://www.modernweekly.com/hots/40293

[3] https://www.theguardian.com/technology/2023/oct/24/instagram-lawsuit-meta-sued-teen-mental-health-us

[4] https://www.pewresearch.org/internet/2022/08/10/teens-social-media-and-technology-2022/

[5] https://www.forbes.com/sites/tylerroush/2023/03/28/arkansas-sues-tiktok-and-meta-for-allegedly-deceiving-users/?sh=6255786823c2

[6] https://www.reuters.com/technology/big-tech-braces-roll-out-eus-digital-services-act-2023-08-24/

[7] https://www.mirrormedia.mg/story/20231030inf004

[8] https://www.lse.ac.uk/media-and-communications/assets/documents/research/eu-kids-online/reports/EU-Kids-Online-2020-10Feb2020.pdf

[9] https://www.change.org/p/tiktok-france-tiktok-prot%C3%A9gez-les-enfants-de-la-pornographie-et-cyber-p%C3%A9docriminalit%C3%A9

[10] https://m.thepaper.cn/newsDetail_forward_22061908

[11] https://www.tmtpost.com/4822457.html

[12] https://theinitium.com/zh-Hans/article/20210811-international-tiktok-troubles-in-europe

[13] https://theinitium.com/zh-Hans/article/20210303-international-gdpr-3-years-in

[14] https://theinitium.com/zh-Hans/article/20230403-opinion-tiktok-us-congressional-hearing-challenges

[15] https://theinitium.com/zh-Hans/article/20210921-wsj-facebook-knows-instagram-is-toxic-for-teen-girls

[16] https://zh.ag.ny.gov/press-release/2023/attorney-general-james-and-multistate-coalition-sue-meta-harming-youth

[17] https://ccfc.salsalabs.org/noinstagramforkids/index.html

[18] https://fairplayforkids.org/apr_15_2021_scrap_instagram_forkids/

[19] https://www.nytimes.com/2023/10/24/technology/states-lawsuit-children-instagram-facebook.html

[20] https://techpolicy.press/state-attorneys-general-sue-meta-over-harms-to-children-and-teens/

[21] https://www.latimes.com/opinion/story/2023-10-26/editorial-social-media-can-harm-kids-now-states-are-suing-to-force-meta-other-companies-to-make-platforms-safer

[22] https://techpolicy.press/evaluating-the-argument-over-the-california-age-appropriate-design-code-act/

[23] https://isp.page/news/zh/%E7%AB%8B%E6%B3%95%E8%80%85%E6%8E%A8%E5%8A%A8%E5%8A%A0%E5%BC%BA%E4%BF%9D%E6%8A%A4%E5%84%BF%E7%AB%A5%E5%9C%A8%E7%BA%BF%E6%95%B0%E6%8D%AE%E7%9A%84%E6%B3%95%E5%BE%8B/#gsc.tab=0

[24] https://transparency.fb.com/reports/community-standards-enforcement/child-nudity-and-sexual-exploitation/facebook/

[25] https://www.reuters.com/technology/meta-snap-must-detail-child-protection-measures-by-dec-1-eu-says-2023-11-10/

[26] https://www.technologycoalition.org/newsroom/announcing-lantern

[27] https://about.fb.com/news/2023/11/lantern-program-protecting-children-online/

[28] https://www.torhoermanlaw.com/social-media-mental-health-lawsuit/instagram-mental-health-lawsuit/#:~:text=You%20may%20qualify%20for%20an,problems%20related%20to%20Instagram%20use.

[29] https://edition.cnn.com/2023/08/25/tech/eu-launches-big-tech-regulations/index.html

[30] https://www.nytimes.com/2022/09/15/business/newsom-california-children-online-safety.html

[31] https://www.nytimes.com/2023/04/30/business/aclu-free-speech-online.html?action=click&module=RelatedLinks&pgtype=Article

[32] https://www.nytimes.com/2023/10/12/technology/red-states-montana-tiktok-ban.html

[33] https://www.nytimes.com/2023/09/19/technology/britain-online-safety-law.html

[34] https://www.nytimes.com/2023/10/24/technology/states-lawsuit-children-instagram-facebook.html

[35] https://www.cnbc.com/2023/11/07/meta-failed-to-act-to-protect-teens-second-whistleblower-testifies.html

[36] https://edition.cnn.com/2023/08/25/tech/eu-launches-big-tech-regulations/index.html

[37] “No More FOMO: Limiting Social Media Decreases Loneliness and Depression,” Melissa G. Hunt, Rachel Marx, Courtney Lipson, and Jordyn Young. Journal of Social and Clinical Psychology, Vol.10, 2018, pp.751-768. https://doi.org/10.1521/jscp.2018.37.10.751.

[38] https://www.hsph.harvard.edu/news/features/how-social-medias-toxic-content-sends-teens-into-a-dangerous-spiral/

[39] https://www.nytimes.com/2022/08/30/business/california-children-online-safety.html

[40] https://www.nytimes.com/2020/01/21/business/britain-children-privacy-protection-kids-online.html

[41] https://www.nytimes.com/2023/10/11/nyregion/tiktok-instagram-algorithm-children.html?smtyp=cur&smid=tw-nytimes

[42] https://m.thepaper.cn/newsDetail_forward_25441168

[43] https://www.nytimes.com/2023/04/30/business/louisiana-kids-age-porn-law.html

[44] https://www.nytimes.com/2023/10/12/technology/tech-children-kids-laws.html?action=click&module=RelatedLinks&pgtype=Article

往期精选

本文版权归“中美友好互信合作计划”所有，如需转载请与本公众号联系并注明出处。

欢迎关注公众号！

微信编辑：那一佳

如有投稿，请直接发至[e-mail]或[e-mail]。一经录用将有稿费奉上。

“中美友好互信合作计划”是由复旦发展研究院和丰实集团共同打造的中美关系研究的学术平台，该平台通过课题研究和精英讲坛的联动运作方式，力求以最快的速度、最高的学术权威分析中美关系的热点问题。