"2023年9月，短视频网红“凉山曲布”被捕。人们惊讶地发现，自己关注已久的贫困少年，实则生活富裕，是传媒公司找的演员。
互联网时代，民众的“创造力”从线下延伸至线上，在网络世界的某些暗角，有人在新闻事件中搅浑舆论，有人通过不当摆拍制造“伪公益”牟利，有人冒充受害者以偷取流量。在这些各怀鬼胎的人身后，一场充满算计，与人性相周旋、守护善意的猫鼠游戏，也逐渐展开。
干净的笑容
“曲布这个人，到底是不是真实存在的？”“你们是不是在演戏？”在对接群中，谢千一再追问“凉山曲布”账号的运营者。对方强硬地否认，说曲布就是大凉山的人，家里也确实很贫穷。曲布的亮相始于一条以“游客视角”拍摄的视频。2022年8月19日，一个ID叫赵灵儿的用户发布第一条抖音，称自己来大凉山游玩时偶遇彝族青年曲布，让他帮忙开矿泉水瓶盖。曲布邀请她到自家坐坐，抓来一只公鸡要招待她。席间，曲布在镜头前讲述自己8岁丧父的故事：父亲离世后，他和母亲在家养育三个妹妹。母亲积劳成疾，曲布为了分担农活，一直没外出打工，成了家里的顶梁柱，生活十分困难，也一直没谈女友。镜头中，曲布牵着一头深棕色的耕牛，从山的低处往上走。清晰的下颌线，挺拔的鼻梁。额前几缕碎发剪得很高，露出乌黑的眼眸。背景的群山正沐浴着晨间金阳，碧蓝的天空下，男孩突然看向镜头，露出两颗虎牙。“贫困的家境”、“干净的笑容”、“淳朴的品性”，这条几分钟的视频，瞬间击中了屏幕前数百万观众的内心。在连续发布四条关于曲布的视频后，账号“赵灵儿”粉丝量飙升至110万。此后半年，赵灵儿常发布自己去探望曲布的视频，看他用镰刀砍庄稼，给他买礼物，改善他的居住环境，最后给曲布开账号，教他直播卖当地蜂蜜等土特产。两人的故事走红了。建议他们在一起的呼声，和流量一起，在半年内持续高涨。
时间又过了半年左右，2023年9月20日，四川凉山州在新闻发布会上宣布，以“凉山曲布”“赵灵儿”为代表的四川首例“系列网红直播带货案”被侦破。人们惊讶地发现，“凉山曲布”“赵灵儿”两人并非贫困少年和外地游客，而是四川某传媒公司在大凉山找的两个演员。
“曲布”的真实身份是凉山州当地教师，在以“大凉山原生态帅哥”的形象出现前，自拍中的他皮肤白嫩，留着精致的锡纸烫卷发，戴着项链，穿着时尚。在视频中自称单身、与曲布频频擦出火花的赵灵儿，则是已婚已育的个体商户。视频中的两人都非“本色”。他们通过设计剧本、话术，挑选当地无人居住的泥土房进行拍摄，打造贫困人设，打着助农旗号生产销售假冒大凉山特色农产品，涉案金额超千万元。最终，“凉山曲布”和“赵灵儿”等人被判处有期徒刑8至10个月不等。
“凉山曲布”的“翻车”并非孤例。实际上，在此次案件侦破前，已有平台针对此类伪公益进行了集中治理。2023年5月，抖音就更新了其《公益内容治理规范》，对利用公益进行不当营销、传播不实信息的“伪公益”行为进行打击。
在“凉山曲布”账号刚火起来的2022年8月，谢千就对接上账号幕后的运营者小虞。作为三农领域的运营，短时间内粉丝快速增长的用户，谢千都会去建立联系。彼时，曲布和赵灵儿还未通过直播变现，也无人举报其造假行为。但“偶遇蹭饭”的剧情，谢千已在平台看过不止一次。她直觉认为曲布与赵灵儿的故事，涉及不当摆拍，有令人生疑的成分。
然而，由于小虞一口咬定拍摄内容为真，谢千没有实质性证据，没法为其定下涉嫌诈骗的名头。她只能告诫小虞，以后不要再拍这类内容，看起来很假。此外，她还有别的担忧：“你这样导向性很不好。比如一个陌生男人到女生家蹭饭，你在视频里演绎的都是很好，没有危险，如果真的有人看到这个视频，真的有人去学习，造成一些危害行为后怎么办？”谢千知道，不当摆拍的危害性不只在于虚构本身，还在于其对现实的曲解。不当摆拍的内容，服务于流量，迎合着人心，却通常会放大生活中不存在的戏剧性、忽略原本存在的风险，更有甚者，会挪用人们的善意，从中牟取私利。其实，参与抖音不实信息治理项目工作的一年里，这不是谢千见过的第一起案例。一个叫韩文的博主，曾被其团队前成员爆料造假过程。韩文拍过一个视频：一位大凉山当地老爷爷在地里摘苹果，摔倒后躺在地上哭。在获得各方关注后，韩文开始在老爷爷家直播卖苹果。他从上午8点开始播到次日凌晨4点，用完了4个充电宝的电，卖掉三四万箱苹果，销售额达100多万元——这些苹果，与老爷爷毫无关系，而是来自韩文合作的供应商。这场直播，韩文收入佣金近40万元。
为了塑造悲惨人设，韩文曾在大凉山用手掐一个小女孩，只为让她在镜头前痛哭，在视频里给小女孩发的报名读书的钱，后被证实在拍完后全部收回。
“伪公益”类不实信息披着行善的外衣作恶，会对公众信任造成严重伤害。5月，在此类骗局揭露的浪潮中，一位经常在“助农直播间”购物的网友感受到信念的崩塌：“当我知道其实我买的‘助农产品’并不是真正的本地特产，我花出去的钱也没有到农民手里后，我非常失望……难道每一次行善都要小心谨慎？”
“再也不会相信这些悲惨的故事了”“到底还有什么可以相信的？”在事实发布的视频下，曾抱有善心的人们，倾诉着与此类似的感受。几年前抖音不实信息治理项目启动以来，“伪公益”类信息一直是项目组同事们日常巡查的重点。2023年5月，在各方关注下，专门针对“虚假卖惨”进行整治的《公益内容治理规范》在抖音更新。规范规定，账号如在抖音平台发起慈善募捐，主体需持有相关资质并认证。而公益类账号，除筹款功能外，不得进行直播打赏、电商购物等营利性行为。禁止公益类账号变现的规范发布后，曾一度引起质疑。“变现是一个中性词。公益主播也需要收入，不然怎么支撑公益事业？”在规范发布的评论区，有人提出问题。事实上，这个问题也曾是平台项目组讨论的焦点。“我们今天讨论的，是怎么把这些用户的善心最大程度地保护起来。”在一个征求外部意见的讨论会上，一位专家的发言获得了多数人的赞同。会议室里除了项目组成员，还聚集着十几位专家，包括律师、学者、慈善机构人员等。“尽管有些行为不一定构成犯罪，但是它利用大家的善良，破坏公益的生态，中间还有明显的毛利。”一位参会成员对平台的严格管理提出认同，认为平台应该担负这样的责任，为分辨能力不强的用户提供好的体验，为真公益的发展创造好的环境。这次对“伪公益”的严厉打击，成效颇丰。抖音官方账号《抖音黑板报》发文称，2023年4月至5月，抖音已下架相关视频1131个，对3518个账号进行了无限期封禁等处置，并抹除其不当获取的新增粉丝，取消其变现功能权限。在抖音发布新规后2个月，2023年7月，凉山公安在“系列网红直播带货案”中抓获犯罪嫌疑人54人，其中涉案网红主播11人，捣毁涉嫌虚假宣传的MCN公司5个，查封涉案公司14家。警方还发现了生产假蜂蜜的基地：里面堆放着制假原料20余吨、制假设备3套、假冒成品4700多瓶。然而，直到真相败露，人们仍要为曲布那个干净的笑容辩护。“赵灵儿的确让人怀疑，但是曲布，他那害羞的笑容、腼腆的表情、清纯的气质，一看就让人心生怜惜。怎么可能是假的？”在2023年9月宣布网红“赵灵儿”“凉山曲布”被当地公安逮捕的视频下，这条留言仍有很多人点赞。“无论如何，我是相信曲布的。”“他一定是被人利用了。”人们如此评论道。不实信息的制作者们，好似天然有着把控人心、游走于灰暗地带的能力。为了守护人们的善心，在公安还未介入、难以掌握实际证据的“混沌阶段”，平台与不实信息制作者们展开周旋，进入一场场充满算计的猫鼠游戏。和“凉山曲布”证据确定前的情况类似，2023年5月，抖音参与治理伪公益的工作人员李茜发现，许多博主发布了自己在大凉山伐木、背木头，做重体力活的视频：他们有着同样黝黑的面庞，脸上的泥土痕迹有些刻意，以同样的姿态佝偻着身体，背着将脊背压弯的木材，向观众展现着生活的重压。这类视频没有情节，难以让人一眼识别出真伪，却以极其相似的面貌集中在同一段时间内出现，有不当摆拍之嫌。如何确定这些内容并非投稿者的真实生活？验证真伪，是治理不实信息流程中的困难点。不实信息治理的流程，大致分为发现、研判、验真、辟谣和治理几步。在发现阶段，针对知识类不实信息，辟如养生食补、健康科普类信息，项目组会应用已建立的谣言点内容词库，与用户发布的内容进行匹配，也会根据用户举报收集可疑信息，进行研判。在研判和验真阶段，会参考有权威背书的媒体和当地政府信息，甚至与当事人建联进行查证。在治理阶段，对不实信息进行召回或拦截，对账号进行处理，如涉及犯罪行为，则将信息提供给公安机关。在辟谣阶段，项目组会推动联系权威媒体、专家等发布辟谣信息，并进行推广。这是一套覆盖信息生产与传播全流程的治理步骤，完整且可循环。李茜对“背木头”的视频进行验真。调查后，她发现有人注册了两个账号，在同一段时间内，一个分享富裕的日常生活，一个发布背木头的视频。进一步调查，有些博主的直播间收入与其展示的生活并不对等，由此确定，投稿者发布的贫困生活内容，有欺诈的性质。巡视到可疑信息后，李茜会进行研判，再联动平台各个小组核查真伪，包括与当事人建联沟通。在与领域内博主日常对接的过程中，谢千也曾偶然发现隐藏在账号背后，一位博主差异巨大的真实生活图景。在粉丝们的眼中，“凉山孟阳”的处境令人同情：作为家中长女，她穷得上不起学，辍学照顾弟妹，每天砍柴、背木头、吃土豆。加了她的个人微信后，谢千才发现，孟阳在山下有一栋新房，自拍中的她开着名车。“晚上回到豪宅，白天去大凉山摆拍。”孟阳毫不避讳发布的炫富朋友圈，和她的抖音视频形成鲜明对比。在与信息造假者们周旋的过程中，谢千逐渐洞察出细微的人性。有人马上主动下架了视频，给自己改了名，去掉昵称前冠的“凉山”两字。这是心虚。有人要向平台讨说法：“我拍的内容都是真实的，凭什么封禁我？”他们相信只要没有确凿证据，平台终究还是会把他们放出来，因此一口咬定。这是虚张声势的强硬。为杜绝打着“公益助农”旗帜售卖毫不相关的商品，平台曾要求运营者们提供贫困相关证明或助农资质。在工作一段时间后，谢千发现，“证书”也并不能完全为人背书。“凉山曲布”的团队在一开始就提交了证书。当地政府曾给他颁布一个类似爱心公益大使的证书，表彰其帮助售卖当地核桃。然而，事后公安机关查证发现，曲布确实卖了一些当地核桃，却只占少部分，更多核桃都是从外地供应商处购买，混杂其中，高价出售。没有收集到核心证据时，这样涉嫌不当摆拍、导向性存在风险的内容处于灰色地带，谢千没法替账号背后的人们做决定，也没法强制处理。她耗费许多时间与“凉山曲布”的运营者小虞周旋，尝试引导其停止不当摆拍。最终，小虞仍然没有听从谢千的建议。此前，他们公司曾做过许多类似账号，一直不温不火，只做出来曲布这一个现象级网红。2022年夏末的一场直播中，同时有6万人在线，观看赵灵儿和曲布在大凉山煎鱼。一条和赵灵儿小臂一般长的鱼，被放进院子里的一口铁锅，冒出滋滋的声响。比人高半个头的砖瓦墙后，金阳照耀大山，树叶翠绿，鸟鸣啁啾。评论区有人提示灵儿，鱼该翻面了。她马上操作好，又对着镜头说，“做得非常成功，还好听你们的话。哥哥姐姐们太聪明了。我们笨得要死，所以才混得这么差。”盛鱼到盘里时，曲布又露出招牌的笑容，温柔地嘱咐：“小心别烫到，还是我来吧。”
“大家把赞点到1000万！”赵灵儿的声音逐渐亢奋起来。
简陋的泥土房上，飘起源源不断的气球与红心。点赞很快冲上千万。评论区里感动的言语不断冒出：“灵儿，你是曲布的贵人，是曲布的指路明灯，引导他向上……让善良、孝顺、淳朴继续保持，谢谢你的大爱。”布满鲜花和爱心的字句写得动情，仿佛浸着良善之人的泪水。躲在“凉山曲布”账号之后的运营者小虞，就在这里尝到了甜头。2023年2月23日，安徽阜阳一女子被前夫家暴的视频在互联网上引发关注。视频以监控录像的形式出现。画面中，一位男子一边叫骂、一边在家中对女子拳打脚踢。当晚，发布视频的女子又在平台直播，称自己被前夫家暴，已经报警。惨厉的家暴情景迅速勾起人们的愤怒与同情，“报警”的说辞，又为视频增添了更多可信力。人们呼吁严惩男子，将事件推向舆论高点。自媒体与媒体账号，也迅速转发消息进行跟进。然而，仅在两天后的2月25日，警方公布的完整视频就揭露了其中骗局：在男子殴打女子之前一个小时，两人已经多次进行预演。拍完后，两人有说有笑，一起看电视。“自媒体号注册人谭某为博取同情、吸引流量，与前夫摆拍视频并在直播时谎称报警”，真相发布后，人们才知道，自己的感情又错付给了摆拍与谎言。事实上，早在5月专门打击“伪公益”类不实信息的《公益内容治理规范》发布2个月前，针对“不当摆拍”类信息进行整治的规范就已经在平台内更新。“伪公益”只是其中一个细分类型。2023年以来，随着三年管控的放开及人口流动，少数造假者的“创造力”与“创作热情”再度被激发。线下的造假举动，也不时蔓延至线上。然而，此次事件中工作人员们发现，在一些无法及时核实真假的事件中，用户传播信息的速度之快，超乎想象。在事实发布前，舆论就会爆发出强大的力量——平台必须更先一步介入，及时对用户发出警示。2023年3月，抖音发布《关于更新“剧情演绎”类视频创作规范的公告》。根据规范，“演绎类视频”在发布之前，创作者需要对作品进行标注：“该作品为演绎作品，仅供娱乐”“该作品题材取自网络，请谨慎辨别”“该作品为日常生活，勿过分解读”。在发布后，如平台发现作品真实性存在疑问，也会向创作者发私信，提示其作品疑似存在“演绎与不当摆拍”，让创作者进行打标。这样，在事实水落石出之前，针对社会热点类存疑信息，抖音会第一时间打上标记，提醒用户内容存疑。在媒体报道发布之后，他们会再次对相关内容设置跳转链接，引导用户观看媒体发布的事实内容。然而，不实信息的形式总在不断升级。一个规范的发布，并不能一蹴而就地解决所有问题。例如，在AIGC等新技术的助力下，成员们发现真假之间的界限越发模糊。2023年4月，一条“中电科员工清明节无偿加班怒怼领导”的消息传遍了四处。话题引发热议，人们纷纷开始质疑中电科用工问题。在调查后，项目组成员发现，这条消息是由AIGC生成的文本，并非由真人创作，首发者在微信群里发出，再被人搬运到抖音上。最终，成员们将相关视频下架，放大了政府、涉及公司与媒体发布辟谣消息的声量。社会热点类不实信息，通常以半真半假的形式出现，难以识别，更难以辟谣。2022年疫情期间，“葱姜煮水，能治新冠”的消息，就在平台广为流传。彼时，项目组成员邀请健康类媒体发布了针对性科普，又找李兰娟院士发布了科普内容。2023年支原体肺炎期间，已经被辟谣过的这条信息又卷土重来。
辟谣之后，人们仍然不信，这是项目组成员自项目成立以来的一大治理难点。战争中的阴谋，弱者被辱的故事，葱姜水能治肺炎——即便是谣言，比起真相，人们也更愿意相信，“他们觉得这件事就该是这样的。”
2023年，平台陆续推出了预警、溯源、提醒、跳转、谣言入库、拦截、打标、推送等多项能力，试图在各环节围剿花样反复的不实信息。2023年第二季度，抖音辟谣官号发布“高考虚假卖惨营销”“外卖小哥爬山送外卖系摆拍”等37条热点辟谣内容，视频播放量0.45亿；抖音媒体辟谣团投稿量196条，视频播放量1.45亿；“谣零零”计划话题下视频投稿量477条，视频播放量1.03亿。
直至今天，如何应对新闻类信息仍是项目组内部争论不休的难题：在还在演进的新闻事件中，在官方通报与媒体报道发布之前，怎么应对尚未得到验证的信息？平台该用多大的力度去管控它们？不实信息的标准，仍在不断修订与讨论之中。
在“三句话，让男人为我花了18万”之后，2023年，项目组成员又观测到新流行起来的不实信息：“我创业之后负债百万，在成都街头啃馒头”“邻居家孩子考上清华不去，去国防科大”“离婚之后，我获得了新生”——这些都需要项目组依照规则和体系化流程研判、处理。
“谣言是一个从人类会说话开始就存在的东西。”在不实信息项目组工作多年后，负责审核与治理的工作人员蒋实认清了一个现实：“我们可能永远没有办法把它彻底干掉。”在未来，旧的问题还将反复，新的问题必将出现。他们必须随时做好准备。
* 文中受访者信息有模糊处理
撰文｜罗方丹
编辑｜温丽虹