无法放下手机是意志力薄弱吗？
搜索引擎、社交媒体和自行车一样只是我们使用的工具吗？
算法和技术是中立的吗？
假新闻为什么无往而不胜？
“内卷”、“工具人”、”社畜“等已经成为流行语。今天，年轻人可能是在日常生活中最熟练援引马克思“异化”概念的一代人。我们开始有意识的“逃离系统”，有人逃离北上广，有人进驻农村过田园生活，有人断舍离，有人不定期的参加禅修营，有人户外野营...... 系统有很多种，但不论在哪里，每天醒来我们做的第一件事是不是看手机？就在手机屏幕背后的“系统”，你准备怎么逃离？Netflix 的纪录片《监视资本主义：智能陷阱》(The Social Dilemma) 中，“操纵(manipulation)”一词出现的频次多到让人毛骨悚然。此片尖锐的指出，互联网商业模式本质上将使用者作为“产品”而非“顾客”，而这种商业模式为互联网行业创造了人类历史上前所未有的利润高峰；运用劝服性技术 (Persuasive Technology)的算法，像魔术一样愚弄使用者的眼睛和大脑；商业利益驱使下虚假信息的传播速度是真实信息的6倍；而最根源的问题恐怕是，被屏幕操控的你，比过着充实的生活的你，更具有经济价值。公众号“素履之往往”记录整理了纪录片中谈到的“30个真相”。本文转载时做了再编辑，把30条分类梳理成为五个主题。并在文末补充了纪录片结尾硅谷从业者们给出的”自救宝典“。我们还准备了一个与“监视资本主义”有关的书单，欢迎你在公众号对话框回复“监视资本主义”获取。
无法放下手机是意志力薄弱吗？搜索引擎、社交媒体和自行车一样只是我们使用的工具吗？算法和技术是中立的吗？假新闻为什么无往而不胜？
影片一条叙事线由谷歌、脸书的前员工、ins 早期员工、推特高级副总工程师等一票国际互联网大厂的从业者面对镜头讲述，这里不乏社交媒体上点赞功能的设计者，甚至还有帮助脸书建立商业模式的负责人，他们出于对行业道德伦理的担心纷纷离开，现在他们重新站出来讲出他们看到的真相并发出警告。01
互联网行业商业模式的本质：
如果你没有花钱买产品，
那你就是被卖的产品
（If you are not paying for the product,
then YOU ARE THE PRODUCT.)
1. 受访者之一的特里斯坦·哈里斯是前谷歌员工，曾在谷歌邮箱团队工作。他感到非常疲惫，原因是他们一直在讨论邮箱应该长什么样，用什么颜色。他坦言自己已经对邮件非常上瘾，但有趣的是，团队里每一个人都想通过设计让用户更上瘾。大家有反思过这个现象吗？他认为谷歌有解决这个问题的道德责任，他的反思和质疑引起了谷歌内不少同事的共鸣，一时间讨论相当热烈，以为能即将展开一场“革命”。但后来，这件事在谷歌内部不了了之。2. 脸书商业化负责人说，他在脸书成立两年之时，负责帮助脸书想出如何盈利，而彼时他认为广告模式可能是最优雅的商业模式。以前硅谷的商业模式都是使用者为硬件和软件付费，但过去十几年来的新商业模式是，大量互联网产品都是免费的，但其实并不真是免费，背后是广告商在付费，广告商是这些互联网产品的顾客，而使用者其实是被销售的商品。经典的说法是，如果你没有花钱买产品，那你就是被卖的产品。顺便说一句，英文语境下，只有两个行业管用户叫“使用者（user）”，它们是毒品和互联网行业。3. 谷歌并不只是一个搜索工具，脸书并不只是一个你和朋友联系的社交工具，其实种种互联网产品，他们都是在抢夺我们的注意力。仔细想一下这些互联网公司是怎样运作的。用户免费，广告商付费，广告商为什么付费？他要花钱交换你看广告，我们的关注就是卖给广告商的产品。更确切的说，他们的产品其实是我们行为和认知的逐渐的、不知不觉中的改变。这才是他们拿来赚钱的唯一的东西：改变你做的事，你的思维方式，改变你这个人。 算法如同魔术师一样，
欺骗我们的眼睛和大脑。
4. 魔术师几乎是最早的神经学家和心理学家，他们是最先明白人们思想工作原理的人。魔术师懂得你思想中你自己都没有意识到的某一部分，这是让幻觉起作用的关键。算法在做的事就是魔术。5. 每个企业都有个梦想：投放一个广告，就有成功的保障。这就是互联网广告平台的生意——出售确定性。为此，互联网平台必须有预判的能力，而优秀的预判能力始于获取大量的数据。6. 我们使用互联网社交产品的一切行为数据都被监控和记录，具体到你在某张图片停留多久，我们的孤独、抑郁时刻，我们爱看前任的信息，我们深夜做什么，这些我们不经意流露出的数据，都被喂养给系统，而这几乎不需要人看管，系统会不断做出越来越好的预判，判断出我们是什么样的人，我们要做什么。7. 很多人有一个误解，认为我们的数据被卖掉了，脸书的兴趣肯定不是卖掉数据，而是用数据建立一个可以预测我们行为的模型，拥有最优秀模型的公司就是最后的赢家。我们用互联网技术创造了全球一整代人，他们成长的背景中，彼此之间的交流中，文化中都渗透着系统操纵的鬼影。8. 特里斯坦·哈里斯在斯坦福大学的“劝服技术实验室”研究如何运用心理学知识劝服人们，以及如何把这个运用到互联网技术中。很多硅谷的互联网公司的人都学过这样的知识。他们想控制人的行为，让人们按照他们的意愿去做，譬如不停的用手指滑动屏幕浏览信息。例如，往下拉，最上面是更新的内容，再往下拉，上面又是新的，每次都一样，这在心理学上被称作“积极正强化”。你不知道什么时候能刷到，或者你能刷到什么。这其实和赌场里老虎机的原理一样。9. 无数工程师他们的工作就像黑客一样黑进人们的心里，然后获得更多产品数据的增长。他们的 KPI 是活跃（Engagement），增长（Growth），和广告收入。他们会做大量的 A/B 测试和小实验，然后根据结果不断优化就可以让用户做他们想让用户做的事，这就是“操纵”。很多时候他们诉诸的是人的潜意识，你被影响时甚至根本没有意识到，因为这是在利用人类心理中最脆弱的部分挣钱。10. 我们都在担心这个时刻，技术什么时候超越人类的智慧和力量。但有更早的时刻，技术超越人类的弱点时，这个超越点就是上瘾。(技术对人性弱点的利用造成了）两极分化、激进化、激化愤怒，激化虚荣，它在压制人类的天性，挫伤人性。 03
算法与你的这场战役
谁会赢？
11. 自行车问世的时候，没有人不满，没有人会说它毁灭了我们的社会。我们从没说过自行车拉远了父母和孩子之间的距离，毁灭了我们的民主，让我们无法分别消息的真假。如果一个东西是工具，它就会忠诚的坐在那里，耐心等待。如果一个东西它对你有所求，它想引诱你，操纵你，从你身上获利，它就不是工具那么简单了。12. 我们已经走过了以工具为基础的技术环境，来到了以致瘾和操纵为基础的技术环境。社交媒体不是在原地等待被使用的工具，它有自己的目标，有自己的方法去实现这些目标。利用你的心理来对付你，13. 社交媒体就是一种毒品，我们有着基本的生物学的欲望比如和别人保持联系，这直接影响着奖赏通路中多巴胺的释放，这背后是几百万年的进化，我们需要群居找到伴侣繁殖。毫无疑问，社交媒体会优化这种联系，自然会有致瘾的可能性。片中男孩平均每周花6小时13分在 Instragram 上14. 这些技术产品不是由努力保护儿童的心理专家设计的，他们的设计是让算法非常善于给你推荐下一个视频，非常善于让你拍照加滤镜。这些东西不仅在控制我们注意力放在哪里，而且越来越深入到大脑的根部，夺走孩子的注意力和自我价值感。我们进化出了在意社群中的其他人评价的机制，这很重要。但是，我们需要在意一万个人怎么看我们吗？我们需要每隔5分钟获得一次社交认可吗？ 15. 我们在训练、调节整个一代人，当他不自在、不确定、孤独、害怕时，就去找自己的数码安慰，这让一代人管理自己情绪的能力退化了。美国的青少年群体中，2011-2013年出现了大幅增长的抑郁和焦虑，每10万名少女割腕或者自残的数量出现直线上升。青春期间（15-19岁）的少女上升了62%，进入青春期前（10-14岁）的少女上升了189%，上涨了将近3倍。这一时间拐点正好和社交媒体的兴起吻合。
16. 有一种说法是，我们应该去适应它。就像我们适应前几代技术变革一样，我们要学着与这些设备共存，但这个说法忽略的是，我们面对的，是前所未有的由技术驱动的成指数级速度向前发展的智能。计算机处理能力，从上世纪60年代至今，增长了亿万倍，我们身边没有任何东西以这个速率增长。然而我们的大脑已经存在几百万年，大脑根本没有丝毫进化。后来出现了这样一块屏幕，屏幕的另一端是工程师和超级计算机，有着与你不同的目标，那么这个游戏谁会赢呢？
17. 算法是内嵌在代码中的观点，算法并不是客观中立的，算法被某种成功的定义优化。你给 AI 一个目标，我想要这样一个结果，AI 自己去学习怎样实现，这是机器学习概念的由来。没人真正明白，为了实现这个目标，他们在做什么。18. 算法有自己的思想，虽然它们是由人写的。它被写出来的目的，是建立一个机器，这个机器会自己改变。作为人类，我们几乎已经失去对这些系统的控制，因为是它们在控制我们看到的信息。19. 想象一下，在社交媒体上，你的对手是人工智能，它知道你的一切，能预测你未来的举动，而你对它一无所知，这根本不是公平的竞争。算法的目的是利润，而我们的目的是让我们自己的人生更充实、更有意义。我们会赢吗？算法不在乎真相，也无法分辨真相。
那么，你在乎真相吗？
20. 如果我们打开一个维基百科页面，你看到的信息和别人的是一样的，这是网络上少有的我们统一共享的东西。想象一下，如果维基百科说，我们要给每个人一个个性化的定义，有人给我们钱让我们这么做，维基百科会监视你，会计算要怎么做才能代表一些商业利益，这让你发生一点改变，符合客户商业利益的改变。这会改变整个词条。你能想象吗？脸书、谷歌是这样，你的 YouTube 推送也是这样。
21. 看了这个片子我才知道，原来在不同地方用谷歌搜索，我们得到的是不同的结果。譬如，我们在搜索框输入“气候变化是...”，在某些城市你会看到自动填充的提示语是“气候变化是一场骗局”，在其它地方你将会看到“气候变化是对自然的破坏”。这个功能提供的不都是气候变化的真相，而取决于你在哪里搜索，以及谷歌对你个人兴趣的了解（譬如如果你是个比较容易被阴谋论内容吸引的人它就会给你推送“气候变化是一场骗局”的内容）。即使是两个很相似的朋友，看到的也是完全不同的内容，因为算法会按照怎样对一个人来说最完美来呈现内容。逐渐你会有一个错觉，所有人都赞同你，因为给你推送的新闻中，每个人都和你极其相似，一但达到这种状态，你就容易被操控了，和被魔术师操纵是同样的方式。22. 油管前算法推荐工程师坦承，他研究的一个算法增加了社会的两极分化。但从在线时间上看，两级分化的做法却极其有效的让人们一直在线观看。23. 著名篮球运动员凯里·欧文说他相信地球是平的，后来公开道歉时说，这是油管算法的锅。“地球是平的”这一言论被算法推荐了几亿次，我们很容易判断出大概只有几个笨蛋真的相信。但可怕的是，算法每天都在变得更聪明，今天它能说服少部分人相信地球是平的，明天它就能说服你相信一个完全虚假的事情。24. 推特上传播假新闻的速度比真新闻快6倍。当一个人比另一个人有6倍的优势，这个世界会如何？你可以想象，有些事情让人类的基本面倾斜了。让一些行为更难，一些行为更容易。25. 我们创造了一个偏爱假信息的系统，并不是因为我们想这么做，而是假消息能让这些公司更容易赚到钱，你知道的，真实信息比较无聊。这是一个利用虚假信息牟利的商业模式，允许未受监管的信息推送给更多的人，卖出更好的价钱，以此来赚钱。26. 脸书每天推送万亿个新闻资讯，他们无法知道哪些信息是真的哪些是假的。从未有工具像脸书一样能够如此低成本又高效地影响如此广泛的人群。算法和政治家在学习如何激发我们的方面变得越来越专业，非常擅长制造我们容易接受的假新闻让我们信以为真。我们似乎对自己是怎样的人，自己的信仰越来越缺少控制权。27. 很多人相信一种理论，我们正在建造一些全球的超级大脑，我们所有的使用者只是可交互的神经元。你就像一个小的编程节点，服务于这个巨型大脑，它不会给你钱，不会让你看到真相，你没有自主权，你根本不重要。05
算法之外，控制我们的是当今
经济社会对利润的宗教信仰般的追求
28. 我们生活的世界里，死去的树比活着的树更有经济价值，死去的鲸比活着的鲸更有价值。人类一再的破坏生态环境，就是因为我们对不惜一切代价获取利润的宗教信仰般的追求。恐怖的是，你我现在就是树，就是鲸。因为我们花时间盯着屏幕，比我们用这个时间过自己丰富的生活，更加有经济价值，所以比我们聪明许多倍的人工智能拉拢我们的关注，让我们看他们想让我们看的东西，而不是让我们看与我们自己的目标、价值观和生活最为一致的东西。 29. 技术并不是人类存亡的威胁，只是技术能够把人类社会中最坏的东西带出来，这是人类存亡的威胁。如果你不知道自己身处《黑客帝国》中的 Matrix 中，你如何从矩阵 Matrix 醒来。30. 在整个人类历史中，每一次有事物变得更好，都是因为有人站出来说，“这太蠢了，我们可以做得更好”。这是批判者推动改进，批判者才是真正的乐观主义者。这个市场需要法律的制裁。这不是激进的提议。我们制裁人类器官贩卖市场，我们制裁人类奴隶市场，因为他们都有不可避免的破坏性后果。影片中，特里斯坦·哈里斯走进美国参议院关于“劝服性技术”的听证会。影片的最后，“劝服性技术”的反抗者们提出了我们普通人日常行动的建议：关闭手机中的各种【通知】，尤其是那些无法提供及时或重要信息的通知。
使用不会储存搜索历史的搜索引擎，或者在浏览器安装移除【推荐】的插件。（片中推荐的搜索引擎：Qwant，以及谷歌浏览器可安装移除搜索历史的插件）
永远自己选择，不要接受视频网站为你推荐的视频。
分享任何信息之前，先搜索和查找事实，思考信息来源。
确保你从不同的信息源获得信息，例如去关注你不认同的人，这样才能看到不一样的观点和信息。
卸载过度侵占你时间的社交媒体、新闻程序。
每晚固定时间将所有设备移出卧室。
禁止孩子在上高中以前使用社交媒体。
和孩子沟通“每天能在手机上花的时间预算”，孩子往往能答复你一个合理的安排。
影片中说，要想改变这一切，需要一个奇迹发生，而这个奇迹，就是集体意愿。更多的人意识到问题的严重性，发出声音。看完片之后如果意犹未尽，我们还准备了一个与“监视资本主义”有关的书单，欢迎你在公众号对话框回复“监视资本主义”获取。*文中图片截图自纪录片《监视资本主义：智能陷阱》(The Social Dilemma)