NETFLIX 纪录片《社交困境》

Netflix 2020年出品的纪录片《社交困境》（The Social Dilemma），它邀请了众多的曾在大型社交软件公司工作的专业人员，以纪录片形式分析了社交软件令人难以自拔的原因与担心。

在人工智能高速发展、企业以广告盈利为商业模式的情况下，社交媒体不可避免的使人成瘾性。我们已从信息时代过渡到了虚假信息时代。

社交软件为世界带来了一些很有意义的、系统性的变革，但我们过度看轻了它的负面后果。这些负面的后果不是任何人刻意而为之，但当科学家被问及问题在哪里时，大多数科学家显得十分纠结，难以给出单一、简明的答案。

     我们知道，有趣社交媒体能紧紧抓住我们的注意力，让我们获得即时的快感。我们感觉，好的社交媒体有着巧妙的设计，让我们用起来舒适流畅。这一切都是深谙人类心理的设计师、开发者的杰作，但在算法的强大作用下，将我们对它的好奇，推向它对我们的操纵。

这些开发者、设计师并没有打算去伤害这些社交平台极其背后的设计者与企业，只是在告诉我们手中的手机与软件有着多么大可能潜在风险。我们或许深陷其中尚未察觉，或许这源于这样的一种不那么合理的商业模式，以及人类的本性。

不是我们太弱了，是它们太强了。

2

If you are not paying for the product, then you are the product. It’s the gradual, slight, imperceptible change in your own behavior and perception, that is the product.

如果你没有花钱买产品，那你就是被卖的产品。产品其实是我们行为和认知的逐渐的、一点一点的、未察觉到的变化。

社交软件提供给我们一个交流的平台。很多时候，我们使用着这个平台，却不直接付钱给这个平台。而在这其中，广告商为我们使用的产品付钱，从这个角度上说，广告商是顾客，我们是被销售的商品。

每种商业一直梦想的是，是投放一个广告就能有一定成功的保证。

They sold certainty. You have to have great predictions. You need a lot of data.

他们卖的是确定性。为了在这个生意中成功，你必须要有优秀的预判能力，而这始于一个必要条件——很多的数据。

很多人有这样的一种误解，认为被卖掉的是我们的数据，但实际上，Facebook等软件的商业兴趣，肯定不是放掉这些数据，那么他们用这些数据来做什么呢？

他们做出预判我们行为的模型，拥有最优秀模型的公司，便可在市场竞争中取得胜利。

很多人把它称作监视资本主义（Surveillance Capitalism），资本主义利用大型的技术公司，对每个人去的任何地方进行无限追踪和获利。也就是说，我们在网上做的一切，都被监控着、追踪着、评估着，我们所做出的每一个行为，都被小心翼翼地监控着、记录着，甚至，具体到我们在哪一张图片看了多久。

我们在网上点击的任何一个地方，看过的视频图片、点赞过的内容，都会被返回用以建造一个越来越精确的模型。一旦有了这个模型，便可以预判这个人将会做怎么样的事情。

甚至，它能改变你做的事情，你的思维模式，以及你是什么样的人。

3

很多技术公司拥有三个主要目标：

1. 参与度目标：增加你的使用，让你一直滑动屏幕

2. 增长目标：让你不断回来，并且尽可能多地邀请朋友加入，如此循环

3. 广告目标：确保一切按预期发展，以尽量多地从广告上挣钱

每一个目标都由算法驱动，其作用是找出要给你展示什么，让数据上涨。

每一项目标的调控都能够十分精确，它能够让用户增加，广告增加，盈利增加。

我们创造了一个世界，这个世界中，在线联系变成了主体，尤其是年轻一代。然而在这个世界，在每次两个人联系中，唯一能提供经济支持的是一个鬼祟的第三方。有人给这个第三方钱，去操纵这两个人。因此，我们创造了全球的一整代人，在他们成长的背景中，交流的意义、文化的意义，在于操纵。

我们所做的每一件事的中心，都加入了欺骗和鬼祟。

4

Any sufficiently advanced technology is indistinguishable from magic. --Arthur C. Clarke

任何足够先进的技术，都极其类似于魔术。

魔术师几乎像是最早的神经学家和心理学家，他们懂得利用我们思想中我们自己都没有意识到某一部分来产生幻觉。我们的思想是脆弱的，因为这是一个我们完全不会用到的学科领域，而这个学科领域却对全体人类都适用。

用心理学的术语来说，这叫“正积极强化”——你不知道什么时候能刷到，或者你是否能刷到什么，正像赌场里的老虎机。不仅如此，仅仅有意识地使用产品，这还远远不是社交软件的目的，他们想做的，是深度侵入我们大脑的根部，在脑中植入一个无意识的习惯，使得我们在更深层次被编程，并且我们都难以意识到。这是设计好的手段，是让我们越来越愿意去参与进去的很大一部分原因。

  此外，对话框中浮动的省略号，或者是“对方真正输入中”的提示语，目的在于让用户知道对方正在输入中，不要让用户下线，这一点上很能阻止用户的离开。

有一个学科叫做“增长量黑客学”，在这个领域，无数工程师团队额工作在于黑入人们的心理，让他们有更多的增长量，他们能得到更多的用户、更高的参与度、邀请更多的人。企业会推出一些小实验，不断在用户身上测试，并且随着时间的发展，能发展出让用户做他们想做的用户做的事情的最佳方式。

像极了实验室的小白鼠，但与小白鼠实验又不同的是，这些实验的最终受益人并不是我们，我们就像僵尸一样，看着广告商给我们发放的更多广告，让他们赚更多的钱。

Facebook曾做过一个海量规模蔓延实验，结果发现他们可以影响现实世界中的行为和情感，而根本不触发我们的意识，也就是我们完全不知道。他们在利用人类心理中的脆弱那方面获利。

5

There are only two industries that call their customers ‘users’: illegal drugs and software. -- Edward Tufte只有两个行业把他们的顾客称作用户，非法毒品和软件。

社交媒体就是一种毒品。我们有着基本的生物学欲望去和别人联系，这直接影响着奖赏通路中的多巴胺释放。这个机制背后，是几百万年的进化让我们聚在一起群居生活、找到伴侣、繁殖后代。因此，毫无疑问，社交媒体这载体会优化人们之间的联系，自然有致瘾的可能。甚至，连设计者自身，也无法避免掉入自己设计的陷阱中。

社交媒体不仅在控制我们的注意力花在那里，尤其是当他们越来越深入大脑根部，夺走我们的判断力、自我价值与身份。

 我们进化出在意我们社群中其他人是否对我们有好印象的机制，因为这很重要。

但我们的进化，需要我们在意一万个人怎么看我们吗？

我们的进化，不需要每隔5分钟就获得一次社交认可，这根本是不需要我们去体验的。

或许我们是这样的一代人，我们从初中时代开始使用手机，整个一代人更加焦虑、更加脆弱，更加抑郁，更不愿意冒险。社交媒体在训练、调节整个一整代人。在我们不自在、孤独、不确定或害怕时，有一个自己的数码安慰，这有点让我们自己处理这些情绪的能力退化了。

我们已经走过了以工具为基础的技术环境，来到了一个以致瘾和操纵为基础的技术环境。社交媒体，不是原地等在那里被使用的工具，它有自己的目标，有自己的办法去实现这些目标，利用你的心理，来对付你。

如果一个东西是工具，它就会忠诚地坐在那里，耐心等待。

如果一个东西不是工具，它就会在你的身上有所求，引诱你、操纵你、想从你身上获利。

6

有这样一种说法：我们要去适应它，我们要去学着与这些设备共存，就像我们学着与其他所有事物共存一样。

但这个说法没有注意到的是，有些东西明显是全新的。它是由技术驱动的、呈指数型地向前发展，近几十年来的计算机处理能力增加了万亿倍，而我们的人类的大脑，也许在这段期间内根本没有丝毫的进化。

人们忽略的是，人工智能现在已经在运营着当今世界了。

算法是内嵌在代码中的观点。算法不是客观的，它被某种成功的定义优化。它能够自己不断优化进步，在正确命令获取正确的推送数据，让人们在这个产品上花越来越多的时间。虽然它是人写的，但它有着自己的思想。它是一个能够学着自己改变的机器，因此设计者甚至不需要完全懂得它的原理，就可以让它自主运行。

作为人类，我们似乎几乎已经失去了对这些系统的控制，因为实际上是它们在控制我们看到的信息，更多的是它们在控制我们。

设想，当我们在用社交软件，我们的对手是人工智能，它可以知道你的一切，能够预测你未来的举动，而你对它却一无所知，谁会赢得这场比赛？这根本不是公平的竞争。

当你在谷歌上，输入：“气候变化是……”，根据你所居住的地区不同，会出现不同的结果。

即使是两个有着相同社交圈的朋友，他们看见的世界也会是不同的，因为这些都基于算法的计算，它会告诉你，怎么样才是完美的。

7

—楚门为什么到现在都从来没有接近发现他所在世界的真实本质？

—那是因为我们接受了呈现在我们面前的世界就是现实，就这么简单。

这是27亿人的“楚门的世界”。

随着时间的推移，你会有一种错觉，觉得每一个人都认同你，因为给你推送的新闻中，每个人似乎都和你极其地相似。就像被魔术师操纵一样：当他提示你任意选择一张牌的时候，其实你早已步入他们设计的陷阱中了。于是，你选的那张牌，就恰恰好是他想让你选的。

  我们都不过是在基于不同的一系列事实行事，当这样的情况大范围发生时，我们就再也无法考虑甚至是去消化与你所创造的世界观相悖的信息了。而这就意味着，我们其实不是客观的、有建设性的个体。

  人们认为算法的设计，是给他们真正想要的，但其实不然，算法其实是在试图找到几个非常强大的兔子洞，当你开始观看其中的一个视频，它就会不停地继续推荐。不是人在做这样的一件事情，而是算法。

而这一行为将人类行为的基础平面倾斜了，也就是让一些行为更难，让一些行为更容易。我们也许能够爬上一个倾斜的山坡，但这样的人越来越少。企业创造了一个偏心于虚假消息的体系，在这个体系中，虚假信息比真实信息更有趣，因此允许未受监管的信息传送给更多的人，更能赚到钱。

在这样一个体系中，我们置身其中，却又有海量真假难辨的信息，这也是为什么当下讨论这个议题如此重要。

  社交媒体放大了增长迅速的谣言和增长迅速的道听途说，以至于不管是什么问题，我们都不知道，什么是真的了。

  甚至，我们的技术产业的人创造了动摇和侵蚀社会结构的工具，所有国家、世界各地都在同时发生。

8

人们谈论人工智能，好像人工智能知道真理一样。但实际上，人工智能无法解决这些问题，人工智能无法解决虚假新闻的问题。企业其实也并不知道真相是什么，它们没有真相的代理服务器，在这里只有点击。

而如果我们不同意真相或者不同意存在真相，那么我们就完蛋了。

因为如果我们不能认同真相，那么我们就无法找到我们任何一个问题的解决方法。

硅谷的很多人相信这样一种理论：我们正在建造一些全球的超级大脑，我们所有的用户都只是可交互的神经元，他们一点都不重要。它让人们服从于这样一个奇怪的角色，你就像是一个小的编程元素，我们通过我们的行为操纵去编程，以服务于整个巨型大脑，你根本不重要——既不会给你钱，也不会告诉你真相，甚至没有自主权。我们会鬼祟地操纵你，因为你是编程中的节点，所以我们需要将你编程，因为我们就要这样对待编程中的节点。

  技术并不是人类存亡的威胁，而是技术有能把社会中最坏的东西带出来的能力。社会中最坏的东西，才是人类存亡的威胁。

 我们可能因为故意无知毁掉我们的文明，我们或许会无法应对气候变化的挑战，我们或许会瓦解世界的民主，最终衰落成一种奇怪的独裁机能障碍，我们或许会毁掉全球经济，我们或许会无法存活，这是生死存亡的问题。

 如果我们不知道自己在矩阵中，我们要怎么从矩阵中醒来？

9

Whether it is to be utopia or oblivion will be a touch-and-go relay race right up to the final moment...--Buckminster Fuller不论是乌托邦还是毁灭，都是一场一触即发的接力赛，直接通往最后一刻。

很多的话听起来像是片面悲观，事实上不是这样的，因为这同时是乌托邦和毁灭。

  当“点赞”按钮被制作出来的时候，它的全部动机是“我们可以在世界中传播积极和爱吗？”而当时间快进到当下，青少年会因为没有得到足够多的点赞而抑郁，或者是导致政治的两极分化，这在当时是无法想象的。

  我们面对的现状是：在数码隐私上，我们几乎没有立法，或者是立法落后。我们可以接受公司专注于赚钱，这是合情合理的，但不合情理的地方在于，当没有监管、没有规定、没有竞争的时候，公司在充当实际的政府部门，然后他们说：“我们可以监管自己”，这是荒谬的。

我们对这些削弱了人类世界很多方面的东西应该进行法律制裁。这不是激进的提议，我们有法律制裁的其他市场，我们制裁人类器官贩卖市场，我们制裁人类奴隶市场，因为它们都有不可避免的破坏性后果。

  我们生活的世界，死去的树比活着的树更有经济价值，死去的鲸比活着的鲸更有价值，只要我们的经济这样运转，公司不受监管，它们就会继续破坏树木，继续捕杀鲸，在地球上挖矿，从地下抽石油，虽然我们知道，这样做会破坏地球；更知道这样做会为未来的几代人留下一个更不堪的世界，这是目光短浅，为了利益牺牲一切的信仰。

指望每个只顾自己私利的公司会突然神奇地产生最好的结果，这已经影响我们的生活环境很久了。

恐怖的是，我们希望这是压倒骆驼的最后一根稻草，让我们作为文明的种族，去幡然醒悟，这个理论本身最初就有很多缺点。

我们应该看到，我们现在就是树，就是鲸，我们的关注就是被挖掘的财产。如果我们花时间盯着一个屏幕，盯着一个广告，对公司而言，比我们用这个时间过自己丰富的生活更加有利可图。

我们也看到了这样的后果，我们看到公司利用强大的人工智能凌驾在我们的智能之上，研究者怎么样拉拢我们的关注，让我们去看他们想让我们看的东西，而不是与我们的目标、价值观、与生活最为一致的东西。

10

人道技术的创想，是硅谷最初的目标，我们已经背离了这个目标，因为这样做比较酷，而不是这样做比较正确。

现在的问题是，我们愿不愿意去承认这些后果，是我们杰作的直接产物。这些东西是我们建立起来的，我们有责任去改变它们。

  提取关注模型，不是我们想对待人类的方式，一个健康的结构，要依靠我们摆脱这样一种有破坏性的商业模型。我们可以要求这些产品进行人道设计，可以要求不被当做可以提取的资源对待，我们的动机可以是：我们怎样让这个世界变得更好？是批判者驱动着改进，批判者才是真的乐观主义者。

       在网络世界，我们的每一个行为都被小心翼翼地监控着、记录着，具体到我们的注意力停留在哪一张图片上，甚至包括看了多久。他们所掌握的我们的信息，超越人类历史上所有的想象。通过这些我们不经意间不断流露出的数据，他们可以越来越准确地预判出我们是怎样的人，我们要做什么；他们用收集到的我们的数据制作出预判我们行为的模型。

     同时它里面也讲到：所有的网络巨头/社交媒体都在激烈地争夺我们的注意力——attention is the new currency（注意力是网络时代新的货币）。被网络世界深深改变的这一代人特别是青少年们如何平衡线上与线下日常生活，会是我们每一个人都要面临的难题。

    这部时长一个半小时的纪录片非常值得一看，推荐给大家。

猜您喜欢(点击下方标题即可观看)：