点赞、正在输入……社交网络的致瘾性设计如何操纵我们的生活？
△《监控资本主义：智能陷阱》剧照
监控资本主义：成瘾与注意力经济
去年底，东京六本木森美术馆的《未来与艺术展》展出了一件名为“心情的建筑”（an Architecture Moods）的艺术项目。这一深受“欲望机器”（desiring machine）和“无器官身体”（body without organ）这两个概念启发而创建的项目，构想了一个测量、分析居民深层心理和生理数据，并将这种深层欲望作为设计元素的理想建筑构建方式。简而言之，这一“未来”建筑设计理念从获取、分析居民的生物数据开始，将所得结果参数化，通过数学原理设计之后，在一套自动化系统下，由机器人使用生物水泥（bio-cement）建造出来。设计者不忘强调，在这一过程中，仅有少量的建筑师和工程师参与进来，主要依靠的将是机器人及人工智能学习（AI-learning）等技术。
在一系列反思技术与社会变革的展品中，“心情的建筑”的设计师显然旨在利用技术积极的一面，制造出更加“人性化”的居住环境。然而，Netflix本月推出的纪录片《监控资本主义：智能陷阱》则向我们揭示，利用人类自身生物数据的构建方式早已渗透于我们日常生活的点滴，但在这些看似“人性化”、“私人定制”的表象背后，隐藏着一套操控手段。
《监控资本主义：智能陷阱》请来了前脸书（Facebook）业务拓展总监、“点赞”按钮（like button）设计师、图钉网（Pinterest）前总裁、谷歌（Google）前设计伦理学家以及推特（Twitter）工程副总裁等一众互联网科技公司大咖，向观众拆解利用网络科技构建的一系列“致瘾性”设计，包括：内容推荐、点赞、“正在输入……（typing...）”等操作。而在这一系列设计背后，其目的只有一个，便是以此延长受众参与度（engagement）、扩大用户增长（growth）、提升收益（revenue），从而建立并完善一套“监控资本主义”的商业模式。
片中，前谷歌设计伦理学家特里斯坦·哈里斯（Tristan Harris）指出，社交网站的使用者担心自己的数据会被科技公司作为商品出售，以获取利益，但实际上这是一种误解，像脸书（Facebook）等科技公司的商业兴趣肯定不是放掉这些数据：“他们（通过这些数据）做出预判我们行为的模式，拥有最优秀模型的公司就赢了。”
他还以自行车为例，对比了工具与我们正经历和使用的网络技术环境。他认为，当自行车被发明出来的时候，没有人认为这将对人有损害，人们在需要的时候就去使用它，很少有家长说“我要让我的小孩远离它”；但互联网则不同，不少家长都对孩子对网络的依赖和沉迷感到担忧。哈里斯解释，因为我们已经走过了以工具为基础的技术环境，来到了以致瘾和操纵为基础打的技术环境：“如果一个东西不是工具，它会在你身上有所求。”
Netflix的这部纪录片，以虚实相生的方式——邀请科学家、医学家、社会学家讲述理论，同时模拟家庭场景并拟人化地展示数据、算法的运作，试图以此揭示监控资本主义的操作模式：大型技术公司追踪、监控、评估使用者在社交网站上的每一个操作，利用这些数据，判断使用者的神经类型、性格等特征，从而在使用者所浏览的页面上投放“个人化”、“量身定制”的“精彩内容”，在最有效的时间和位置投放广告等，进行商业操作，让人们在不知不觉间成为商业资本主义的猎物。
杰夫·希伯特（Jeff Seibert）直言：“它们所利用的是根植于人类本性中的东西。”脸书前主席西恩·帕克（Sean Parker）也认为，这是在利用人类心理中的脆弱挣钱。这种被称之为“注意力经济”的模式“直接影响着奖赏通路中的多巴胺释放”，斯坦福大学医学院的Anna Lembke博士指出，也就是说监控资本主义利用着我们每个互联网使用者共有的、基本生物学因素。例如“点赞”按钮，抓住人们渴望被认同的欲望，让使用者对此产生依赖，并获知使用者的喜好等一系列数据。
片中有一句发人深省的话：如果你没有为产品付钱，那么，你就是产品。
换句话说，影片认为使用者自认为在享受虚拟世界的免费产品，却不知自己正被贩卖。乔纳森·克拉里（Jonathan Crary）也在《知觉的悬置》（Suspensions of Perception: Attention, Spectacle, and Modern Culture）中提到，注意力实际上并不是一个简单的凝视和视觉问题，它包含一系列术语和立场。当使用者的注意力在无意识之间，被互联网上的操作所吸引，“我们创造了一个世界，在这个世界中，在线联系变成了主体。”而此时，“文化的意义就是操控。”影片还警示，在这一技术环境中民主也可被完全出售，“你可以控制任何你想控制的思想。”
不过，这部纪录片仅仅提出了技术对人类行为、文化、政治等方面的负面影响，并没有做更加深入的讨论。片尾也仅仅提出，这些大咖们自己设计种种互联网交互技术，但极为反对自己的小孩使用手机和社交网站。至于对抗成瘾的解决方法，他们也只是给出诸如“关掉提醒（notification）”、“不要点击推荐内容”、“关注与自己意见不同的人”等等。由此，以上种种问题，似乎都被归结在了技术的负面性上，但真的只是这么简单吗？
“二十一世纪的浮士德契约”
在这部纪录片中，观众或许被互联网大咖们深谙行业运作后进行的反思与警示所吸引、感到震惊，其中有一位受访者同样值得关注，这便是肖莎娜·祖博夫（Shoshana Zuboff）——《监控资本主义时代》（The Age of Surveillance Capitalism）的作者。在这部七百多页的著作中，她详述了监控资本主义产生的社会条件、运作方式……而她也在书中指明，写作这部书的目的并非仅仅针对科技公司及其技术带来的危机，而是旨在描绘一种新的逻辑及其运作方式。
我们在影片中看到的几间互联网大咖，来自谷歌、脸书、推特、图钉等，不只是因为这几家公司是现今最具规模和影响力的国际互联网公司；根据肖莎娜的研究，监控资本主义有其自身的发展史，而谷歌是当中的先驱，它发明并完善了监控资本主义，就如一个世纪前通用汽车发明并完善了管理资本主义（managerial capitalism）。随后，这一模式在脸书和微软得以发展，亚马逊（Amazon）改变了其发展方向，而在苹果公司监控资本主义成为了争论的焦点。如今，监控资本主义已经不再局限于大型互联网公司间的相互竞争，它的机制已经成为大多数互联网公司的默认模型，并从线上机制扩展到线下，越来越多的领域也参与进来。
她同时指出，尽管俗语说“如果产品是免费的，那么您就是产品”，以此理解监控资本主义也并不准确。监控资本主义的产品、服务本身不是价值交换的对象，生产者—消费者间的互惠关系其实没有被建立起来。技术只是“钩子（hooks）”，将用户吸引到监控资本主义的操作之中。在这些操作中，使用者的个人经验被收集、整合从而达到“隐藏其后”的操纵者的目的。使用者——作为一种技术日益先进且越发不可避免的原材料（包括行为数据等）提取对象，并非是产品，而是监控资本主义至关重要的利润源泉，它的实际客户是那些在这一市场中进行交易，以换取人类期货的企业。
而将人类经验的各个方面视作原材料，不断提取，最终呈现行为数据，这项工作正是在“个性化”、“私人定制”旗帜下展开的，肖莎娜认为，所谓“个性化”实际上就是对深度行为数据挖掘工作的掩饰。然而，随着竞争越发激烈，监控资本主义发现，仅仅提取和使用人类经验是不够的，它进一步发展成了干预人类经验，将人类的行为与经验进行修改、塑造，成为有利于商业成果及利润的样式。随着监控资本主义从虚拟世界转到现实世界，整个社会本身也成为了提取和控制的对象；当工具社会被想象为机器学习的人类模拟，工具权力旨在组织、引导和调整社会，以实现所谓的社会融合，在这种融合中，群体压力和计算确定性（computational certainty）取代了政治与民主。
她将监控资本主义称作“二十一世纪的浮士德契约”。互联网充满商机，一定程度上令我们的生活更加快捷、有效，但这也与其对生活的入侵相互矛盾。享受便利与抵抗入侵的矛盾冲突令使用者最终产生了精神上的麻木——我们接受并习惯于被追踪、被解析、被挖掘和被修改，甚至在沮丧与无助中选择视而不见。人被配置于监控资本主义所建构的网络之中，我们以为在自由地做出选择，但实际上早已被这一知识与权利失衡的模式强加了种种不合理的选择。甚至，如Netflix片中所指出的，所谓的世界，经由互联网，在不同网民眼中可以大不相同。然而，我们对此不仅别无选择而且几乎束手无策。肖莎娜整本书的问题意识所在，便是提出：如果说，工业资本主义危害了自然，那么，监控资本主义会对人性造成怎样的破坏？她由“栖身之所”（home）的概念切入，指出人类及许多动物都渴望一个栖身之处，但数字技术与监控资本主义能够成为人类的栖身之所吗？
由此可见，影片将负面责任归于“看得见的”技术，颇有避重就轻之嫌。肖莎娜根据社会学家马克思·韦伯的观察，指出经济目的才是技术开发及其部署所固有的：“经济行动”决定目标，而技术只是经济的“适当手段”。监控资本主义采用了许多技术与平台，但其本身并不等同于这些技术、平台和算法。因此，不该忘记的是，技术不过是利益的体现，而隐藏其后的正是那“看不见的手”，那些控制数字环境并引导我们未来发展方向的资本力量。
生命政治：从“医药资本主义”到“监控资本主义”
影片后半段也以美国为例，指出在社交网站的影响下“个人和政治分化达到二十年来最高”，并提醒观众：在监控资本主义的操纵下，民主可以被“完全合法化”的方式被操控。片中也插播了记者追问脸书创立者扎克伯格（Mark Zuckerberg），是否承认脸书影响了2016年美国大选的片段。纵观整部纪录片，仍然没有超出科技的负面作用对生活、文化以至政治的影响这一基本思路，用影片介绍中的话说，即是“呈现网络科技已逐渐演变成操弄我们与社会的巨兽。”但是，人类在技术发展之下，被纳入其构建的技术和社会网络，从而在不知不觉中被权力操纵已不是什么新鲜事，并非直到互联网、人工智能世代才有。
福柯在《性史》第一卷中，就提出了对“生命权利”和对生命政治（biopolitics）的关注。在福柯的意义上，生命政治就是要以最少的经济、政治成本，获得最大化的治理效果，这种方式遵循着效率最大化的功利主义逻辑。更具体地讲，生命政治是一种调节和管理生命的积极权利，在微观层面保障个体生命安全、劳动力充足，宏观层面看则是一种促进和优化社会与人口再生产的机制。因此，“人口不再仅仅是表明统治者力量的标志，而且是国家和统治者力量的源泉。”
福柯当时提出这一观察的背景，正是医学与生命科学发展之际。在《临床医学的诞生》（1973）中，福柯分析了疾病和医学如何在个体的身体上占据一席之地。而到了二十一世纪，遗传筛查、基因工程、器官移植、精神药物等等，关于“生命”的种种技术可谓无孔不入地管理和规训着人类的身体。尼古拉斯·罗斯（Nicholas Rose）在《生命本身的政治》中进一步指出，医学管辖范围的扩张——慢性病控制、生殖管理、风险评估、健康改善、营养品销售、高端精密医疗仪器等等，使个体日常生活的方方面面都被“权威意见”、治疗技术和风险管控手段所介入。这些以“治疗风险”为名针对个体的医药实践，以及对身体变化进行预防性的长期介入，已经成为二十一世纪生命政治最为重要的方面。
△《生命本身的政治》
[英]尼古拉斯·罗斯 著，译者: 尹晶
如此看来，为了有效地治理、巩固国家的综合实力与地位，个体早已被“配置”在医疗技术所构建的“医药资本主义”网络之中，而收集人类行为数据（behavioral data）并修改人类行为的人工智能技术，不过是从另一方面将人类同时嵌入“监控资本主义”当中，它亦是将治理规模与经济、政治成本的降低都推到更加极致的地步。
值得玩味的是，拍出并上映这部纪录片的Netflix公司，也是一个依赖互联网公民、使用算法推荐“可能感兴趣”内容等功能的线上影视平台，它同样扮演着利用人工智能网络科技将用户“钩入”庞大的监控资本主义之中的角色。那么，这部“点到为止”的纪录片，是否在令人震惊、被大赞“良心之作”的同时，也赚取了一份“注意力经济”？
本文转自新京报书评周刊 作者：胡雅雯
本文编辑：刘颖
-阅读推荐-
那位发布抗癌视频的虎子走了，“对不起”刷屏能安慰谁？| 周末谈