| 译按
在过去的30年里，德国艺术家兼理论家黑特·史德耶尔（生于1966年）通过录像、装置和电影项目，一直在追踪图像的变异方式——从模拟图像及其蒙太奇的多种可能性到分裂的数字图像的流动性——以及这些变异对战争、种族灭绝和资本流动的再现所产生的影响。本文译自蓬皮杜艺术中心和杜塞尔多夫的北莱茵威斯特法伦艺术博物馆（Kunstsammlung Nordrhein-Westfalen）2020年为黑特·史德耶尔策划的大型回顾展的同期出版物《黑特·史德耶尔：我会活下去》（Hito Steyerl: I Will Survive）。在近500页的篇幅里，这本书审视了黑特·史德耶尔过去十年的多媒体装置和电影项目，以及他早期的作品，所有这些都一以贯之地聚焦于其对图像政治的不懈追问。本文《图像的自主性，抑或我们一直知道图像可以杀人，但现在他们的手指放在了扳机上》（The Autonomy of Images, or We Always Knew Images Can Kill, But Now Their Fingers are on the Triggers）是黑特和艺术家特雷弗·帕格伦2018年11月在蓬皮杜的一次对谈，意在探讨机器自动生成图像的政治性。当图像的制作和图像的解释越来越多地在没有人眼的情况下自主发生时，机器如何观看？
___________
黑特·史德耶尔（Hito Steyerl）和特雷弗·帕格伦（Trevor Paglen）蓬皮杜中心（Centre Pompidou），2018年11月10日
译 | Eco
黑特：在开始之前，我想对这次谈话稍作概括。特雷弗和我已经就图像以及它们的今日所剩做过长久讨论。所以我想我们今天要做的是将我们的一些关注点和长期研究的东西松散地交织在一起，并穿插一些幻灯片。但这将主要是我们一直在进行的讨论的继续。我想特雷弗现在将从介绍开始，概述我们今天要谈的一些主题的基础。我想我们将从介绍机器视觉和它是什么开始。感谢。
特雷弗：大家好。非常感谢你邀请我。谢谢你，黑特，也谢谢你来这里。我们首先要谈的是摄影和一般视觉文化的一些新发展。一种发生在图像世界中的转变，这种转变相当巨大，我认为它实际上比十九世纪摄影术的发明还要大，也许比透视的发明更大。
Trevor Paglen, Image Operations. Op. 10, 2018这种转变与我们现在被传感系统和成像系统所包围这一事实有关。我们在城市中安装了摄像头，对每一辆驶过的汽车的车牌进行拍摄和自动解读；我们在机场和边境安装了面部识别系统；我们在购物中心有商业成像系统，跟随人们追踪他们正在看的产品，试图解读人们脸上的情绪。他们甚至试图读取人们的嘴唇，以检测他们在说什么。我们有这样的环境，越来越多的自主摄影系统同时也在解读图像。而这也延伸到了那些可能看起来不太明显的环境。例如，如果你在脸书上放了一张照片，你知道你的一些朋友可能会喜欢它，但是，在后台，该图像正被非常强大的计算机视觉和人工智能系统仔细检查，这些系统正试图从你放在网上的照片中尽可能多地了解你。我甚至可以说，在历史上的此刻，世界上大部分的图像都是由机器为其他机器制作的，人类很少参与这些循环。Trevor Paglen, Lenna: Empress of Invisible Images, Queen of the Internet, 2017我把这称为“隐形图像的出现”（the advent of the invisible image）。这些都是戏剧性的发展，不仅在视觉文化的历史上，而且在历史本身的历史上。在过去，图像在某种程度上需要人类的观看者才能存在，而这已经改变了。图像的制作和图像的解释越来越多地在没有人眼的情况下自主发生。我想广泛提出的问题是，机器如何观看？我们一直在工作室里开发一些工具，使我们能够通过诸如自动驾驶汽车这样的事物的眼睛看到图像。Trevor Paglen, “Fanon” (Even the Dead Are Not Safe), Eigenface, 2017这是一幅通过面部识别软件看到的弗朗茨·法农（Frantz Fanon）的肖像。在更高级的层面上，我们正在训练机器如何在更终的意义上解释图像。Martha Rosler, Semiotics of the Kitchen, 1975这是玛莎·罗斯勒（Martha Rosler）著名的《厨房符号学》（Semiotics of the Kitchen）中的一张静帧照片，通过人工智能算法来判断它看到的是什么。“一个黑白的架子”，“一个穿裙子的女人”，等等。这是如何做到的？嗯，说实话，这是使用统计数据来完成的。每当你建立一个人工智能系统时，你必须做的第一件事就是创建一个你希望能够识别的所有事物的分类法。例如，如果我们想建立一个神经网络来识别玛莎厨房里的所有东西，我们必须首先创建一个厨房里所有东西的分类法。我们可能会说：一个勺子、一个叉子、一个盘子、一个香蕉、一个橙子，等等。然后，我们要做的是建立一个培训库。我们必须收集数以千计的图像，这些图像是我们希望能够识别的每个物体的例子。我们需要给神经网络提供数以千计的橙子图片、数以千计的勺子图片、数以千计的盘子图片，诸如此类。神经网络摄取了所有这些图像，并开始建立我认为是形式上的基元（formal primitives）或原始形状，以构成更复杂的图像。如果你想一想，当你学习如何画画时，你会学习如何画线、圆和椭圆，这些是基本的形状，是所有图像的组成部分。神经网络做的事情与此类似：它分析所有的图像，并将它们分解成各自的组成部分。它们比简单的水平线更复杂。这是这些“神经元”或者这些原始形状的可视化。一旦你做到了这一点，你就可以给神经网络提供一个它前所未见的图像。例如，一个勺子。它将分析这些图像并查看构成该图像的所有原始形状。根据这些原始形状的集合，它将确定它是一个勺子还是香蕉或其他什么。例如，叉子和勺子的原始形状非常相似。它可能有一些平行的线条，它可能有一些金属色。在大多数情况下，它与勺子的不同之处在于，勺子的末端会有一个椭圆，而叉子会有一种尖尖的东西，而香蕉则会有完全不同的底层原始形状。这就是为何你走到一台机器面前时它能够说出“柜台上的银壶”或“白色椅子”这样的话。 Trevor Paglen, Machine Readable Hito, 2017这是一个有趣的作品，叫做“机器可读的黑特”（Machine Readable Hito），我们拍摄了数百张你的肖像，并让他们通过一个面部分析软件进行分析。你在这里看到的是，这些分类法的创建开始变得非常政治化，非常迅速。在左边，我们有一张黑特的图像，它说你57%是女性和42%是男性。在右边，它说你有73%的悲伤，17%的厌恶，3%的愤怒，2%的中立。因此，你在这里开始看到的是一种意识形态建构在网络中。首先，如果你在这张图片中是57%的女性，谁是100%的女性？芭比娃娃是百分之百的女性吗？格雷斯·琼斯（Grace Jones）是百分之百的女性。安格拉·默克尔（Angela Merkel）是百分之百的女性吗？谁是百分之百的女性？而且，更重要的是，为什么在这样一个系统中，性别是二元的？为什么不是男性就是女性？这里涉及到某种政治，尤其是在这样一个时刻——至少在我所在的国家，美国——特朗普政府简直是在试图抹杀非二元性别者的存在。这就把我们带到了“人工智障”（Artificial Stupidity）这个话题。黑特：非常感谢，特雷弗。当然，我的想法是，人工智能是一个错误的名称。坦率地说，我们应该更多地讨论人工智障，而不是人工智能，我认为这种关系很容易描述。人工智障对于人工智能来说，就像现实存在的社会主义对于共产主义一样。它就像那种没有太多的想象力的寒酸的小兄弟，它也和很多的官僚主义和统计学打交道。我认为像你展示的这种应用，这种基本的面部识别算法或什么，是相当基本的东西。它非常简单，而像这样的东西无处不在。与其总是等待一个奇异的、超级智能的、长得和埃隆·马斯克一模一样的奇点的出现，我认为我们应该真正开始担心所有这些小的人工智障，它们基本上都是硬连接到我们所有的应用程序中的。举一个例子。任何类型的智能手机都至少有100个人工智障的地方。在犹太教卡巴拉传统中，有这样一个故事，小恶魔被认为栖息在世界上的每一块面包屑上。对吗？我认为他们现在都生活在智能手机里。一旦你开始拍照，它们就会被激活。正如你所看到的，这些镜头真的很小，它们也是由塑料制成的，这意味着实际上它们根本看不到。被这种垃圾镜头捕捉到的很多信息实际上是噪音。发生的情况是，手机开始猜测它所捕获的数据中噪声的起点和图像的起点。当然，为了做到这一点，它采用了很多的假设。我给你举一个很常见的例子。上周，我女儿跑来找我，她很震惊。她说，“妈妈，你在圣诞节给了我一个种族主义者的相机。”这是真的。她说：“我试着给我的朋友拍了一张照片，结果她完全变成了橘黄色。”而不幸的是，在东亚生产的很多相机都是这种情况，尤其是索尼。坦率地说，我认为索尼应该得到3K党的赞助，因为无论何时你用索尼智能手机拍照，它都会漂白你的皮肤。它将有点……你怎么称呼它呢？沙化吗（Sand it）？基本上，这款手机正在对你的外表进行消毒。而且它不是随意消毒，而是根据已经编入它的种族主义美容标准进行消毒。当然，这绝对不是这种事情的唯一例子。还有一件事是“微笑快门”（smile shutter）。我真的只是在等待，当手机看到你笑的时候就会拍你。我的意思是，用子弹射杀你，而不是拍摄照片。我不认为我们应该提及它会发生，但我要提到它。当然，人工智障不仅嵌入在智能手机中，它无处不在。它在自动售货机中。它造成了大量的失业，例如，以聊天机器人的形式，它正在接管越来越多的咨询工作，法律工作，文职工作，所有这些。从这个意义上说，人工智障已经在很大程度上改变了世界，而且主要不是以一种好的方式。让我给你看一个片段。BBC News at Ten, June 20, 2017它没什么声音，所以我就讲一讲，给你一个例子，说明当再现变得自动化时会发生什么——因为我认为很多都是关于自动化。这是2017年6月20日BBC的开幕式。这个开幕式是自动运行的，从伦敦郊区的某个服务器上运行。服务器过热，这就是BBC十点新闻期间发生的事情。它开始这样做。[人们笑着]是的。这个片段持续了四分钟。这真是不可思议。而那个人只是保持着坚忍的态度。他坐在办公桌前，一动不动，毫不退缩，毫不动摇。最后，他说了一句话：“现在是英国脱欧”。对我来说，这是过去几年中最令人着迷的视频艺术作品。每次我看到它，我的眼睛都无法离开它。我完全被催眠了。这段视频中发生的事情非常有趣。它表明，当你让某件事自动化时，一个在过去20年里一直泵出爆炸性新闻的机器——“爆炸新闻”、“更多爆炸新闻”，它是“爆炸！”“爆炸！”“爆炸！”而现在，我们要将其自动化。发生的情况是，新闻在一天结束时被打碎。爆炸性新闻（Breaking news）变成了破碎新闻（broken news）。我认为“破碎的新闻”是再现自动化的后果，它也被所有这些人工智障所代表，基本上破坏了所有可能的功能。当然，这种破坏在技术上被认为是创造性的东西，它打断了现有的过程，以引入快速的转变，但中断在本质上也是破坏性的。它与“创造性破坏”一词联系紧密，第一次世界大战前，约瑟夫·熊彼特（Joseph Schumpeter）曾把它描述为资本主义的核心原则之一。我在想，在如今这个人工智障的时代，或者说是人工智能的时代，这些术语是如何联系起来的。这与特雷弗所描述的情况有什么联系？教机器区分各种不同的类别需要付出巨大的努力。我将向你们展示一个简短的视频，它展示了一个训练过程。这是一个纪录片视频，它显示了一群非常热情的人工智能工程师，他们正在训练一个人工智能来识别打破窗户的声音。他们在做这件事的时候打破了很多窗户！当然，他们是为了训练它而训练。当然，他们正在训练它成为一种安全设备，使其能够识别这种声音并报警。Still from The City of Broken Windows, 2018
黑特：我想你明白我的意思。这些声音对我来说代表了破坏的交响乐。这只是我做的一个装置的一部分，这个装置叫做“破窗之城”（Broken Windows），我想象如果不仅仅是一个人工智能被训练，而是所有的人工智能都通过破窗训练，会发生什么。这个城市还有窗户吗？这个城市会变成什么样子？当然，这个城市没有一扇完整的窗户，但那里是绝对安全的。这是一个完美的安全状态。如果发现任何类似破窗的声音，会有骑着马的防暴警察即刻出现。我的观点是，所有这些人为的愚蠢行为和所有这些小机械并不限于智能手机。它们不仅限于图像世界，而且还能够重新设计和重新创造城市环境和我们的物质环境。现在我想特雷弗会多说一些关于这种企业所需的基础设施和物质条件。特雷弗：你说的是人工智障与资本主义有关的那方面，是这种创造性破坏。而资本主义也是关于从这些东西中提取价值。我们可以嘲笑人工智能，说这很傻，很蠢，它没有细微差别，我们可以在这个层面上批判它。但在某些方面，这并不重要，因为人工智能的重点不是要弄清楚你是否喜欢卡骆驰（Crocs）或喝可乐或其他什么。人工智能的重点是……特雷弗：为了让你喜欢可乐，没错。人工智能是为了提取价值。那如何提取价值呢？关键是要找到你的弱点，并利用这个弱点，以便从你身上提取一些东西。无论是我知道你对可乐没有抵抗力，在这种情况下，我将试图向你推销可乐。或者我有你喝啤酒的照片，这与醉酒驾驶有关，在这种情况下，我将提高你的车险。早些时候，我问了这样一个问题：“计算机是怎么看的？”或“机器是怎么看的？”或“它们是怎么感知的？”我们可能忍不住对此提供一个技术上的答案。但更好的答案是，他们看穿了他们被设计用来增强和复制的权力形式。这里的人可能听说过中国的社会信用体系。这是一个系统，现在是一种测试，但它将在2020年广泛实施。它基于来自你的社交媒体和你的智能设备的信息，包括你的位置、你的在线活动、你朋友的在线活动、你的私人信息、你的消费习惯、你的智能家居的视频游戏播放统计、你阅读的报纸、你的购物记录、你的约会行为。而当所有这些因素都是政府喜欢的东西时，你的信用评分就会上升。如果你在网上说关于政府的好话，你的信用评分就会上升。而如果它与政府不喜欢的事情相关，你的分数就会下降。当你有一个较高的分数时，你会得到一些东西，如打折的电影票，你会更容易获得国外旅行的签证，你会得到更好的学校，更好的工作，你会优先使用政府服务。而如果你的分数不好，你可能被禁止乘坐飞机，你可能被禁止上火车，你的孩子可能被拒绝进入好学校，你可能被关闭信用卡，你可能被降低网速，你可能被列入就业黑名单。这是西方人经常提到的一个例子，他们说，“哦，那是中国，”“中国正在创造这种神秘的人工智能社会。”但这些动力在欧盟、美国和西方世界也有很大作用。只是发生的方式不同。这并不是通过中央集权的国家机制发生，但同样的动力在脸书或谷歌或通过执法部门或其他方面发挥作用。然后我们需要问的问题是（我们将在后面讨论这个问题），这是否是一般人工智能背后的内在逻辑，是否是建立这些类型的系统的必然结果。如果我们在谈论资本主义和价值提取、掠夺、破坏……有一些东西在所有这些背后，你一直称之为“AI的通用语言”。黑特：目前还没有人工智能的通用语言。但有多种努力来创造一种，或创造一种机器学习的垄断语言。当然，这也是一个财产问题。这又回到了图像生产的问题，以及你所说的隐形图像的问题。数字图像，就像任何种类的信息一样，是人类感官无法接触的。我们不能看到它们，不能闻到它们，不能听到它们，除非它们被某种设备翻译——可能是屏幕，可能是任何东西——并首先使之可见或可理解。所以，谁拥有翻译或翻译的能力，谁就或多或少地拥有信息，这又涉及到了语言的问题。这是一首什么样的诗？这是一首迷人的诗，显然是由两个脸书聊天机器人开发的，他们被教导开始相互谈判，并为某些物品进行交换。他们或多或少在进行商业谈判，在这个过程中，他们想出了自己的语言。或者说是用他们自己的方式来排列词语。研究人员略感困惑，因为这些机器人没有被教过如何创造他们自己的单词排列。他们也没有真正理解他们在说什么。他们很惊讶——他们并非真地认为他们开始创造自己的秘密语言，并策划机器人接管人类。这并没有发生。但对他们来说，聊天机器人开始创造这种语言是一种意外。当然，正如所有的神经网络一样，人们并不真正知道这些东西到底是如何工作的。在这个意义上，这些设备在某种程度上是黑盒子或不透明的容器。有一个已知的输入，在这之间发生的任何事情都可以被猜测。但我们并不真正知道它是如何工作的。这也适用于这种新语言的创造。人们并不真正知道它到底是如何工作的。最近在谷歌翻译内部发生了另一个例子，我发现它真的很吸引人。他们也开始部署神经网络，而翻译确实改进了很多，但类似的事情发生了，这很出乎意料。该网络被要求要将韩语翻译成英语，反之亦然。同时，它也被教导要对日语和英语做同样的翻译。结果发现，该网络能够从日语翻译成韩语，反之亦然，没有被教导这种配对。研究人员开始假设，它已经开发出了一种他们称之为“国际语”（interlingua）的东西：一种抽象的语言，只有网络本身知道，作为网络工作意义的一种符号表示，作为它的某种通用语言。而现在这一切都在争论之中。许多研究人员认为这不是一种真正的国际语言，等等。但问题是，不管它是什么，它是由谷歌拥有的，没有人理解它。甚至谷歌可能也不了解所有的东西，因为它并不真正知道它是如何运作的。这是一个非常有趣的观点，因为它意味着翻译的能力正在被私有化、被占有或被垄断。这是一个有趣的发展。不是因为这是第一次——语言的占有或殖民化一直在发生。但是，因为通常情况下，占有语言并控制它的实体是国家或王国。这种情况很早就发生了，甚至在波斯帝国时期也是如此。语言被标准化了，被控制了。同样的事情也发生在早期的中华帝国，当时他们开始规范他们的文字。当然，这些都是集中权力的尝试，从人们的嘴里夺走交流的设施，并将其重新部署为由国家控制和认证的东西。有一个有趣的人叫伊万·伊里奇（Ivan Illich）：他是一个解放神学家，他打趣说，母语的想法完全是胡说八道，因为控制语言的语法和拼写的不是母亲而是国家。在这个意义上，语言可以被国家控制，可以被用来行使权力。鉴于所有这些历史，鉴于所有这些最近的发展，我的问题是，什么样的国家或后国家或商业帝国或雇佣兵国家或失败国家或军阀寡头或……？什么样的政治制度与这种新的语言占有和格式化，与对某些翻译能力的垄断并驾齐驱？对我来说，这是最有趣的问题之一。但是，什么样的制度，或者说政治权力，将由它来促成？如果你对机器学习的语言做一些非常基本的弗洛伊德式的分析，那么你会发现，它发明的所有东西都有点以深层（deep）这个词为前缀：“深层思维”、“深层视觉”，等等。一切都是深层次的，所以你开始猜测可能是正在启用的深层状态，但这有点太早了，我猜。另一个猜测是，这将是一个专制的形成，利用AI和COVID QR来巩固权力。或者，在西方，一个更传统的法西斯主义。现在我想我们去做基础设施。特雷弗：如果你想要创造出这么大规模的通用翻译器，你确实需要一个地球规模的基础设施。人工智能，就像我们现在所知道的那样，真的只是在2012年左右开始。究其原因，2012年标志着这样一个时刻，你确实有跨越整个地球的基础设施，可以收集整个地球的信息并存储。到那时，处理器已经足够快，你可以通过它来寻找模式。但是，当我们在现实生活中谈论人工智能时，我们不是在谈论我和黑特在我们的工作室里胡闹。我们谈论的是世界上有七家公司能够拥有像谷歌、亚马逊或脸书那样规模的基础设施。NSA-Tapped Undersea Cables, North Pacific Ocean, 2016它有一种物质性，而这种物质性，控制它的能力，以及在全球范围内对私人手中的基础设施的集中指挥，在很大程度上是政治性的，就像它是物质性的。黑特：这让我回到了权力的问题上。在之前的讲座中[埃斯特尔·布拉什克（Estelle Blaschke）和阿明·林克（Armin Linke）的“图像资本”]，有一个非常有趣的部分叫做 “作为货币的图像”。我想讲座的一个结论是，图像或多或少已经成为某种正在流通的货币。但我想对此进行补充，因为我认为现在是一个非常有趣的时刻，图像和权力之间的关系已经变得更加直接。它甚至不是以金钱为中介的，但在相当程度上，图像就是权力。现在，我的意思是什么呢？传统上，人们习惯于通过再现的方式来思考图像和权力之间的关系。换句话说，图像显示了ABC，因此意味着CDE。而这被视为一种权力的行使。当然这也是。但我认为在这一点上，这种关系是非常直接的，因为图像也是字面上的电流（electricity），因此，它们也会造成越来越多的现实生活的影响。这是一个听起来仍然相当牵强的东西，但图像消费，依靠能源的消耗来流通它们，正在以惊人的速度增长。我认为，在大约三年内，通过所有通信的能源消耗将只占世界总能源消耗的3.5%，但是，二十年后，预测显示，它将增长到20%。而在这20%中，大量的能源将被诸如视频监控和交通所消耗。另一个巨大的因素是游戏，当然了。你可能已经猜到了，但现在网飞（Netflix）大约占了，我不知道……几乎是全球电力消耗的1%，我觉得这非常惊人。然后，当然，还有人工智能。在训练神经网络以及CGI[计算机生成图像]渲染等方面，都有大量的电力被消耗。因此，图像生产也将占到全球电力消耗的很大一部分。我开始思考这个问题的原因实际上是货币：即比特币。众所周知，开采比特币是一个非常能源密集的过程——很多采矿作业都搬到了水电站大坝旁边，以获得廉价的能源。而这些能源实际上是浪费的，因为它只是用来解决数学谜题以验证交易。这种能源基本上没有实际用途。有人——我想这甚至是在《福布斯》杂志上——写了一个非常有趣的句子：这是电力第一次被转化为货币。钱等于电。而且我想你知道现在还有另一部分方程式正在形成，那就是电就是钱就是形象。以前的口号是什么？共产主义是电气化……加上什么？黑特：哦，是的，没错。所以现在你有一个类似的比特币和图像的等式，我不得不说这有点令人沮丧。但这很有趣，因为图像和权力的等式现在更多的是表现在流传的猫咪视频的数量上，现在，基本上，字面意思是在加热这个星球。我认为这是图像和权力之间关系的一个新方面，它将变得越来越重要，并与大数据的基础设施纠缠在一起，而大数据是非常耗能的。特雷弗：我认为我们一直在慢慢地围绕着这个问题，即这些结构中从上到下都有什么样的内在政治。我们共同的朋友凯特·克劳福德（Kate Crawford）写了一篇非常漂亮的文章，叫做“人工智能的解剖”（The Anatomy of AI）。她谈到了人工智能在一种基础设施和物质层面的运作，从海底的电缆到数据中心和电力大坝的电缆。这种基础设施是全球性的，但又是集中组织的，是私人拥有的。一个有生态足迹的基础设施，对地球的温度有实际的影响。一直到看“谁拥有那里的信息？”和“全球监控的政治是什么？”这样的事情。这必然是基础设施如何运作的一部分。再进一步，我们需要问谁能决定图像或其他形式的数据的含义，这些数据系统是自主读出的。我认为我们提出的问题是，计算机视觉或人工智能或行星通信……无论你如何称呼它……我们在这些层中发现什么样的政治？我认为我们已经讨论了很多关于这些是否有一种固有的法西斯政治的想法。黑特：我不知道。我是说，这是我们一直在讨论的事情。我们还没有结论。但我认为，在这个时间点上，在历史上，这绝对是一个非常令人担忧的可能性，在这些技术真正慢慢成熟并产生这些现实影响的时刻，我们在这个时间点上看到的是一个非常明显的趋势，尤其是在西方世界，专制和极右翼政权正在执政。我想起了我读到的与维克多·欧尔班（Viktor Orbán）关系密切的一位匈牙利知识分子的一段话，她实际上是布达佩斯所谓的恐怖之家的博物馆馆长。她说，“人工智能和自动化是伟大的，因为我们将不再需要任何移民工人。”当然，你也可以补充说，你根本不需要任何工人。因此，这基本上已经是用同一个装置拍打两只苍蝇：第一个影响是对移民的影响，但它随后打击了任何类型的劳动力，无论是否有组织。而这是一种肯定的可能性。这甚至不是一种可能性。已经有一种趋势，而且它将开始变得越来越强，这些技术将被用于此。我们甚至没有谈论这些技术的使用将如何被大流行病和它的社会后果所证明。对于整个数字技术来说，它将是一个福音，特别是对于监控。可以理解的是，大多数人宁愿被监视，也不愿意被孤立，或者更糟糕的是被暴露。跟踪社会行为现在有了一个全新的理由：社会健康，个人健康。这种大流行病正在加强我们在过去四年中看到的所有趋势——孤立主义、独裁主义、去全球化、反移民、分裂、利用恐惧和数据攫取。这并不是说在这种情况下，机器学习不可能非常有用——例如，在医学研究中。而且总的来说，新的病毒性白话理论上也可能最终有一些好处，比如建立更强大的本地网络。但是，像我这样的人曾经也对互联网这样说过。它并没有真正发挥作用。特雷弗：在某种程度上，我们在巴黎摄影展（Paris Photo）的背景下，我认为我们可以看到一种更强烈的对我们以前所见事物的复述。例如，随着摄影的出现，有一种围绕着它的客观性的意识形态，在某种程度上是一个不偏不倚的算法的想法的先驱，它可以在这些事情上公平和中立。Francis Galton, composite portraiture, ca. 1878
当然，人们开始用它做什么？你有像[弗朗西斯]高尔顿这样的人物，他开始发明一些东西，比如脸部照片，宣传罪犯的脸和罪犯的相貌——这些东西最终被揭露为一种法西斯主义的科学意识形态。我们在很大程度上看到了这种认识论方法的复述。你不能把认识论的假设与政治假设分开。你可以把人工智能的认识论看作是生理学的，因为它只能看到以某种方式可见的东西。你可以看到像素，并试图从中理解模式。所以，你有一个真正的重复性的东西。斯坦福大学的Wang和Kosinski有一篇臭名昭著的论文，他们试图建立神经网络，可以分辨谁是同性恋，谁不是。我们已经看到中国的吴和江的类似例子，他们的神经网络试图分辨谁是罪犯，谁不是。Security officer watching cloud blocks forming face in sky我想这就是我们想离开讨论的地方，作为一种开放的问题，关于某些政治结构在多大程度上是这些类型的基础设施所固有的，几乎在软硬件架构本身。更重要的是，在它们所鼓励的和真切暗示的意识形态中，似乎也是如此。
拉扎拉托 | 《视频哲学》柏格森与综合图像（上）
拉扎拉托 | 《视频哲学》柏格森与综合图像（下）