机器眼会看人低吗？

Sect.2

Vol.1

视频译制

Trevor Paglen Shows 

How Computers See The World

Trevor Paglen ( Artist ）

Ravi Somaiya ( VICE News ) 

译制：开放像素字幕组

旁白：Trevor Paglen（以下简称TP） 是一位常驻在柏林的艺术家。他的作品因探索中央情报局秘密基地、无人机战争和美国秘密安全机构而闻名。他的最新项目是研究计算机视觉。

在任何给定的时间里，相比于人类，有更多的机器在分析图像，看到它们并理解它们。

名为“看不见的图谱”（The Atlas of Invisible Images）的系列作品为我们打开了一扇窗，让我们了解到大多数人从未想过的监视和计算机分析的世界。

TP：我把它们统称为“看不见的图像”，因为它们不是给我们看的，而是给电脑看的。在很多情况下，我们看不到他们，也无法接触到它们。因此，我一直在做这个巨大的探索，试图理解计算机视觉的机制是什么，以及它的含义是什么——不仅仅是在图像制作方面，还有社会和政治方面的含义，以及诸如此类的事情。

计算机视觉，即训练计算机识别物体和人，已经被用于广告、安全和社交媒体，而且可能会变得更加广泛。Paglen训练了他自己的人工智能，和那些正在悄悄部署在其他地方的人工智能的运作方式一样：通过向它提供成千上万的原始图像。

VICE：你是从哪儿得来的这些图像？

TP：当你做这类研究时，一般来说，你使用的是标准化的训练集。有识别情绪，识别面孔，识别不同物体的训练集。还有更奇怪的，比如识别不同种类的快餐，或不同种类的小猫，等等。

这些训练集大多是由上世纪90年代从事计算机科学研究的大学编写的。没有人想到25年后它们会成为几乎所有图像识别的基础。

VICE：当我看着这个摄像头的时候，它把我识别成什么了？

TP：它说你可能是一个创可贴，或者是一个氧气面罩，但你更可能是一个创可贴。

VICE：这也太残忍了。我觉得这好没必要啊。

TP：它现在有点种族歧视了，它说你可能是只猴子。好吧，其实这个程序并不是训练用来识别人类的。

旁白：虽然被电脑归类为长鼻猴很尴尬，但更令人不安的是，人工智能是如何得出这样的结论的。

TP：例如，如果你要上传一张照片到Facebook上，你的体验就类似于一个相册。一个典型的面部识别算法会做的是把所有它知道是你的脸的图像合并成你的脸的元图像。然后，它会减去你和其他人面部的共同之处，从而得出你的脸的独特指纹——也就是你的脸的特别之处。这就是计算机算法为自己发明的不可见图像的一个例子。但世界上没有任何东西说你必须在常见对象上训练人工智能。

旁白：为了证明电脑基于程序员“喂”给它的内容，会看到一个更超现实版本的世界。Paglen 以弗洛伊德的梦的符号，美国掠食者和资本主义的历史隐喻等为主题，从而选择图像训练他的电脑。

VICE：我猜，当你在创建更抽象或者超现实主义的数据集时，你在问一个不局限在视觉层面的问题——某种程度上，你在问它们是怎么思考的。

TP：的确。人类的一种奇妙之处在于我们能够不断地重新定义我们创造意义的方式。这是广泛使用自动化技术在哲学意义上的危险之处，因为它固定了意义。这也是我在做这件作品时尝试去得到的东西。我想要指出，视觉总是由文化建构的，由政治建构的，由历史建构的。

旁白：即使是在柏林，一个被苏联窃听多年后对监视心存疑虑的城市，Trevor的地图集似乎也远非学术研究。在我们周围，人们都在上传自拍——社交媒体和搜索公司经常利用这些自拍建立自己的计算机视觉数据库。

TP：真的，这就是我这个项目的重点：我把这些看不见的图像提取出来公之于众，因为这真的就是围绕在我们身边的技术和观看形式，真的，一直都是，但是我们的眼睛，是由血肉构成的，却无法看见它们。

VICE：对于这些乐于自拍的人，你会说些什么呢？我推测他们并未注意到公司背后的利益。

TP：我很想生活在一个人人都能随心所欲自拍的世界里。但我在这类事情上经常做的一个指导性假设是…谁会从中受益? 大公司会受益，警察会受益，军队也会受益。通常情况下，这种利益是以牺牲个体为代价的。

■ 专题策划：四零四，酸拇指

■ 译制：开放像素字幕组

■ 海报设计：岩己

■ 视觉设计：Zhiyu Otto，赛宁

■ 排版：知世

相关像素