3100名谷歌员工联名上书，抵制与五角大楼合作：不想做战争生意
李杉 李林 发自 凹非寺
量子位 出品 | 公众号 QbitAI
“Google不应该成为一家战争公司。”
一封联名信在Google内部流传着，已经有3100多人在上面签了名，其中包括数十名高级工程师，抗议该公司为五角大楼提供人工智能力量。
他们想要通过这封联名信，向Google CEO劈柴哥（Sundar Pichai）施加压力，让Google退出五角大楼的代号为Maven的项目，并宣布一项“永不开发战争技术”的政策。
这家硅谷巨头和美国政府之间的文化冲突就这样凸显了出来。
一封公开信
这封联名信几周前就开始在Google内部传递，签名的员工们认为，参与军事任务会疏远客户和人才。
《纽约时报》将联名信的内容发布了出来，信中清晰的写明了这些Google员工的诉求：
1. 退出Maven项目；
2. 起草、公布并执行一项清晰的政策，声明Google及其承包商都永远不会开发战争技术。
在联名员工的心目中，与国防部合作，开发“帮美国政府进行军事监控、甚至还有潜可能夺取生命的技术”，完全违背了这家公司的核心价值，还会威胁到Google的名誉。
他们担心，一向以“不作恶”为信条的Google参与到五角大楼的项目中，会“对Google及其人才竞争力构成不可挽回的破坏”。
同时，这也会影响Google的公众形象。“由于人们越来越担心存在偏见的人工智能以及武器化人工智能，Google已经很难赢得公众信任。”这些员工担心Google会被人看成是跟雷神、General Dynamics和Palantir一样的大型军工企业。
“微软和亚马逊等其他公司也参与其中，不会降低Google的风险。Google有着独特的历史，还有着‘不作恶’的信条，而且它直接渗透到数十亿人的生活之中。”
信中说：“我们不能把我们所开发技术的道德责任外包给第三方。”
联名信完整PDF版在这里：
https://static01.nyt.com/files/2018/technology/googleletter.pdf
Google员工最近在一次内部会议上，就已经公开对这家公司与Maven项目的关系提出了异议。当时，Google云基础设施业务负责人戴安·格林尼（Diane Greene）为该交易辩护，希望能够缓解员工的担忧。
该公司发言人表示，公开信中的多数签名都是在公司对此作出解释前收集的。
对自己开发的程序负责，不仅Google员工这么想，在程序员中这其实是一种比较主流的思潮。
Stack Overflow的一份调查显示，有47.8%的程序员认为，自己的孩子自己管，如果一个AI出了问题，应该是开发者负责，也有27.9%的人认为责任在于政府或者监管机构。
Project Maven
这个让Google员工如此担心的Maven项目，究竟要干什么？
美国国防部的Maven项目2017年4月开始试点，目的是加快军方的人工智能技术发展速度。这个项目第一年计划花费7000万美元，将人工智能、机器学习方法用到国防领域。
Maven的第一个努力方向，是要用机器来自动处理MQ-9和MQ-19无人机上传感器收集的海量动态视频数据。
Google参与到这个项目中，向国防部提供了一些TensorFlow API，用来帮军方自动识别图像中的物体，于是引发了不少员工的担心，说这种技术有可能用于提升无人机袭击的瞄准能力。
作为一个最收欢迎、谁都能用的开源机器学习框架，美国国防部用上TensorFlow似乎也合情合理，也实在用不着谁来“提供”。
不过，据知情人士透露，除了贡献了开源软件之外，Google还在“积极帮助国防部配置软件”。
苍白的辩护
Google周二发表了一份声明，说“机器学习在军事领域的任何使用都会引发担忧”。他们还补充道，“我们与整个公司展开了积极互动，就这一重要话题进行了全面沟通。”
之前，这家公司也一再为自己辩护，说他们在Maven项目中从事的工作是“非攻击性的”。五角大楼也说，不会用Google的技术来开发无需人类操作员的自动化武器系统。
△ 美国中央司令部联合空战中心
五角大楼所用的Google技术，和其他客户也并没有什么两样，正是“向所有Google云计算客户开放的开源物体识别软件”，使用的数据也都是未归类的。“这项技术用于标记图片，以便人工审核，而且目的是拯救生命，让人们不必从事冗长乏味的工作。”
但是他们拒绝列出相关的合同条款。美国国防部表示，由于Google是Project Maven主承包商ECS Feddral的分包商，所以他们无法提供具体合同金额或合同条款。ECS Federal并未对此置评。
五角大楼的视频分析经常用于镇压叛乱和反恐行动，而美国国防部也曾经明确表示，该项目将用于支持这些行动。
但是，不见得是以攻击为目的。提升无人机视频分析能力，也能在袭击行动中自动分辨出人类目标，从而更好地识别平民，降低无辜平民的受害概率。
不过国防部官员们的态度，却让Google员工们的道德担忧雪上加霜。
美国国防部长吉姆·马蒂斯（Jim Mattis）经常表示 ，他们的核心目标就是提高美国的军事“杀伤力”。
首席管理官约翰·吉布森（John Gibson）上个月在谈到Joint Enterprise Defense Infrastructure Cloud采购项目的时候说，他们的部分目的，就是为了“提升杀伤力和敏捷度”，因此很难将软件、云计算和相关服务与真正的战争企业区分开来。
△ 施密特与美国前国防部长Ash Carter
Google的部分高管与五角大楼关系密切。该公司前执行董事长埃里克·施密特（Eric Schmidt）就曾经担任五角大楼顾问，Google副总裁汨罗·梅丁（Milo Medin）同样担任这一职位。
去年11月接受采访时，施密特承认“科技界普遍担心军工机构会利用这项技术滥杀无辜。”他表示，之所以担任顾问，一定程度上是为了“至少能展开沟通”。他还表示，军方使用这项技术的目的是“保护国家安全。”
由于Google员工总数超过7万，所以抗议者只占少数，可能不会对其发展构成太大障碍。但在人工智能研究领域，Google却要与其他科技公司争夺人才，所以如果一些人才不认同它的做法，就会对其人才吸引力构成伤害。
硅谷与五角大楼
正当Google因为国防合同而遭到内部反对时，其竞争对手却主动宣传自己参与的国防项目。
亚马逊就公开宣传该公司与国防部签订的图像识别协议，微软也表示，该公司的云计算技术帮助军事和国防机构处理信息分类工作。
而整个硅谷，其实都有着和五角大楼纠缠不清的历史。我们熟悉的互联网、人工智能、无人车，最初都有一个机构在背后推动：美国国防部高级研究计划局，DARPA。
One More Thing
量子位一直在想，不知道签署联名信的3100人中，有没有身在加拿大的Geoffrey Hinton。
20世纪80年代，博士刚刚毕业的Hinton在卡耐基梅隆大学（CMU）找了份工作。
可是他很快意识到，他所在院系、甚至全美国的大部分AI研究都是由国防部（DoD）资助的。于是，他决定辞职以表抗议，并随后搬到了加拿大。
“离开的时候，我复印了一枚硬币，然后把它贴在办公室的门上，”他说，“但是我把硬币上的‘G’改成了‘D’，于是上面那就话就变成了：IN DOD WE TRUST。”
— 完 —
诚挚招聘
量子位正在招募编辑/记者，工作地点在北京中关村。期待有才气、有热情的同学加入我们！相关细节，请在量子位公众号(QbitAI)对话界面，回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态