机器崛起之Cybernetics的军事起源 | 笔记
注：本文是根据中国科学院自动化研究所复杂系统管理与控制国家重点实验室助理研究员王晓博士于4月23日世界读书日在集智分享的报告整理而成，辅助记录整理者为集智志愿者张棋，全文约1.5万字。
今天的分享者是集智计算社会科学群[1]的群主并且是中国社会计算交叉学科第一位博士毕业生——王晓。虽是一名女博士，但却是一位十分甜美可亲的女神姐姐。王博士今天分享的主题是“机器崛起：从Cybernetics到Cyborg”。整个讲座以王博士的译作《机器崛起》的目录为主线，以生动真实的故事，带我们回顾历史并联系当下，了解“赛博这个事物”是如何连接了战争机器、计算机网络、社会媒体、无所不在的监视和虚拟现实的。
在报告之前，王晓博士首先介绍了自己的研究，她讲到，在跟随自己的导师王飞跃教授进行课题研究时，曾经非常困惑：为什么导师的研究课题跨度会如此之大，从非常“硬科学”的智能机器、机器人，跨到了最“软科学”的社会计算？而翻译完这本书，她明白了，这确实是一脉相承的，至于为什么，大家看完这本书就知道啦(当然看完这次报告的实录，也会明白的)文末有视频链接~
本篇文章分为三大部分：
机器崛起(一)：Cybernetics的军事起源
机器崛起(二)：从Cybernetics到Cyborg （见本次推送副推一）
机器崛起(三)：机器内部空间的探索——互联、开放、隐私与信息安全（见本次推送副推二）
前言
既然我们要谈控制论(Cybernetics)，需要考虑的一个十分关键的问题便是，“赛博cyber”是什么？这个想法来自何处？我们生活在一个被技术定义的时代，当我们在收发电子邮件、乘坐飞机或是阅读俄罗斯黑客新闻的时候，我们很少思考这些塑造我们现代世界各种事物的起源。王博士在讲座中由“控制论的历史”说起，汇集了不同年段技术的历史: 从发明雷达、二战的中的“无线炮弹”到无人驾驶, 从人工智能、 虚拟现实，再到目前大家担心的网络安全和赛博战。跨越智能科学与技术70年的发展，干货满满~
这本译著的英文原版《Rise of The Machines》一经发售便得到了众多媒体的广泛报道，是《麻省理工技术评论》、《君子》、《财富》杂志评定的2016年最佳书籍之一，并入选“2017年度最激动人心之科学著作”的决选名单。现在就让我们跟着王晓博士的步伐，一起来看看讲座的精华吧~
报告主线
战争中的控制与通讯
战争是推动科学技术发展最为有效的手段之一。我们今天关注的许多科学问题，使用并研发推广的众多技术，许多都起源于二战。维纳发表的跨时代巨著——《控制论》，亦不例外。控制论的两个核心思想：闭环反馈和人机交互，都起源于二战中维纳要解决的一个重要问题——地对空的防御问题。
1940年8月8日，希特勒发布了著名的元首17号令，下令纳粹空军“在可能的最短时间内集中一切力量战胜英国空军”。这是历史上首次，一个国家仅仅采用空中作战的军事行动去摧毁另外一个顽强抵抗的国家。同年10月15日和16日，德军向伦敦派出了235架轰炸机；英国的地面防空体系不堪一击，用了8326枚炮弹，仅仅击毁2架德机、损伤2架德机。这种“几乎无效”的地对空防御情况，将在仅仅4年之后，得到彻底的改变。
在这种希特勒下令德国空军全面攻击英国的情况下，英国不得不把许多的基础科研项目迁移美国，而将自己国家的精力专注于战争中的即时生产。1940年8月，时任英国航空研究委员会主席的亨瑞•狄泽德爵士与时任美国国防研究委员会(NDRC)主席的范内瓦•布什在华盛顿特区的宇宙俱乐部开心地约了一顿饭，使得布什领导的NDRC获得了对于英国伯明翰大学研发的多腔磁控管微波研究的主导权。随后，该技术被转移到MIT，其辐射实验室在1940年10月成立，在利用多腔磁控管技术下，MIT辐射实验室的研究和技术人员们不仅发明了雷达，他们同时想到：使用反馈回来的雷达脉冲，我们就能控制榴炮弹的发射了！于是XT-1车载微波雷达，即SCR-584，光荣地在MIT的辐射实验室诞生了，这使得盟军的感知侦测能力极大地得到了提高。
但新的问题又来了，当感知能力提高后，如何优化地面武器的射击控制？在武器来袭的时候，人的操作使非常慢的。当时如果要射击一个目标要进行以下步骤，通信质量严重地限制了射击的精度：
备注：V-T引信可看做一个微型无线电台，包括一个发射器，一架天线和一个接收器，这些都安装在炮弹的弹头处。当一个155mm的炮弹离开炮口时，微型无线电台打开并开始发射连续波。当炮弹在高空中接近德国轰炸机，发出的无线电波会被反射回来。炮弹感知接收到返回的无线电波并放大，放大后的电波传递到一个微型的气闸流管(开关)，引爆炸弹。
在艰苦的技术突破后，我们即将解决地对空的追踪射击问题啦！1944年6月13日凌晨，德国首次使用V-1导弹轰炸伦敦，此时他们不知道的是，海峡彼岸已经准备好了应对的秘密武器——VT引信，它将无情且“不为人知”地把靠近的V-1导弹撕碎在空中。1944年7月第4周，79%穿过英吉利海峡的V-1导弹都被击落了；8月V-1导弹对伦敦的最后一次进攻，105枚导弹只有3枚抵达伦敦。这是一场前所未有的战争，几乎无人干涉，全部由机器人—VT机器人和V-1机器人—完成，由此揭开了机器与机器对抗的序幕。
其实，在二战中，布什领导的NDRC部门资助了许多项目，这几乎反映了当时的控制系统世界。其中有60多个的项目，都是关于地对空防御问题的解决。维纳的项目也在其中。诺伯特·维纳 (Norbert Wiener)，十八岁从哈佛大学哲学系获得博士学位，思想翱翔于九天之上的天才(头脑极度发达，动手能力此处不做评价)。他的研究项目是“预测处在飞行压力之下的驾驶员飞行行为”，而金额只有可怜的2,325 美元(当时NRDC每个项目的平均资助额是145000美元)！
尽管最后，这个项目失败了，但维纳的控制论的基本思想已然形成：控制、反馈与人-机交互。用作者的话来说：维纳没能改变二战的形态，但二战却为维纳打磨了一件利器。但令人无奈的是，VT机器人之所以能够打败V-1机器人，正是因为V-1机器人没有考虑维纳研究的那个问题(如果德军研发人员中注意到维纳的研究，也许二战的结果就要改变啦)，也是处在压力之下的所有飞行员都会采取的一种做法，采取躲避行为：一条游走的随机路线。
控制论
众所周知，二战是人类空前的一次灾难，给整个世界带来了无法磨灭的印记。特别是在科学家们帮助美国政府研发了有史以来最具毁灭性的武器之后，政府没有与科学家们进行任何沟通，直接在太平洋上空投放了这一核武器，这引发了科学家们的强烈不满。
当时的情况是，一方面，V-1导弹、V-2导弹与原子弹的相继研发成功并投入战场，造成了大量伤亡，越来越多的人开始反思战争并反抗军国主义；另一方面：40年代末，军事力量上的技术奇迹开始渗透到工业和私营经济中。50年代，随着汽车和普通电话机成为人们生活中必不可少的一种控制论设备，公众需要有人来解释这些新技术以及它们出现的目的。正是这时，维纳的《控制论(Cybernetics)》 “顺天时而生”。
维纳的“控制论”包括三个核心思想：
控制论 = 控制 + 反馈 + 人机交互
1. 控制是指系统能够与环境交互进而塑造环境的能力；
2. 反馈描述了一种“使用机器过去的性能表现调整未来行为的一种属性”；
3. 人机交互，使得人与机器共同组成了一个整体，一个“伺服系统”。
在大众看来，控制和反馈，也许有些抽象、理论化且难以理解，但是第三个思想，“人机交互”，却激发了丰富的想象：机器是否能活过来？机器能否获得智能？既然机器能够扩展人的体能(例如，雷达是人们眼睛的扩展)之后，是否在智能上也会超过人类？既然能用人的思想来理解机器(拟人化的机器)，那能不能用机器的思想来理解人呢(机械化的人体)？这些所有的问题，衍生了整个的控制论学科群。
在阿什比对控制论的推动，维纳对军事力量以及“按钮战争”的反思，对美国的军事也产生了新的影响。维纳最担心的，是“按钮战争”的爆发，当人类把诸如原子弹的核爆炸武器的投放权移交给机器人时，人类会给机器人下达一则“命令”或“口令”，这正像是神话故事中魔法学徒对魔法扫帚或者渔夫对阿拉丁神灯所念的“咒语”。在神话故事中，这样的“任性”口令最终都引发了一些不好的结局；那么在真实世界中，人类是否也会将自身置于尴尬甚至无法挽回的境地？
自动化
在学术界对控制论的研究范畴、应用范畴等问题进行讨论时，美国政府和企业界已经极大地推动了控制论在军事和工业生产中的应用。前者催生了大陆级别的高空放射炮塔SAGE，后者引发了“自动化工厂不招人”的严峻就业问题。
维纳在其《控制论》一书的序言中就曾经写道：“第一次工业革命，通过引入机械装置导致了人类手臂的贬值”。他相信：“第二次工业革命，同样会引起人类大脑的贬值，至少会引起人类大脑在更简单更常规化的决策方面的贬值”。维纳警告公众：“非常明显，自动化将造成失业的情况，与之相比，30年代的大萧条将不值一提”。当时，美国工人阶级已经对自动化可能引起的“机器换人”情况十分关注，甚至在肯尼迪的国务院记者发布会上也引起了激烈讨论。
1963年，维纳决定对自动化引发了一些精神与技术的后果进行盘点[2]，在这次盘点中，他严厉地批判了那些认为“除非预先输入，否则机器不会产生任何输出”的人的观点，并明确强调“我的观点是，机器能够并肯定会超越它们的设计者的某些局限性，并且当机器实现时，他们可能即是高效的又是危险的。很可能出现这种情况，原则上，我们并不能制造出我们永远都不了解其行为因素的机器。但这绝不意味着，我们能用比操作机器所需要的更少时间去理解机器的行为因素，甚至用数年或几代的时间也不行。”尽管今天，我们已经可以制造出不了解其行为因素的机器(如应用神经网络、深度学习等机制的机器)。
同一时期，文学与科学交相辉映。在这个特殊的时代，产生了大量影响深远的文学和影视作品。关于机器智能是否能够超越人类智能、机器人与人类将保持怎样关系的话题，最早的讨论出现于1920年出版的《罗素姆万能机器人(Rossum’s Universal Robots)》，这部小说讲述了一个制造机器人的“人造人”工厂中的故事，小说的结局是机器人对其制造者发起反抗并最终消灭了人类。
在1950年的秋天，这一剧目走上了MIT戏剧院皮博迪剧场的舞台。排演之前，维纳走上台，在人声鼎沸中展示了他称之为“帕尔米亚”的趋光机器人，并用它来展示神经震颤的两种状态：帕金森症和意向性颤抖。这成功引起了美国军方的注意，但军方的关注点却完全不同，恰是维纳的反面，因为在他们看来，机器人不会生病、不会请假、不会闹脾气。
在这样的历史背景下，自然而然的出现了一些新的反思：当机器接管之后，人类会灭亡吗？英国星际航行协会前主席、曾被授予卡林加奖的亚瑟·克拉克对于这个问题进行了深入的探讨，他指出，生物进化，已经让位于一个更为快速的过程，技术进化。“直白而残酷地说，机器将会接管一切”。发表在《花花公子》杂志上的这篇文章用一棵展示了生物进化过程的进化树阐明了这一故事：从微生物到鱼类，恐龙，猴子，尼安德特人，现代人类，最后是机器。用他的话说，“因为没有个体会长存于世；那么我们为什么会期盼我们的种族能够永远延续下去呢？”
此时，美苏冷战已接近巅峰，时任苏联领导人的尼基塔•赫鲁晓夫已经多次在公开场合发表言论“自动化很好。它是我们用来打败你们这些资本家的手段。”美国政党也毫不示弱，亚利桑那州的一名共和党人巴里•戈德华特强调：“只有通过(自动化)增加每工时的产出工作量，我们才能建立有效的防御来抵抗苏联的侵略力量”。这是因为，二战带给参战各国的一个十分重要的教训是“具有领先生产能力的国家将会赢得战争。”但是这对于美苏冷战期间对太空和深海等极端环境的探索却毫无用处。
因此，新的思考出现了，“可否借助自动化改变人类的身体，使其更好的探索极端环境，拓展国家疆土？”由此，控制论的新产物出现了——赛博格。
参考文献
王飞跃, 社会计算还是社会化计算：兼忆社会计算一词的起源，http://blog.sciencenet.cn/blog-2374-514254.html?from=groupmessage .
Wiener N. Some moral and technical consequences of automation. Science, 1960, 131(3410): 1355-1358.
在此基础上，提出了“自复制自动机”的理论。
1956年麦卡锡提出的人工智能的概念，即是“制造智能机器的科学与工程(the science and engineering of making intelligent machines)”
王飞跃, “面向计算社会的计算素质培养: 计算思维与计算文化”, 工业和信息化教育, 2013, No. 6, pp. 4–8.
王飞跃, “面向赛博空间的战争组织与行动: 关于平行军事体系的讨论”, 军事运筹与系统科学, 2012, Vol. 26, No. 3, pp. 5-10.
Quoted in Douglas Waller and Mark Thompson, “Onward Cyber Soldiers”, Time 146, No. 8, pp: 38-45.
王晓公开讲座——机器崛起：从Cybernetics 到Cyborg
注：本文版权归王晓所有，源于4月23日在集智分享的报告，内容由集智俱乐部的志愿者整理而成。经王晓同意，本文于5月5日授权集智俱乐部和混沌巡洋舰刊登，转载需经作者同意。
集智QQ群｜292641157
商务合作｜zhangqian@swarma.org
投稿转载｜wangting@swarma.org
◆ ◆ ◆
搜索公众号：集智俱乐部
加入“没有围墙的研究所”
让苹果砸得更猛烈些吧！