人机回圈：人类的科技化与科技的人文化, 追随人类步伐, 还是我行我素，另辟蹊径？
特别声明
本平台推出文稿均出于非商业性的教育和科研目的，旨在传播学术研究信息、净化大学教育与科研生态环境。但声明该文仅代表原作者的个人观点并不意味着本公众号赞同其观点或证实其内容的真实性。如有异议或侵权，本平台将在第一时间处理。期望读者关注点赞《蝌蚪士》公益事业： 为苦逼科民发声、并贡献正义的智力；且为平民大众免费科普，使之走进科学、传承科学、壮大科学——人人都能成为真才实学的蝌蚪士 (主编| 赛德夫).
人机回圈：人类的科技化与科技的人文化（序及纲要）
吕乃基
人工智能是当代科技的前沿，涉及面广博，而且关系到人类的前途命运。不同领域的专家从各个角度加以研究，引发各种争论。由“人机回圈”切入，有可能厘清相关的争论与问题。
“人机回圈”（Human in the loop），意为“将个人（专家）或公众群体的判断，融入AI系统的优化中去”。http://mini.eastday.com/a/170801174144369.html
在许多情况中，机器所面临的是复杂的问题，需要决策与妥协。通常，如何妥协是一个伦理问题，不能单纯依靠机器学习的算法来得到答案，需要人机回圈的过程来辅助机器做决策支持。人是规划环路的一部分，人的判断既用于业务决策，又被反馈到机器学习算法中，使其更智能。在涉及到千万人的社会问题中，更需要由大家众筹得到一些社会问题的共识，形成自动算法+社会判断的反馈回路。这就是“众机回圈”（Society-in-the-Loop）。http://www.a-site.cn/article/718384.html
如果把“回圈”中的“机”理解成一般意义上技术的产品，那么在更久远的时间尺度，在人猿相揖别的第一天起，“人机”就一直在“回圈”之中。回顾人类历史上的“人机回圈”，有助于理解AI中的人机回圈及其趋势。
再往前推，对人机回圈历程的追溯涉及到动物世界。除了极少数情况外，动物世界与自然界之间是没有中介的直接的关系，灵长类动物使用的工具，也是身边基本上未经加工的树枝、石块等。人类社会与动物世界的区分之一是，人类社会与自然界之间是经由形形色色人工自然的中介而形成间接的关系。
动物世界直接面对自然界，唯有通过基因的变异改变自己的命运，偶然、不能控制，以及耗费巨大时间成本，最终依然接受“适者天择”的命运。
人类发明了技术，随后，人类又在人工自然，也就是技术搭建的平台上与自然界相处，以及与人类社会相处，在相处中发现新的问题，提出新的要求，进而发明新的技术。人类间接地经由人工自然面对自然界，面对人类社会，一步步减少偶然性，以及极大地缩小时间成本，以获得在自然界与人类社会中越来越大的控制权和自由度。
由此可见，在人与自然之间实际上存在两个“回圈”，其一是人机回圈（除了为避免歧义，下文中的“人机回圈”不再加引号），其二是“机”与环境（包括人类社会与自然界）之间的“回圈”。前者是改变人与环境关系的手段，后者是人在与环境的关系中希望达到的目的，由此检验人机回圈的效果与不足，给出下一步人机回圈的目标。两个“回圈”同步推进。
在本文的视野下，可以把“机”与环境之间的“回圈”理解为人机回圈的语境。人机回圈，貌似所有的过程只是发生在人机之间，实际上环境自始自终都是不在场的参与者。正是在人机之间一次次无穷的回圈中，人在与环境的关系中获得越来越大的自由。
就此而言，一部人类史实际上就是在与相应语境的关系中，人机回圈螺旋式上升的历史，或者说，人类史以人机回圈的方式推进。
人工智能中的人机回圈，实际上是人类历史人机回圈的延续和最高阶段。通过对人类历史上人机回圈的回溯与辨析，以凸现和厘清人工智能中人机回圈的内涵。
具体而言，可以由以下方面展开。
首先，鉴于人机回圈中“人”的极端复杂性，可以先由相对单一的“机”入手，研究“机”的存在方式与演化方式。
其次，区分人机回圈中的“人”。其一，区分人在供给侧还是需求侧；其二，区分人的不同层次，如人类、国家、组织、个人，以 42 37289 42 15886 0 0 8846 0 0:00:04 0:00:01 0:00:03 8845覆盖不同层次的大数据。不同的“人”，会极大影响到人机回圈。暂且不考虑实际上存在的人与人之间的回圈。
复次，分别探讨人机回圈中，由人到机（编程、塌缩）和由机到人（律令与自由）这两个环节，探讨这两个环节的界面（脑机接口芯片植入），经由界面分别传递了什么内容，以及发生什么变换。由人到机可以理解为科技的人文化，由机到人则是人文的科技化。
第四，在“机”演化方式的基础上，结合人机回圈的两个环节，探索人机回圈的演变，以及人机回圈之语境的演变。
以上内容有待一一展开。
总体而言，从远古至今的人机回圈呈现这样一个趋势：
人类的科技化与科技的人文化。这两个“化”正在趋于合流，合二为一。
一个值得高度重视的迹象是，出现了“机机自己回圈”。
人机回圈：人类的科技化与科技的人文化一、人机回圈中的“机”
可以从存在与演化两个方面探讨。
1.
人机回圈中“机”的存在方式
A.工作机-动力机-控制学习机
人可以看作由三部分组成：主要由四肢、躯干，以及发声系统和脸部（表情，包括眼神）等构成的“工作机”，内脏和循环系统主要承担动力，大脑、感官与神经系统负责控制（包括感知、分析、决策和执行）与学习。人体是三部分高度合一，以及所有的功能与载体同一的整体。
“机”的形式多种多样，大致也可以归结为以下部分：工作机、动力机与控制学习机。控制是负反馈，学习是扩展和提升。对于“机”来说，这三部分可以结合在一起，也可以以不同的方式分置，在使用时再结合起来。分置与结合，是“机”区别于人的一大特征。
对于使用者而言，所关注的主要是“机”作为整体的功能，也就是由工作机做出的最终的输出，并不在意其载体、能源，以及幕后的信息处理方式。为此，可以分别改进工作机、动力机与控制学习机，以及调整它们之间的关系。这就关系到这三部分之间的接口、界面、协议、标准，以及相互兼容的情况。
工作机、动力机和控制学习机都需要专门适合各自功能的载体，这是“机”区别于人的另一个特征。为了更好发挥这三大部分各自在“机”整体中的功能，可以分别灵活调整载体。譬如说，控制学习机的载体“脱碳入硅”。
“机”的这两个特征都会影响到人机回圈的内容与方式。一方面，人机回圈中的“机”是工作机、动力机、控制学习机，还是这些“机”的某种组合，回圈，是否包括“机”的载体；另一方面，“机”是否与“心”、body回圈。DeepMind认为2018年AI取得大突破的方向是生物和化学领域。
载体关乎材料，动力机需要能源，控制学习机涉及信息。于是，“机”便全面涉及所谓人类社会的三大要素：材料、能源、信息。
B.科技黑箱
工作机、动力机与控制学习机是人机回圈中“机”的内部结构，作为整体而言，“机”的存在方式是“科技黑箱”。
以各种方式存在的技术产品，例如仪器设备、药物、傻瓜相机、电脑等构成形形色色的“科技黑箱”[i]。科技黑箱，“科技”之义为包含了大量乃至艰深的科技知识；“黑箱”，意为消费者并不知晓其中的知识，如同面对黑箱，只需按规程操作便可得到预期的输出。
科技黑箱使得每一个消费者----不仅牛顿，都能直接“站在巨人的肩上”，以及站在当代人，站在比尔盖茨和乔布斯的肩上继续前进，无需学习背后的科技原理和制作过程，因而极大地加快了人机回圈向更大范围的扩散和更深层次的推进。
科技黑箱就是人类的“获得性遗传”。每一代新科技黑箱的出现，就为年青的相对‘无知识’（这些知识已被集成于科技黑箱之中而为他们所共享）的一代的崛起与赶超提供了机会，同时也为落后地区和国家的赶超提供了机会。
“黑箱”是控制论中的概念，意为在认识上主体对其内部情况全然不知的对象，由输入不能预期输出，其变化不可控。
科技黑箱的含义与此有所不同，指能满足需要的商品或服务，其中所含有的科技知识和其他要素被集成于某种框架内，至少生产方（包括创新人员和设计者等）知晓。一般的消费者则仅知道或关心其价格和功能，而对其究竟如何制作出来并能满足需要或不求甚解，或不感兴趣，或无从得知，或难以理解，如同面对黑箱。
这一点与上文中所述相一致——人们关注的是工作机的输出，并不在意工作机的工作原理，以及动力机与控制学习机的状况。这一点对于人机回圈十分重要，譬如说，人们并不在意在海陆空的交通工具如鱼、马和鸟。在正常情况下，使用者按照规则输入就可以得到合目的的输出。手机、电脑、摄像机和机器人等，在不同程度上都是科技黑箱。
科技黑箱把人机回圈中的人分为两类：位于科技黑箱之前，在供给侧的研发设计和制造者，以及使用科技黑箱，在需求侧的各色人等。
[i]吕乃基，论科技黑箱[J].自然辩证法研究2001.12
人机回圈：人类的科技化与科技的人文化（一、2）“机”的演化
2.“机”的演化方式
A.工作机-动力机-控制学习机的演化
工作机-动力机-控制学习机的演化方式，就是沿着由工作机、动力机到控制学习机的序列。人类早期技术的发展主要是“工作机”，如弓箭、有把的斧、简单的农具、磨、纺纱机和织布机等，需要直接来自自然界的动力，如风力、水力、畜力和人力，以及需要由人来操作和控制。这些工作机的载体大致同步演化，从石器到青铜到铁器。
第一次工业革命出现了动力机。虽然罗马时期的希罗曾发明某种蒸汽机，中国在12世纪发明了火药推动的火箭等，不过这些动力并未与工作机结合起来。瓦特的蒸汽机则是“万能机”，可以与各种工作机相结合。与此同时，在钟表、八音盒，甚至蒸汽机里，均可见初步的控制和负反馈装置。不过控制学习机的大规模出现和完善要在第二次工业革命之后，其标志是流水线和自动化。
20世纪至今，工作机与动力机在继续完善，相关的载体-材料也在不断改善，然而，这一时期技术发展的主流显然是控制学习机及其载体，其划时代的成果当属计算机和芯片。同时也出现了为控制学习机所独有的演化方式：“软件硬件化和硬件软件化http://mp.weixin.qq.com/s/D6Ft8FVR3-Fu3GR-2fCJAA”。
区块链可以归为控制学习机，控制的对象在理论上可以覆盖人类社会的所有契约关系。在相应的契约关系中，越多人参与，控制的效果就越好。区块链与往日的控制学习机的区别在于，控制者同时也是被控制者，我管人人，人人管我（虚实之间的“区块链”http://mp.weixin.qq.com/s/bM4TPTC3AVGWzl1gC1McOg），从而无需“中心”或第三方。与区块链“回圈”的“人”，会是现实世界中形形色色拥有权力的“中心”。
最新的趋势是，软件在与载体的“对垒”中获得越来越大的权重，一切皆可编程，“计算”已经成为“主义”，以及尽力摆脱载体的羁绊，一骑绝尘。亚里士多德试图将万物排列在以质料与形式为两级的谱系上，一端只有质料，没有形式；另一端只有形式，没有质料。在某种意义上，宇宙大爆炸之前的“奇点”，可以认为是只有质料而没有形式的一端。137亿年后，人机回圈中的“机”，其中的控制学习机，其中的软件，正在趋于谱系的另一端，只有形式，没有质料。
由互联网到物联网的发展突破工作机-动力机-控制学习机的框架，可以认为是将人类社会以及所有形形色色的“机”网罗起来，目标是“一网打尽”。网不是“机”，网在人机回圈中扮演了虚拟空间和平台的角色。
前者指将人机回圈运行的舞台由物理空间延伸到虚拟空间，在某种程度上可以说是，人在物理空间，机在虚拟空间；于是，人机回圈在此意义上就是物理空间与虚拟空间之间的回圈，“虚实回圈”。
平台的含义是，打破时空的限制，在网络上架起各种人机之间的桥梁，在越来越大和、更多元化的领域，非线性的作用方式，以及加速人机之间的回圈。平台不断自我扩张。
目前，控制学习机一方面趋于中心化，如云计算、谷歌、脸谱，中国的BAT等互联网巨头，“互联网大脑”（刘锋）初现端倪；另一方面也存在分散化和去中心化倾向，分散化意为把各个单项进行到底。周鸿帏认为，人工智能必须结合一个垂直的领域，以解决具体问题。
擅长于单个方面的人工智能虽然是弱人工智能，却有些类似于澄江生物群在寒武纪的大爆发。中科院计算所的一个课题组把研制的对象命名为“寒武纪”，是否意味着开启人工智能的“寒武纪”。去中心化的标志则是眼下炙手可热的区块链。未来，中心化与去中心化可能齐头并进，背后还会有国家权力的身影。
B.科技黑箱的演化
首先，科技黑箱演化最重要的方向是“运动形式”提升。
人类目前所认识的运动形式有6种：基本物理运动、宇观和微观物理运动、化学运动、生命运动，以及意识运动，宇观和微观物理运动的情况较为复杂，其他4种运动形式之间构成由简单到复杂的序列。
在第一次工业革命后，技术由钟表、热机和电机——大致限于基本物理运动（机械运动、热运动和电磁运动），经19和20世纪的炸药和化纤，也就是化学运动，发展到今日之生物技术和信息技术，由无机界、有机界而精神，一步步踏进人文文化的领地，进入马斯洛需求层次的高端。21世纪初露端倪的会聚技术，会聚了信息技术、生物技术、纳米技术和认知科学，全面进入人脑和意识领域。机器人沿着程序化由易到难的道路推进，渐次将人的思维机器化。
美国卡内基-梅隆大学机器人实验室主任汉斯·莫拉维克“觉得机器人的发展大体上重复了生物的进化，所涌现出的一代代机器人的性能类似于不断增加的动物神经系统的复杂性。”[i]哈萨比斯：构建的算法受到人类智慧和大脑工作方式的启发，试图模仿大脑解决这些复杂问题的方式。阿法狗将人类的骄傲，来无踪去无影的直觉，棋感、大局观等转化为程序和计算，化神奇为常理。
怎么理解互联网、物联网？显然，互联网和物联网是科技黑箱。所有使用“网”的人士中，不说完全，较为清晰理解个中三味的恐怕不足“二八”中的“二”。“网”又不是一般意义上的科技黑箱，是连接科技黑箱的科技黑箱，因而可以高度放大人机回圈的效应。不仅如此，还形成了既作为现实世界映射，又独立于现实世界的虚拟世界。
简言之，科技黑箱的演化在总体上追随人类——个体与社会——成长的足迹。在人机回圈中，二者之间的距离越来越近。
其次，科技黑箱越来越“黑”。
科技黑箱由简单到复杂，低级到高级的推移，也就是相关知识如力学、热学、电磁学、化学、生命科学、信息科学、心理学，乃至经济学和社会学的逐一黑箱化或被遮蔽。
一方面，集成于科技黑箱中的科技知识将越来越艰深，越来越复杂和越来越难以理解。另一方面，科技黑箱操作起来却会越来越简单越来越方便，往往只需按下键钮，移动鼠标，一切就都迎刃而解，这就是“人机界面”友好。在这一难一易之间，科技黑箱就变得越来越黑。
科技黑箱蕴含的运动形式提升与越来越黑与科技革命紧密相关。每次科学革命就在于使人类关于自然界的知识发生跃迁，随后发生的技术革命则将所获得的新知识集成，“封装”于科技黑箱之中。
近代科学革命提供了力学、微积分和初步的热学知识，蒸汽机即将其封装起来。19世纪电磁理论、热力学和有机化学得到发展，随即是电机、内燃机、染料和炸药。20世纪上半叶，量子力学、凝聚态物理学和数学得到发展，到后半叶生命科学获得突破，然后是电子计算机、光纤、纳米技术、航天飞机和互联网，等等。
如果说科学革命在于少数科学家掌握前所未知的知识，那么接踵而来的技术革命则把这些新知识按人的目的封装于科技黑箱之中。从而为广大的消费者得以共享。在此意义上可以认为，科学在于发现知识，而技术则传播知识，然后在科技黑箱所提供的共享知识的新的平台上从事新的发现和创造。
科技黑箱的上述演化特征与自然界的演化过程如出一辙。自然界的演化过程自然界中运动形式由简单到复杂，由低级到高级的系列，对应于自然界的物质层次。
在已知的物质层次上，夸克对于质子、中子是“封闭”的，核反应的能级不会影响到夸克，核物理学也不必虑及夸克。质子与中子之间的相互作用对原子和分子中核与电子的关系又是封闭的。凝聚态物理学、无机和有机化学不必考虑质子和中子。再往上，原子、分子中核与电子的相互作用对于生物行为基本上是封闭的。社会生物学家们一般并不需要多少量子化学的知识。
进而在社会科学和人文科学领域，最新的发展表明，一些基本的经济规律、管理规律也正在经历这一变化，如以集成为主要标志的CIMS，它给企业带来的最大变化，就是将企业运行中关于事实和规律的知识按一定的目的黑箱化。在CIMS之后是ERP。相应于自然界中的物质层次，有学科和知识的层次，进而有科技黑箱的层次。
作为科技黑箱，区块链眼下正在“封装”的对象是人类社会广泛存在而在现实世界难以落实的契约关系。
可以看到，正是自然界中低层次物质对于高层次物质的封闭性，导致低层次知识对于高层次知识的黑箱化，进而造就科技黑箱。这就是科技黑箱演化的客观依据。
科技黑箱下一步封装的对象会是人类社会按规则存在与运行的事情与过程。
在科技黑箱沿量子阶梯和马斯洛需求层次上升之际，另一个值得注意的进展是围绕着“量子”展开的一系列研究，在科学上是对意识的探索，在技术上是量子计算机。在这一特定领域的人机回圈可能在整体上引领更大范围的人机回圈，以及可能开拓人机回圈的新方向。
科技黑箱演化的又一个特征是，科技黑箱趋于获得越来越多自我学习的能力。20世纪中叶前，科技黑箱中所集成的知识来自其制成前外部的输入，而在而后的发展中，如柔性化生产、自适应、自学习等都表明已经制成的科技黑箱具有一定的自己获得知识，自我演化的能力。这就是上文述及的“机机回圈”。
机机回圈是追随人类的步伐，还是我行我素，另辟蹊径？
[i]转引自：黄永明，太聪明的机器人，南方周末2009-4-9