埃隆 · 马斯克要搞脑机融合，是神话还是灾难？

      导读：“当你的念头一闪而过，电视机或车库门就打开了”。这不是异想天开，这是SpaceX、特斯拉汽车及PayPal三家公司的创始人埃隆 · 马斯克的最新提法。他和霍金都在预警人工智能对人类的极大威胁，马斯克还把AI发展喻为“召唤恶魔”。但神奇的是，他居然宣称对此有了对应措施：先把人脑与人工智能融合。还说干就干，成立了新公司Neuralink。     

      本文由广州大学R立方研究所所长、中山大学人机互联实验室主任、哲学教授翟振明撰写，他要告诉我们的正是马斯克这种想法，是“最危险的念头”。翟教授为什么要坚决抵制这种想法？为什么认为马斯克的”脑机融合”会对人类造成威胁？请阅读全文，详细了解。     

      “一旦大家脑部被插，无论是在VR还是AI领域的人干的，可能结果就是人类文明的终结。”这可不是危言耸听。

 马斯克的脑机融合是最危险的念头

马斯克和霍金都在预警人工智能对人类的极大威胁，马斯克还宣称有了应对措施：先把人脑与人工智能融合。他还说干就干，成立了新公司。

但我的预警却是：马斯克要做的事对人类的威胁，比人工智能的威胁要大得多。

致命的问题

埃隆·马斯克（Elon Musk）成立的新公司Neuralink要把人脑与计算机直接融合。马斯克宣称，人类社会即将全面进入人工智能时代，为了避免被新物种——超人工智能威胁甚至消灭，人们唯一的出路就是将自己的大脑与AI融为一体。

但是，无论是马斯克之流的AI脑机接口派还是VR领域的直接输入派，都没回答过这样一个致命的问题：“你们知道如何防止人类的自我意识被彻底抹除吗？”

信息与信号的分离或混淆

我们的自然感官，主要是让我们接受认知性的信息，而不是让外来的控制信号随便侵入，这就为保护和维持我们每个个体的主体地位打下了基础。有鉴于此，我们必须要坚持如下三条初始状态的“非对称原则”：

1. 从客体到主体这个方向，信息越通畅越好，控制信号阻滞度越高越好。

2. 从主体到客体这个方向，控制信号越畅通越好，信息密封度越高越好。

3. 以上两条的松动调节，以最严苛的程序保证以各个主体为主导。 

那么，如果现在放开搞“脑机连接”，危险在哪里呢？对照以上原则，我们可以归纳出以下几方面的可能风险。

其一，由于现今人类对自己的大脑与自我意识的关联的认识还非常有限，也对认知性智能与自由意志之间的关联的认识基本为零，在这样无知的前提下贸然实施大脑直接干涉，很有可能将人类的自我意识（或曰“灵魂”）严重破坏甚至彻底抹除。

其二，就算没有抹除，在作为认知材料的“信息”和控制人的行为的“信号”之间不能做到基本分离的社会和技术条件下，有了绕过人的自然感官直接刺激脑中枢的技术手段，将给一部分人控制另一部分人提供极大的方便，对人的自由和尊严构成严重的外来威胁。

其三，当人们还没达成法律共识将脑机接口的信息和信号的流向设置权完全赋予同一主体之前，一个人由于可能直接被外来意识控制所带来的损失，比他可以直接控制外部设备所带来的方便，或许要大得多。

以上几条不同层面的风险，哪一条都足以构成我们联合抵制马斯克等人的“脑机融合”项目的充足理由。

被夸大的人工智能的威胁

以马斯克为代表的一部分人担忧，如果怀有恶意的个人/组织/集团/政府率先掌握了超人工智能技术并用其实现自己的邪恶计划，那么人类的处境将会变得岌岌可危。但是，这类危机来源围绕的仍旧是人的动机，关涉的依然是人与人之间的操纵与被操纵的“政治”问题，而无关乎人工智能是否具有“征服”的意图。

只要不脱离人际间的关系，看似由人工智能所导致的控制危机实质上就仍然属于人类自古以来一直都在面对的统治与被统治的话题。这与黑幕后的政客或极端恐怖分子掌握大规模杀伤性武器本质上是一样的，也与我们造了大坝却对其后果难以预测和把控的情况相差无几。

所以，人工智能这项新型技术可能会对我们过往经验构成严峻挑战，但并不会产生完全不同类型的新问题。也就是说，人们担心的“智能爆炸”所引发的后果并不是一个新难题，而是一系列老问题的叠加。

虚拟现实的颠覆性

著有《未来简史》的哲学家赫拉利最近在英国的《卫报》发表了一篇文章，题为“无需就业就实现人生意义”，宣称人工智能的发展将大多数人变成“不可就业”后，虚拟现实让人们直接实现生活的意义。他还把人们在VR世界中与生产力脱离的活动类比于古往今来的宗教活动，试图说明人们从来都是在生产活动之外才找到深层意义的源头。

赫拉利认为劳作不是生活意义的源头，与我们以上的观点不谋而合。但他将人们在虚拟世界中的活动与宗教类比，却忽略了一个最重要的问题，那就是，在宗教中，人一般被当成被造的存在，而在虚拟世界中，每个人都可以是世界的“造物主”。他没注意到，“创造”与“被造”，是相反的。

在VR与物联网整一起之前，VR只是一个体验的世界，很多东西并不会在真实社会中直接造成实质性后果。VR和物联网整在一起就不一样了，那就是ER，扩展现实，我们此时就可以从虚拟世界操作现实世界中的物理过程，完成生产任务了。这方面我们界定完了以后，就可以讨论，到底在现实世界不能干的事情，是否可以允许人们在虚拟世界中去实现。

有人认为现实世界不许干的事都是坏事，那可不一定。比如说，现实生活中有国界，而虚拟世界中可以没有国界，没国界到底是好事还是坏事？没有进一步讨论之前，我们先不要轻易下结论。一下子从管制角度看，它好像是坏事，但是终极来看也许并不是坏事。是我们制度要适应这种东西，而不是倒过来，让我们适应已有的制度。

这就需要非常严格的逻辑思维，对人类社会本性有一种透彻的理解，对我们的生活的内在价值，都要有一些比较深刻的理解，才能想清楚这些我们必须面对的新问题。这就有很多思想资源，有两千多年来哲学家讨论的东西，平时人家不关心这些。现在虚拟世界和人工智能等东西来了，那些东西就变成任何人都要面对的事情。我们立法，和人建立关系打交道，都变成要思考最抽象的哲学问题了，这就要激活大家的人文理性。

VR领域真正的问题，其实是与马斯克的“脑机融合”项目类似的问题。虚拟现实行业的不少人与马斯克有类似的危险想法，就是绕过人的自然感官直接刺激脑中枢来给人输入虚拟世界的信号。经过我们以上的分析，我们知道，这是万万使不得的。

不同的是，VR这边形势更加紧迫，却少有人关注。虚拟现实与物联网的结合是不久后几乎必然要发生的事情，我已在实验室中做出了可操作的原型了。做出这个，就是要警示大家，弄好了我们接近神仙，弄不好呢，马斯克还没来得及做的事，被虚拟现实大牛抢先了。一旦大家脑部被插，无论是在VR还是AI领域的人干的，可能结果就是人类文明的终结。

本文作者

翟振明

广州大学R立方研究所所长

中山大学人机互联实验室主任、哲学教授

呼吸公社

2020首期线上研讨会

呼吸公社是由服务器艺术搭建的一个跨学科、多媒体的思想交流平台。它汇聚艺术与科学、哲学、人文各学科领域的精英人脉，合力打造一个理性思想与感性经验交互碰撞、沟通和融合的跨界空间，以此探讨并追究艺术、科学、哲学对于人类存在的意义。呼吸公社通过定期举办跨领域的学术对话、讲座、论坛，以闭门与公开、线上与线下等各种交流传播形式，不断拓展并突破现代社会的知识视界和思想疆域。

服务器艺术以服务人类的智慧与知识生产为宗旨，将承载一个跨学科、多媒体的思想交流平台“呼吸公社”。同时服务器艺术立足于艺术的当代性、国际性和原创性，致力于探究全球语境下当代艺术的精神内涵和价值取向，并以收藏、研究优秀当代艺术作品的新型模式，推动中国当代艺术在人类知识基因、文化根性和历史文脉上的不断建构和发展。