北大镜春园头脑激荡：第五次开放时代工作坊侧记

6月23日，由嘉兴赶回北京已是午夜，为的是不耽误第二天的研讨会。

24日，在北大镜春园，北京大学-香港理工大学中国社会工作研究中心，第五次开放时代工作坊在这里举行。

会议日程，就直接上照片了。

会议共分四个小节，前三个小节为报告环节，有11个报告；第四小节有一个小时的讨论。

非常荣幸在一个月之前，我收到北大社会学系教授，长江学者，北大中国社会与发展研究中心主任邱泽奇老师的邀请。邱泽奇教授师从中国社会学和人类学的奠基人费孝通先生，在社会学领域辛勤耕耘已超过30年，桃李天下、著作等身。最近10余年，他对互联网与社会的关系和相互影响，有深入的研究和独到的观点。2016年与国家信息中心首席信息师张新红老师，一道推动“信息社会50人论坛北大讲堂”活动（参见《读懂未来：信息社会北大讲堂》，上海远东出版社，2016年）。

非常遗憾的是，24日的研讨会，邱老师出差了，未能亲耳聆听他对这个主题的见解。

工作坊的主题是“技术与社会”，不过讨论的“技术焦点”主要围绕人工智能、机器人。一天的会下来，突出的感受有三点：

1、智能科技对人与社会的影响，已经急剧深化。与会老师从多个层面、多个学科探讨这一波智能科技的影响，包括类脑智能、智能与思维、人性的演变、复杂性思想、自组织理论等，很多议题触及对人、对智能、对思维的重新理解；也有老师从儒家思想的角度，深入剖析智能科技的哲学含义。

2、传统思维方式面临巨大挑战，是与会老师普遍的共识。比如“不确定性”问题，好几位老师都提到需要突破传统思维模式中“确定性”的偏好。我对这一观点深感欣慰，这也是我近几年在不同场合发表演讲的一个主旨。此外，哈佛燕京学社黄万盛教授认为，最大的困难是没有哲学支撑，以面对急剧改变的未来；同济大学孙周兴教授认为，自然人类已不可避免地向技术主导的类人文明演进，技术统治正压倒政治统治；社科院哲学所赵汀阳研究员指出，超级AI自主意识的觉醒，可能产生高于人的智能存在。

3、思考技术与未来，需要更高的视野。中科院自动化所曾毅研究员提醒，需要关心的不止是智能机器对人的影响，也要关心人对智能机器的影响；原国家信息中心副主任杜链老师指出，亟待建立未来思维的价值评价系统；中山大学陈少明教授，呼吁从个体幸福、人类存续的角度关注人类命运的问题；哈佛燕京学社黄万盛教授认为，分布式计算、算法能力、自我生长的AI等，会带来巨大的观念变革，他特别提醒对区块链应给予极大的关注。

正式的会议报告汇集，有待主办方后续的编辑整理。下面我根据自己的听会笔记和理解，对若干老师的发言做一素描式的整理，以飨读者。相关内容未经各位老师审阅，如有误传责任在我。需要说明的是，个别老师的发言未能及时笔记，只好略去，期待更完整、更准确的文本早期与大家见面。

1、中科院自动化所曾毅研究员报告的题目是：类脑智能研究——从认知建模到智能演化。曾老师的团队通过对微米尺度大鼠脑建立全脑神经网络计算模型，获得了很好的成果。有两个观点令我印象深刻：一个是“结构决定认知”，另一个是大鼠脑模型中存在的前向连接、反馈连接所构成的局部环路。环路的作用不只是记忆功能，还有过滤功能。通过研究，曾老师认为有望构建协同数百项认知功能的AI引擎，并对智能机器的自我认知开展深入的研究。

2、中国科技大学机器人实验室主任陈小平教授报告的题目，是“深度学习之后人工智能的新挑战和新机遇”。陈教授将智能问题划分为三个层次：现实层、数据层和知识层。陈教授简要回顾了AI的发展历程和机器人的演变过程，特别分析了AlphaGO Zero的内在机理，认为当前主流的AI是两条路径：

第一条是依赖解析模型的“暴力法”，采用人工编程+精确推理，主要作用于“知识层”；另一条路径是数据训练法，依赖采样一致化假设。这两条路径都存在局限性。

陈教授认为，致力于“消除不确定性”是当前AI技术的主要问题。包括像AlphaGO、机器人这样的应用都是如此。陈教授指出，容差性思维是中国人思维的一个重要特征，可以用来构建新的AI框架，这就是陈教授团队提出的“容差性的灵巧性技术”，这个是面向现实层的。

3、同济大学孙周兴教授报告的题目是，技术统治与类人文明。孙教授的主要观点是四个：一是认为技术统治压倒政治统治；二是自然的人类文明正在过渡到技术的类人文明；三是类人文明是人类身心的非自然化和技术化；四是未来哲学的使命在于如何重振全球共商机制。

孙教授认为，现代技术的四项风险是：核能、环境激素、基因工程和智能技术。这四项风险依次与物理学、化学、生物学和数学有关。前三项都是“杀伤性”的，而最后一项则可以抵抗这种杀伤力（当然自身也有杀伤力）。

由此，他认为保卫个体性和个体自由、类人新生命的规划，是两项重要挑战。归结起来，最重要的是提升全球政治共商机制，节制技术的加速发展，平衡技术的全面统治。

尼采研究是孙周兴教授的所长。他引用尼采“大政治”的提法，认为未来的政治是生命政治、生命哲学的“大政治”。孙教授翻译尼采的原话是：“创造一种对生命的袒护，强大到足以胜任大政治：这种大政治使生理学变成所有其他问题的主宰。”

孙教授认为1945年第一颗原子弹爆炸，标志着技术统治时代的到来。人类精神的技术化导致新类人的出现。有趣的是，孙教授是学地质学出身，他给出的这个标志性时间点，与近几年地质学界讨论的“人类世起点”的一种观点相似，比如英国莱斯特大学地质系的教授简·泽拉斯维茨(Jan Zalasiewicz)博士，力主“人类世”应纳入地质纪年，且起点就是1945年的那次核爆。

4、原国家信息中心副主任杜链报告的题目是“智能思维的异化与挑战”。杜老师开宗明义提出“互联网时期的国家治理”是当前紧迫的课题。他指出，网络权力、数据资本化和智能思维，是智能时代面临的三大挑战。杜老师问道：我们需要何种理论和世界观的准备？他认为能否建立对未来思维的价值评价系统是关键所在。

在谈到智能思维的异化时，杜老师说，这一异化主要体现在“消除不确定性”。当前的智能思维主要表现为大数据+智能算法。杜老师进一步分析了逻辑、语言的局限性，提出了智能介入肉体，是否会促使价值观蜕化的问题。发言中，杜老师也谈到了信息的主体特征、机器的主体化和自组织下的动力系统等问题。

5、清华大学张小军教授报告的题目是：以何为人？何以为人？——“人工智人”的哲学人类学思考。

张教授提出的核心问题是“人工智能有生命吗？有思维吗？”他认为，人脑是信息自组织处理器，而思维则是人脑通过处理信息获得生命秩序的信息自组织动力学过程。

在张教授看来，人工智能本质上是“经验智能”。所谓经验智能，就是人脑处理信息的能力结晶。

张教授引用人类学家列维-施特劳斯的观点，二分的心智结构是降低复杂度（降维）的有效方式，因果分析是寻求线性秩序的最简单方案。消除不确定性，广义上是语言和文化的形成过程，语言和文化是消除不确定性的自组织法则的产物。而文化的本质，则是尊从自组织规律的意义和秩序。

张教授认为，自组织法则是连接AI和机器智能的深层法则。巧合的是，本次研讨会上，包括我在内，有三位出席者都提到了MIT物理学家泰格马克的《生命3.0》，北大哲学系科技哲学与科技史教授周程老师的发言内容，主要剖析了《生命3.0》的思想框架，深入分析人工智能时代的道德秩序的建构问题。

6、社科院哲学所赵汀阳研究员报告的题目是，人工智能有哪些问题是要命的？

传统观点认为，技术只是人的延伸。但AI却是存在论革命，是大脑革命。赵老师认为，当前讨论智能科技存在的一个主要问题是“太拟人化”。主要原因是以人为中心的现代启蒙，中毒太深。尼采以来的价值观已经死亡，不能以“拟人”的方式来谈论智能技术，人工智能不需要“像人”。

赵老师先分析了“不那么要命”的问题。目前专业的AI，信奉“白痴天才”带来的后果是失业，人们失去劳动机会，丧失了生活的意义。但失业不是要命的，要命的是失去劳动权。AI代替人的劳动之后，娱乐就成了劳动。

另一个不太要命的，是所谓专制革命、威胁民主。这是一定会发生的，而且专制与民主的合流（混合制度）也是一定会发生的。进入智能时代，系统为王，可能会维持更加严苛的等级制，人的分化更加严重，平等是没有希望的。

赵老师进而谈到了或许致命的问题是：人与人的关系的异化。AI大举进入人的日常生活，人变得越来越不依靠“他人”。现代社会一个重要的发明就是发明个人，这是对边界的需要，个人是边界内的。但边界消失了，只有感官的快乐，人将退化为猪，社会重新愚昧化。

那么，真正致命的是什么呢？赵老师认为，真正致命的是AI武器的出现。基于AI的战争威胁大大增加。超级AI自主意识的觉醒，高于人的智能的出现，这才是真正致命的威胁。

赵老师问道，超级AI需要什么能力？当前AI依然是人的思维方式。高级的人的智能，需要奠基在数学、逻辑、创造力的基础上。而创造力是最为重要的，创造力可以改变和重组某些东西，发散的意义链，让人有所发现。创造即改变规则。

在最后的自由讨论时段，赵汀阳老师阐述了对价值的看法。他认为“超出利益的才叫价值”。换句话说，不给钱也干，或者给多少钱也不干的，才叫价值，否则就是偏好。民主、平等、自由等等，这些也还都是偏好，而不是价值。他问道：这样的价值对人工智能是否存在？这是值得思考的问题。人的价值是如何进化出来的？不管用何种工作语言，AI科学家是否有能力，通过算法模型表达人类想表达的事情？AI是否有这样的能力，即自己萌生自发性的问题？如果有，这样的AI才是真正的威胁。

7、驭势科技创始人，原英特尔研究院院长吴甘沙博士报告的题目是：无人驾驶与社会。

吴老师用大家感同身受的城市出行作为引子，指出城市拥堵带来的时间损失、经济损失和情感损失。他引用麦肯锡、RethinkX的报告说，2030年私家车可能终结。因为一辆无人驾驶车相当于8-10辆私家车；用无人驾驶共享汽车和公交车，比自买私家车便宜4-10倍。未来95%的出行里程，可以由无人驾驶承担。

吴老师用视频方式展示了目前无人驾驶汽车、可拼接城市公交系统、智能停车系统，以及由此演化而来的物流系统、新零售系统等，认为无人驾驶可以让城市重新回到以人为中心。

吴老师介绍了驭势科技做无人驾驶未来15年希望达到的愿景“2031”，即到2031年，实现零事故和零拥堵；出行和物流成本降低1/3，道路和停车空间占用降低1/3，将1/3的路上时间转化为生产时间。

8、哈佛燕京学社高级研究院黄万盛老师，是第一节主题发言的点评人，并在最后环节做了发言。黄老师指出，当前思考AI最大的挑战是“没有哲学”。他认为从AI角度切入思考，需要考虑分布式算法带来的观念变革，思考算法能力（特别量子计算）带来的革命性变化，以及AI自我成长、自我博弈能力的大大增强。黄老师对我在发言中斗胆提出的“99%的区块链思考都有误读”表示支持，并认为区块链技术是需要认真对待的一项技术。

在最后的讨论环节，黄老师谈到，把劳动作为生命乐趣，从来没有全面实现过。人在各种条件下参与社会活动，需要不同的条件和支持。他提醒要尽量避免用启蒙运动对技术的批判，来理解新技术。他称之为“想象的批判”。

黄老师认为当前最严峻的挑战是“数据资本化”问题。数据资本化和资本数据化的侵蚀范围、力度，前所未有。这是一个全新的问题。更严重的问题是互联网时代的分配问题。如何平衡网络自主和政府治理的边界，是一个核心问题。

黄老师从哲学角度指出，知识论体系的动力，来源于对无穷大无穷小的探索，但还有无穷远无穷近的问题，被大大忽略了。这四个无穷的探索，是哲学发展的动力。需要思考的是，如何纳入这个框架，构建全新的动态的世界观。

下面简要介绍我在这次工作坊中的发言。我发言的题目是：人工智能——雄心和隐忧。我的发言包括三部分：感受人工智能、认识人工智能、深思人工智能。我的主要思考是：

我们讨论和思考人工智能的语境可能大成问题，我们是“带口音”的思考。人工智能是一个极具西方思想特征的产物，即Logos思想。Pamela McCorduck曾经指出：“某种形式上的人工智能是一个遍布于西方知识分子历史的观点，是一个急需被实现的梦想。”西方文艺复兴以来，强悍的理性革命，日益渗透到思想的核心，比如霍布斯说“推理就是计算”；莱布尼茨则直白地讲：哲学家之间，就像会计师之间一样，不再需要争辩。他们只要拿出铅笔放在石板上，然后向对方说（如果想要的话，可以请一位朋友作为证人）：让我们开始算吧！

这种观点迄今深入人心。泰格马克的《生命3.0 》的本质，就是坚定地相信这种计算代替意义的时代一定会到来。

我非常高兴地在本次工作坊，听到许多老师谈论“不确定性”的价值。我认为不确定性是一个根本性的特征。此外，我也介绍了近几年对“意义互联网”的思考。我认为智能科技所触及的根本问题，是意义问题。

在与赵汀阳老师在茶歇时交流，我认为AI最致命的问题是两个：一个是深层思考的时间窗口，已经迫在眉睫。另一个是人是低分辨率的物种，而新智能的感知分辨力大大超过人。我开玩笑跟赵老师说，其实最大的威胁是，智能机器最终会把人“逼疯”。

在发言中我提到的未来挑战，是肉身世界和数字世界融合后，带来的多重人格、多重化身的问题，而当前的解释系统已然失效的问题。这一问题得到几位与会老师的赞同。

一天的讨论很快过去了，正如组织者之一中山大学教授、《开放时代》杂志社特约主编吴重庆老师在微信群里说的那样：看起来，很散淡，但很多人都“来了感觉”。

再次感谢各位老师精彩、睿智的思想，感谢主办方各位老师的辛勤努力。

思想的道路任重道远。共勉。