主题：神经计算：大脑给计算的启示
时间：北京时间2015.1.18 周日早10:30 ▏美东时间1.17 晚9:30
主讲人：宋森，清华大学医学院生物医学工程系
主持人：苏中秋，艺术家
文字整理：朱篱；翻译：刘晓倩；图文编辑：王媛
苏中秋:宋森，男，博士，清华大学医学院生物医学工程系及清华类脑研究中心，研究员、博士生导师。 1991年 13岁时考入西安交通大学少年班。 2002年获美国布兰戴斯大学神经学博士学位。毕业后在冷泉港实验室及麻省理工学院完成了博士后研究。于 2010年加入清华大学生物医学工程系。
宋森:我先自我介绍一下:我从小主要有三个兴趣——人工智能、精神生活、大同社会。所以现在研究也和这些有关，一级一级更难。今天主要讲第一个兴趣相关内容，实现第一个，我觉得人就不用搞物质生产了。所谓奇点，那人存在的意义是啥呢，就是精神生活，然后也为大同社会创造了条件，这是序言。
我13岁前其实主要兴趣是人工智能，精神生活是大学期间主要兴趣，然后大同社会要上研究生之后，所以是个渐进的过程。
另外做个广告，今年中国会推出国家脑计划，大脑研究的春天要来了。
苏中秋：交大前校长是否也是这领域？
宋森：有点关系，他更多是传统自动化研究。但现在好像他对这块也有兴趣。
苏中秋：嗯，以后以人名命名科学概念，就是脑科学了。
宋森：仿脑人工智能是其中一块，国家把智能机器人拆成了两块，智能放到脑计划里面了，机器人硬件放到先进制造。
如上图是把计算机芯片和大脑计算能力做了个简单比较。中心思想是，现在单个计算机芯片的元件复杂度解决鼠脑，整个集群肯定是超过人脑，而且计算机的运输速度比人脑快几百万倍。所以其实要模拟整个大脑，计算速度限制已经不是主要瓶颈，主要是不理解大脑的具体算法，其中一个重要环节就是搞清楚大脑的线路图，这就是世界上在搞的脑连接组学的意义。在这里插播一个广告：我博士后导师的书，叫脑连接组，我学生翻译的，今年3-4月会由果壳和清华出版。
好，如上图，科普下神经基本知识，神经元是大脑的基本单元，你可以认为有点像二极管，三极管，有树突，有点像树，这个接收信号，然后在中间那个圆的地方整合，叫胞体，这个地方要做出一个决定。就是是不是要把信号往下传，你可以想象是侦察兵，他决定要不要上报,后如果他觉得已经超过阈值，要上报，他就发电报,一串0 1 的编码从轴突（有点像电缆）上发给下游接收方,后信号到达所谓突触的地方，被变成化学信号阈值／阈限,化学信号会在下一级的树突上被变回成电信号，反复这个过程,个过程中要注意的是：1 模拟信号到数字信号的转变让信号可以长距离传输,2 电信号到化学再到电,这里可以实现放大，极性转变等复杂过程:电一化一电。
如上图:这里讲的是阈值问题:如果没到阈值，就不传，达到就发一个动作电位，下图是总纲。大家看一下。
第一个问题是:大脑是如何编码的,这个是去年诺贝尔奖的内容——记忆如何在大脑中被编码。总的来说，有两种理论,第一种叫局部编码理论，又叫外婆细胞理论,如下图。
大概意思是说，你的脑子里有一些细胞。比如每次你看见你外婆，他就会放电（发放电脉冲，表示有反应）。而这些细胞对其他细胞都没有反应。其他刺激（比如外界事物）。刚提出来的时候，大家一笑置之。但请看下一张图。
大家从人脑中记录，发现了aniston神经元，这是老友记中的一个女演员，每张图下面表示发放多少，可以看到只对这个演员反应多，其他名人头像反应不大，对其他物体更少。
如上图，那么对于老鼠，它关心的是空间位置。那儿有猫，那儿有事物等，所以在老鼠的海马，去年诺贝尔奖得主John O'kefee 发现了place cell 空间细胞，图中不同颜色代表不同的细胞。可以看到不同细胞在空间不同地方发放。
如上图，那个这个空间细胞如何被计算出来？嗯， 是个爱尔兰明早，这个o'kefee是英国科学家，另外一对科学家，moser夫妇的贡献是在大脑另一个地方发现了grid cell，这些细胞的发放形成一个网格，大家可以想象可以用网格来计算空间位置。八卦一个，其实有些人（包括我）觉得moser的贡献虽然重要，但不够诺贝尔奖，但是后来大家查到了诺贝尔的遗嘱，就没气了，因为里面写的是要优先发给北欧人，所以我们中国人要搞个奖，然后写个，优先发给中国人。这样比较解气。
还是蛮爱国的。好，如上图。说的是，如何记住几个事情，比如你背电话号码。为啥只有7位，这是因为我们的工作记忆只是7 -2位，有的人多点，有的人少点,点的智商可能就高点。：）在老鼠中的研究发现，（上面第2张图）可能是因为大脑中有脑电波，然后脑电波中分成几个位置，不同的记忆在不同的相位发放，这和手机的分时系统是一个原理。
如上图。刚才这个分时的事也是o'kefee发现的。所以他拿诺贝尔是没有争议的。关于大脑计算这部分。我讲一下一个转化成功的例子。就是最近很火的深度学习。大家知道百度最近投了很多钱。
上图，是说这类系统是仿造高等灵长动物的视觉系统原理设计的。
上图，2012年，这类算法首次在一个全世界瞩目的竞赛中比原有算法取得了很大进展。很快就被google用几亿美元把他和两个学生开的小公司卖掉了,就是买他的脑子，然后去年脸书花了几亿把这个领域另外一个大牛买了，百度花了几亿买了个二流一点的学者，总之最近很火，我本人大概2006年开始和hinton交流过以后把这类算法用到了大脑相关东西上。不过我解释下,这个领域一流的只有三个人。二流不是贬低他,第三个叫 Joshua Bengio,在蒙特利尔大学,三个人都是在领域中超过20年。上上下下都经历了。他不是太差。
Geoffrey Hinton，被google买了。在多伦多大学。
Yann Lecun，被脸书买了。在纽约大学。这个领域里面基本所有新思路都是这三个人提出。一大帮人是他们学生。然后其他人都是在他们基础上修修补补。（吴是大概7年前转行进来，但他很会宣传，对炒热这个领域做了不少贡献，但原创成果，不好意思，没有,好，八卦完，继续讲.
如上图，可以看到，这类算法的主要进展，是学习了大脑是一个多层的网络的特性,这个是和我们时间的性质有关.视觉世界是一个有层次的东西。大的东西里面包含小的。所以用一个多层次的结构来表征，就正好对了。语言等也类似。但嗅觉就不是这样，所以大脑里面的嗅觉不是这样的形式，视觉世界是一个有层次的东西。大的东西里面包含小的。所以用什么样的结构和要表征的东西的特性有关。
如上图,总之，这种多层次（深度）的网络取得了重大成果，在很多困难的人工智能领域刷新了成绩，基本上，所到之处，摧枯拉朽。
上图是说，这些算法的设计，借鉴了过去40年神经科学的研究成果，不然不可能实现。
如上图所示，下面是我自己的研究了，第一个问题是，大脑为啥省电？人大脑大概20瓦。显然现在计算机完成相应功能是几兆瓦。基本需要一个核电站供电。所以如果要人人一个仿人机器人。不可能。这是因为底层设计不一样。现有计算机是串行的，而大脑是并行的。所以提出底层仿大脑的硬件结构，迫在眉睫。这个是世界上的热点，因为，按照摩尔定律的微缩会在5年内到极限，如果这个发生，各大芯片公司就会破产，因为他们的生产已经转移到台湾和韩国了，所以神经形态芯片是各公司发展的下一步。比如惠普已投入公司3/4人员，高通等也在布局，IBM一马当先，美国军方给了他们一亿美元，他们去年下半年做出了原型。
如上图。看到这个，中国坐不住了，所以清华成立了类脑计算中心。总之中国也要做。估计美国第一个大应用是无人机，你想，好可怕，搞几千个像鸟一样的小飞机过来，发射带剧毒的小钢珠，弄死个把人还不是小菜。
Joy Guo:中国不惜血本投入，美国这边教授压力很大，下午听他们讲的。。刚�新闻，美国情报部门军方搞了个大型科研基金，开放申请。
如图，这个讲的是大脑学习算法。
美国对科研投入太少，所以我就回国了。
上面一张图是自吹自擂的。请多多包涵。这个说的是我的博士论文，阐明了大脑里面基础学习算法的一些计算性质。不详细解释了。太复杂。你可以认为是巴普洛夫的狗实验在单个神经元上的实现。就是重复很多次A预测B，下次你说A，他就会说哦，下面是B，我当时做的时候是个纯理论研究。
上图中说的是，无独有偶，10年后，大家发现了一种纳米材料，可以从器件层次上实现这套东西，所以这个东西是现在神经形态芯片的核心。打个不恰当的比方，就好像是冯诺依曼，搞了套数学，没人理他，后来过了20年，发现了电子管，可以做了，大家一下兴趣来了。就给他追认个啥。有点这意思。
图灵就比较可怜,因为搞同性恋,已经在迫害下自杀了,就没等到好时候,所以活得久很重要。
如上图，这个就是狂想了，我现在搞的东西，越来越不靠谱。是说大脑为啥有创造力。
上图是说，大脑一个重要观察是有很多所谓噪音。这个原因现在已经知道聊。就是兴奋和抑制平衡，你可以理解为阴阳平衡的概念。
如上图,这种状态下就会自组织到一个临界态，叫混沌的边缘。
如上图，这个自组织的临界态。
如上图，是说如何检验大脑是否是临界态，就是各个尺度的扰动都有。就是有比较穷的人，也有很富的人，总之你要两个东西平衡，生产和耗散平衡也是一种。
我觉着控制扰动就是自由意志。这是另一个报告了。
我们看上图中，大脑有很多达到平衡的机制，我发现了几种，还有很多人的贡献。
如上图，是狂想，我觉得人的精神活动的一些特征和这个有关，就是一个小东西可以长大，比如一个小点子，可能一开始一个小扰动，然后和其他很多想法连接起来，最后形成一个大灵感，另外你做梦，可能就是产生这些东西的一个时候，所以做梦产生灵感，因为是边缘，所以不是完全有序，也不是完全无序，而且无序度大脑可以自主控制，比如考试的时候，就有序些，做梦就无序些，一般来说，压力大的时候有序些，所以没有创造力。先保命要紧。放松的时候更无序。所以中国如果下一步国策是鼓励创新，就要建立社保。还要把教育系统彻底改掉，把命移植到数字系统中。
好，如上图所示，现在有另一个领域叫神经经济学。主要研究人怎么在复杂有不确定性的环境下做决定。我们现在对大脑智能的各个方面有了比较多得认识。现在的前沿是把这些拼起来，形成一个智能系统。
上图是为我的另外研究做广告，就是如何幸福感的神经基础，大家有兴趣改天给大家说。
今日的分享内容就此结束。
苏中秋：幸福胶囊
宋森：主要是一套生活方式。
苏中秋：非常精采！
Jin ：谢谢！
苏中秋：提问题时间
宋森：类似移动医疗那个概念，移动健康管理系统。
苏中秋：幸福要对心还是对身？
宋森：心和身关联度挺大，两方面都要下手。欧盟分三方面，脑研究，脑疾病，人造脑，有一个中心指挥部，美国其实有很多计划，最近这个叫BRAIN的计划，主要强调新的大脑研究技术，现在欧盟和美国在合作，中国的计划比较好玩，美国的计划比较松散，基本就是给钱，没有统一规划，中国一开始想搞出和这两个不同的补充计划，但后来发现没有什么特别大的方向他们不搞了，所以基本内容可能类似，但有几个特色，一个会是猴子，这个欧洲人民反对，所以没法搞。日本把这个作为他们全部脑计划。中国估计会做为一个特色，另一个特色是大规模疾病研究，因为中国病人多，还有我提到的仿脑芯片研究，这个是大型工程，比较适合中国，你看美国就委托给大公司去搞，中国要作为国家计划搞，习近平指示和登月一个级别的，还有教育，可能也是一个特色，大概就是这样。
苏中秋：你的项目在中国的脑计划中？
宋森：最终方案还没拿出来，肯定是集中式为多，但具体怎么管理还不知道。如果不出意外。
苏中秋：教育怎样说？
宋森：比如如何培养创造力，配合教育改革的一些研究，主要是北师大在做。
苏中秋：有什么方案及进展？
宋森：对记忆力进展有些，现在也有人研究性格。
宋森：这个好！这个kahnman得了诺贝尔经济奖的，其实国内这方面研究的人太少。
苏中秋：神经经济学。
宋森：最近上海纽约大学成立了个这方面研究中心，纽约大学在上海的分部
苏中秋：应与海森堡的不确定原理有关联吧
宋森：好像没有大的关联，这个不确定主要是混沌造成的。
Joy Guo：从外行角度，我也觉得从计算角度模拟大脑不靠谱，计算是逻辑的连续的，而人的思维情感是跳跃的，间断的，如何模仿？
宋森：看你把什么叫计算了，所以我们要做仿脑计算机，看来大家说的计算不是一回事。有广义的，狭义的，广义的，任何信息转换都叫计算。
苏中秋：如果将一个集合模块为一个神经元，计算机应能实现仿脑计算。
宋森：在这个意义上可以说大脑在做计算，狭义是指冯诺依曼那些理论，这个大脑底层肯定不是这样的，所以你可以说大脑（mind)不是计算，joy那个问题比较好解释：大脑不是跳跃的，意识是跳跃的，因为有注意力，他每个时刻注意不同的东西。
苏中秋：阈值。
敬请关注
2015年的阅·录·评
文章有问题？点此查看未经处理的缓存