神经形态计算:生物启发式的人工神经网络设计 | 集智百科
目录
一、神经生物学启发二、代表性成果三、伦理问题四、军民两用技术五、法律问题六、神经忆阻系统七、编者推荐八、百科项目志愿者招募九、集智百科平台底层维护人员招募
神经形态工程 Neuromorphic engineering(也称为神经形态计算 Neuromorphic computing或类脑计算 Brain-inspired computing)是指使用包含电子模拟电路的超大规模集成电路系统来模拟神经系统中生理结构的研究方法。神经形态计算机或神经形态芯片包括任何使用由硅制成的人造神经元进行计算的设备。近年来,神经形态学 neuromorphic被用来描述能够实现神经系统模型功能(如感知、运动控制,多感官整合等)的模拟、数字、模拟/数字混合模式超大规模集成电路和软件系统。神经形态计算的硬件实现可以通过基于氧化物的记忆电阻器 Memristor(简称忆阻器)、自旋电子存储器、阈值开关和晶体管来实现。对基于软件的脉冲神经网络系统的训练可以通过误差反向传播机制来实现,例如,使用snnTorch等基于Python的框架,或使用BindsNet等典型的受生物启发的学习模式。
神经形态工程领域的一个关键问题,就是理解单个神经元形态、神经回路、应用和整体结构如何产生理想的计算,如何影响信息的表示和对破坏的鲁棒性,如何整合学习和发展,如何适应局部变化(可塑性) 并促进逐渐发展的变化。
神经形态工程是以生物学、物理学、数学、计算机科学和电子工程等学科为基础,设计人工神经系统(如视觉系统、头眼系统、听觉处理器以及物理结构和设计原则都受启发于生物神经系统的自主机器人)的一门交叉学科。20世纪80年代后期,Carver Mead极大地推动了神经形态工程领域的发展。
神经生物学启发
神经形态工程形成的灵感来源于现已知的大脑结构及运作机制知识,它将我们对大脑功能的了解用于研究和优化计算机系统。该领域工作主要集中于对生物计算模拟特性和神经元在认知中所发挥作用的复刻。
神经元及其突触的生理学过程极其复杂,难以进行人工模拟。神经元在所有处理过程中都使用化学模拟信号,这是大脑的一个关键生理学特征。这个特征大大增加了在计算机中复制大脑的难度,因为目前的计算机是完全数字化的。然而,部分特征可以抽象为数学函数,这些函数能够紧密捕捉神经元运行的本质。
神经形态计算的目标不是完美地模拟大脑及其所有功能,而是利用已知的大脑结构和运转机制来研发或优化实际的计算系统。任何神经形态学系统都不会声称或试图复制神经元和突触中的每一个元素,但所有人都一致认可将计算高度分散于一系列类似于神经元的小型计算元素的理念。研究人员用不同的方法来追求这一普遍目标。
代表性成果
早在2006年,佐治亚理工学院的研究人员就研发出了一种现场可编程神经阵列。在此之后,一系列越来越复杂的浮栅晶体管阵列被成功研发出来,这些晶体管阵列可以通过在金属-氧化物半导体效应晶体管MOSFET的栅极上编程来模拟大脑中神经元的离子通道特性,这也是以硅为主要材料的可编程神经元阵列的最早成功案例之一。
2011年11月,麻省理工学院的一组研究人员研发出一种计算机芯片,该芯片上使用标准的互补金属氧化物半导体CMOS制造技术集成了400个晶体管,能够模拟神经元间突触中基于离子的通讯。
2012年6月,普渡大学的自旋电子学研究人员发表了一篇关于利用侧向自旋阀和忆阻器设计神经形态芯片的论文。他们认为,这种芯片结构的工作原理与神经元相似,因此可以用于大脑运行机制的复刻方法的测试。此外,这些芯片在能耗方面明显优于传统芯片。
惠普实验室在莫特忆阻器上的研究表明,尽管它们可以是非易失性的,但是在相变温度以下时表现出的易失性行为可以被用来制造类神经元电阻器(一种生物学启发的模仿神经元行为的硬件)。2013年9月,他们通过模型和仿真展示了这些类神经元电阻器的脉冲行为如何产生图灵机的所需元素。
神经栅格 Neurogrid是由斯坦福大学Brains in Silicon公司研发的、使用神经形态工程原理设计的硬件。该电路板由16个定制设计的芯片组成。在设计中,每个NeuroCore芯片的模拟电路对65536个神经元的神经元素进行模拟,以最大限度地提高能量效率。模拟出的神经元通过设计的数字电路连接,以最大化脉冲吞吐量。
人类大脑计划 Human Brain Project对神经形态工程具有较大影响,其主要任务是尝试用生物数据在超级计算机中模拟完整的人脑。人类大脑计划由神经科学、医学和计算机科学背景的研究人员组成。该项目的联合主管亨利•马克拉姆 Henry Markram表示,人类大脑计划的目的是建立一个探索和了解脑科学和脑疾病知识的基础,并利用这些知识来构建更先进的计算机技术。这个项目的三个主要目标分别是: 更好地理解大脑的各个部分是如何相互配合协同工作的; 理解如何客观地诊断和治疗脑部疾病; 以及利用对人类大脑的理解来开发神经形态计算机。模拟一个完整的人类大脑需要一台比现在强大一千倍的超级计算机,这不断激发着对神经形态计算机领域的研究兴趣。欧盟委员会已经向人类大脑计划拨款13亿美元。
其他与神经形态工程有关的研究还包括脑计划BRAIN initiative和IBM研发的TrueNorth芯片。使用纳米晶体、纳米线和导电聚合物也能够用于制造神经形态学硬件。
2017年10月,英特尔发布了神经形态芯片 Loihi。该芯片采用异步脉冲神经网络实现了自适应、自修改、事件驱动的细粒度并行计算,实现了高效的学习和推理。
比利时的微电子研究中心(IMEC)研发了世界上首个自学习神经形态芯片。这种基于丝状氧化物电阻存储技术 filamentary-oxide-based resistive memory technology(OxRAM)技术的大脑启发芯片具有自学习能力,并且已被证明具有创作音乐的能力。IMEC发布了由芯片原型机谱写的30秒旋律。向芯片加载一系列特征、风格统一的歌曲(古代比利时和法国长笛小步舞曲),芯片从中学习相关规则并将其应用于创作。
由Henry Markram领导的蓝脑计划 The Blue Brain Project旨在建立小鼠大脑生理学细节的数字重建和模拟。蓝脑计划已经建立了啮齿动物大脑的电子模型,同时进行着尽可能多地复制其生理学细节的尝试。基于超级计算机的模拟为理解大脑的结构和功能提供了新的视角。
欧盟资助了海德堡大学一系列促进BrainScaleS(神经形态混合系统中受大脑启发的多尺度计算)发展的项目,这是一台位于德国海德堡大学的混合模拟神经形态超级计算机。它是作为人类大脑计划中神经形态计算平台的一部分而开发的,是SpiNNaker超级计算机(基于数字技术)的补充。BrainScaleS中使用的体系架构模拟了生物神经元及其在物理层面上的连接;此外,由于这些组件是由硅制成的,这些模型神经元平均运行速度是生物神经元的864倍,这意味着在机器模拟中,24小时的实时时间仅为100秒。
神经形态传感器
神经形态系统的概念可以扩展到传感器(而不仅仅是计算单元)。一个用于检测光线的例子是类视网膜传感器,或者事件摄像机阵列。
伦理问题
虽然神经形态工程这个跨学科概念相对较新,但许多适用于类人机器 Human-like machines和人工智能的伦理讨论在神经形态系统领域也无法避免。另外,神经形态系统是为了模仿人类大脑而设计,这一底层逻辑也导致了一些新的伦理问题。
然而,这种争论的实际情况是,神经形态硬件和人工“神经网络”是对大脑运作或处理信息过程的极其简化的模型,在大小和功能技术方面的复杂性相比而言比较低,在连接性方面也具有更加规则的结构。将神经形态芯片与大脑进行比较是一种非常粗糙的比较,类似于仅仅因为飞机有翅膀和尾巴就将它与鸟进行比较。事实上,当前最先进的人工智能在能耗效率和计算效率方面距离人脑神经认知系统仍有较大差距,而神经形态工程只是一种通过从大脑机制中获得灵感来缩小这种差距的尝试,就像许多工程设计中都具有生物启发的特征 Bio-inspired features一样。
公众担忧
由于公众认知的相关忧虑,神经形态工程学可能会受到严重的伦理限制。欧盟委员会进行的一项调查发现,60% 的欧盟公民希望禁止机器人参与照顾儿童、老人或残疾人的工作。此外,34% 的人支持禁止机器人用于教育,27% 的人支持禁止机器人用于医疗保健,20% 的人支持禁止机器人用于娱乐。欧盟委员会将以上领域划入“人类”范畴。报告指出,公众越来越关注能够模仿或复制人类行为的机器人。而神经形态工程,顾名思义,是为了模仿人脑的功能而设计的。
围绕神经形态工程的公众担忧可能在未来变得更加严重。欧盟委员会发现,相比于55岁以上的欧盟公民,15至24岁的欧盟公民更有可能认为机器人像人(而不是像仪器)。当看到一张“类人”机器人的图片时,年龄在15岁至24岁之间的欧盟公民中有75% 的人表示这符合他们对机器人的想法,而55岁以上的欧盟公民中只有57% 的人有同样的反应。因此,神经形态系统可能因为其类似人类的特性而被归入许多欧盟公民希望在未来禁止使用的机器人类别。
人格权问题
随着神经形态系统的日益发展,一些学者主张赋予这些系统人格权。如果是大脑赋予了人类人格,那么在多大程度上模仿人类大脑的神经形态系统才能被赋予人格权利?“人类大脑计划”旨在推进以大脑为灵感的计算机技术发展,该计划的批评者认为,神经形态计算机技术的进步可能导致机器意识或人格的形成。这些批评者认为,如果这些系统被当作人来对待,那么人类使用神经形态系统执行任务(包括终止神经形态系统)的行为,在道德上就可能是不被允许的,因为这些行为将违反神经形态系统的自主性。
军民两用技术(军事应用)
联合人工智能中心 The Joint Artificial Intelligence Center(JAIC),是美国军队的一个分支,专门从事采购和实施用于战斗的人工智能软件和神经形态硬件。具体应用包括智能耳机、护目镜和机器人。JAIC打算高度依赖神经形态技术,使用神经形态技术来连接神经形态单位网络中的“每个战士、每个射手”。
法律问题
怀疑派认为,在法律上没有办法应用能够适用于神经形态技术的电子人格。在一封由285名法律、机器人技术、医学和伦理学专家的联名信中,作者们反对欧盟委员会提出的承认“智能机器人”为法人的提议。他们写道,“机器人的法律地位无法从自然人模型中推导出来,因为机器人将被赋予人权,如尊严权、完整权、报酬权或公民权,从而直接面临人权问题。这将有悖于《欧联基本权利宪章》和《欧洲保障人权和根本自由公约》”。
所有权及财产权问题
法律界围绕财产权和人工智能有着重大争论。在Acohs Pty有限公司诉Ucorp Pty有限公司一案中,澳大利亚联邦法院的Christopher Jessup法官发现,版权保护不适用于材料安全数据表的源代码,因为它是由软件界面生成而非人类工作者生成的。同样的问题可能也适用于神经形态系统:如果一个神经形态系统成功地模仿了人类的大脑,并产生了一部原创作品,那么该如何确认这部作品的所有权归属?
神经忆阻系统
神经忆阻系统是神经形态计算系统的一个亚类,主要研究利用忆阻器 Memristors实现神经可塑性 Neuroplasticity。神经形态工程的重点是模拟生物行为,而神经忆阻系统的重点是提取。举个例子,一个神经忆阻系统可能用抽象的神经网络模型替代皮层微电路的行为细节。
受神经元启发、使用忆阻器实现的阈值逻辑函数在高级模式识别中有着广泛的应用,最近报道中其应用包括语音识别、人脸识别和物体识别。阈值逻辑函数还可以用来取代传统的数字逻辑门。
对于理想的无源记忆电路,电路的内部记忆可以用精确的方程(Caravelli-Traversa-Di Ventra方程) 来描述:
Caravelli-Traversa-Di Ventra方程是描述物理记忆网络和外部源性质的函数。在上述方程中,α是“遗忘”时间尺度常数,
是记忆电阻器off状态和on状态极限电阻值之比,S是电路源的矢量,Ω是电路基本环路的投影。常数β具有电压的量纲,与记忆电阻器的特性有关;其物理原型是导体中的电荷迁移率。对角矩阵和向量
分别是忆阻器的内阻,值在0到1之间。因此,这个等式需要在内存值=上添加额外约束以保证可靠性。
编者推荐
集智课程
神经动力学模型读书会
https://campus.swarma.org/course/4370
人类大脑是一个由数以百亿计的神经元相互连接所构成的复杂系统。自神经科学这一学科建立以来,从解析神经元之间的相互作用机理、到刻画皮层柱之间的连接形式、再到探究脑区间不同认知功能的分离与整合模式,无数科学家试图从不同尺度研究大脑,以期揭示人脑这一最为复杂的神经系统的工作模式,进而理解语言、情绪、记忆和社会交往等高级认知活动的底层神经机制,并一定程度上启发通用人工智能机器人的设计。
近年来,脱胎于系统科学的动力学建模方法,逐渐被广泛地应用于神经科学研究中,其作为一种绝佳的数理工具,愈发地受到研究人员的重视,在类脑计算、脑认知原理解析和脑重大疾病致病机理探索等具体方面,发挥着不可替代的作用。
本着促进神经科学、系统科学以及计算机科学等不同领域的学术工作者的交流与合作,激发有志于加入脑科学与类脑研究这一领域的同学们的研究兴趣,来自国内外多所知名高校的专家学者(详见发起人介绍)共同发起了「神经动力学模型」读书会,聚焦于神经科学中的动力学建模这一前沿课题,讨论他们在研究一线中遇到的实际困惑,对相关文献进行深入梳理、激发跨学科的学术火花。
廖旭红:从脑网络到认知
https://campus.swarma.org/course/1925
脑是自然界最为复杂的系统之一。近年来,研究者逐渐意识到脑网络是人脑进行高效信息传输、实现各种认知功能的基础,开始全面而细致刻画人脑结构和功能连接模式。该报告将从基于磁共振成像技术和复杂网络理论的脑网络研究框架出发,探讨人脑结构和功能的组织原则以及认知行为的脑机制。
李印赟:神经突触可塑性微观机制及神经环路研究
https://campus.swarma.org/course/951
该讲座分为两部分:第一部分为神经元的轴突输运特征及其与神经形态之间的关系,第二部分为神经突触可塑性中涉及的囊泡输运和释放,短时突触可塑性的神经细胞差异性及其在神经元微环路中细胞发放特征的作用。
百科项目志愿者招募
如果你有意参与更加系统精细的分工,扫描二维码填写报名表,我们期待你的加入!
集智百科平台底层维护人员招募
为了对复杂科学做一个全面且系统的梳理,提供全面、科学、客观的基础知识,诞生了集智百科。集智俱乐部组织志愿者生产复杂科学领域的知识内容,打造复杂性科学领域的百科全书。从2013年诞生至今,百科的使命依旧继续,永不完结。
为了更好的组织协调集智俱乐部社区的力量,集智百科现开放百科平台底层维护系统。
工作职责:
负责集智百科的业务运维工作(e.g. 权限管理,账户管理,故障排查)
负责集智百科的用户体验持续提升解决方案的设计和落地(e.g. 词条编辑器体验优化,系统升级)
负责集智百科的服务连续性解决方案设计和落地(e.g. 容灾、监控、备份与恢复)
负责核心系统的代码编写、系统优化以及技术架构持续改进
参与开发和运维规范制定,编写相关技术文档
期望:
能投入一定的时间和精力参与系统维护或组内讨论(>每周1小时)
能积极主动地深入学习系统研发与运维相关知识
有一定的软件研发、运维实践经验(不论技术栈)
Nice to have: 有以下技术实践经验:PHP, Docker, MediaWiki, 阿里云
你可以获得:
投身于构建良好的学术交流氛围,改善国内科研环境,进而促进国家科技革新的伟大事业中
享受集智俱乐部VIP待遇(参与一年期的维护工作)
以练促学,践行行业最佳实践(IT行业>9年经验的前辈带)
有意向者请将个人简历发送至:avecsally@163.com
邮件抬头请写:集智百科平台底层维护人员招募
来源:集智百科
编辑:王建萍
什么是生态位 | 集智百科 量子信息与量子计算预读班:追踪量子信息革命交叉前沿 什么是组合博弈论 | 集智百科 大规模脑网络:各类功能连接组 | 集智百科 动力系统中的稳定性理论 | 集智百科 《张江·复杂科学前沿27讲》完整上线! 成为集智VIP,解锁全站课程/读书会
点击“阅读原文”,阅读词条神经形态计算原文与参考文献