【期刊】面向类脑计算的物理电子学 (I) | 《物理学报》专题
编 者 按
类脑计算技术作为一种脑启发的新型计算技术,具有存算一体、事件驱动、模拟并行等特征,为智能化时代开发高效的计算硬件提供了技术参考,有望解决当前人工智能硬件在能耗和算力方面的“不可持续发展”问题。硬件模拟神经元和突触功能是发展类脑计算技术的核心,而支持这一切实现的基础是器件以及器件中的物理电子学。根据类脑单元实现的物理基础,当前类脑芯片主要可以分为数字 CMOS型、数模混合 CMOS型以及新原理器件型三大类。IBM的 TrueNorth、Intel的Loihi、清华大学的 Tianjic以及浙江大学的 Darwin等都是数字 CMOS型类脑芯片的典型代表,旨在以逻辑门电路仿真实现生物单元的行为。数模混合型的基本思想是利用亚阈值模拟电路模拟生物神经单元的特性,最早由 Carver Mead提出,其成功案例有苏黎世的 ROLLs、斯坦福的 Neurogrid等。以上两种类型的类脑芯片虽然实现方式上有所不同, 但共同之处在于都是利用了硅基晶体管的物理特性。此外,以忆阻器为代表的新原理器件为构建非硅基类脑芯片提供了新的物理基础。它们在工作过程中引入了离子动力学特性,从结构和工作机制上与生物单元都具有很高的相似性,近年来受到国内外产业界和学术界的广泛关注。鉴于硅基工艺比较成熟,当前硅基物理特性是类脑芯片实现的主要基础。忆阻器等新原理器件的类脑计算技术尚处于前沿探索和开拓阶段, 还需要更成熟的制备技术、更完善的系统框架和电路设计以及更高效的算法等。
为促进本领域国内同行交流,我们邀请部分活跃在利用物理器件实现类脑计算领域第一线的中青年科学家,组织出版了本专题。探讨不同物理机制的器件实现、算法优化、架构设计以及应用。器件层面上,刘琦报道了一种柔性忆阻器基神经元器件及电路,徐文涛报道了一种基于 Na2/3Ni1/3Mn2/3O2的离子迁移型人造突触,缪向水综述了主流忆阻器的器件结构、物理机制并比较分析了它们的性能特性,万昌锦和万青介绍了多类柔性神经形态晶体管的研究进展以及在仿生感知领域中的应用;算法层面上,曾中明和袁喆利用磁性隧道结可调控的随机动力学实现了群体编码,尚大山提出了一种基于存内计算范式的储池计算硬件实现方法;系统层面上,刘洋报道了一种基于忆阻器的脉冲神经网络硬件加速器架构设计方法,郭新提出了一种仿生生物感官的感存算一体化系统,康晋锋综述了用于实现存内计算的非挥发存储器件及其性能特征;感知应用层面上,王中强从器件物理角度、周菲迟和柴扬从应用角度分别综述了面向感存算功能一体化的光电忆阻器研究进展,诸葛飞综述了光电神经形态器件及其应用的最新研究进展,韩素婷综述了应用于感存算一体化系统忆阻器的研究方向和研究进展。
本专题从不同角度描述了面向类脑计算的器件及物理特性的进展,反映了此领域的一些现状,希望对读者了解此前沿课题有所帮助,可以吸引更多学者尤其是年轻学者的关注和加入,为我国在本领域的蓬勃发展增添新生力量。
刘琦,复旦大学芯片与系统前沿技术研究院教授,杰青,博导。2010年于安徽大学获得微电子与固体电子学专业博士学位,2010—2020年在中国科学院微电子研究所分别任博士后、副研究员和研究员。主要研究方向包括新型非易失存储技术、神经形态器件、类脑计算、存算一体芯片及系统。主持了国家重点研发计划、国家自然科学基金委杰青、优青和重点等项目,作为课题负责人参与JKW基础加强重点项目等。在Science、Nat. Nano.、Nat. Electron.、Nat. Commun.、Adv. Mater.、Nano Lett.、IEEE EDL等期刊发表SCI论文100多篇,Google引用13000多次,获得授权中国发明专利65项,美国发明专利8项。曾获得国家自然科学二等奖、电子学会科学技术进步一等奖、中国科学院青年科学家奖、中国科学院杰出科技成就奖等奖项。
专题文章
面向类脑计算的物理电子学专题编者按
物理学报.2022, 71 (14): 140101.
doi: 10.7498/aps.71.140101
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/2022-14-140101.pdf
摘要:类脑计算技术作为一种脑启发的新型计算技术,具有存算一体、事件驱动、模拟并行等特征,为智能化时代开发高效的计算硬件提供了技术参考,有望解决当前人工智能硬件在能耗和算力方面的“不可持续发展”问题。硬件模拟神经元和突触功能是发展类脑计算技术的核心,而支持这一切实现的基础是器件以及器件中的物理电子学。根据类脑单元实现的物理基础,当前类脑芯片主要可以分为数字CMOS型、数模混合CMOS型以及新原理器件型三大类。IBM的TrueNorth、Intel的Loihi、清华大学的Tianjic以及浙江大学的Darwin等都是数字CMOS型类脑芯片的典型代表,旨在以逻辑门电路仿真实现生物单元的行为。数模混合型的基本思想是利用亚阈值模拟电路模拟生物神经单元的特性,最早由Carver Mead提出,其成功案例有苏黎世的ROLLs、斯坦福的Neurogrid等。以上两种类型的类脑芯片虽然实现方式上有所不同,但共同之处在于都是利用了硅基晶体管的物理特性。此外,以忆阻器为代表的新原理器件为构建非硅基类脑芯片提供了新的物理基础。它们在工作过程中引入了离子动力学特性,从结构和工作机制上与生物单元都具有很高的相似性,近年来受到国内外产业界和学术界的广泛关注。鉴于硅基工艺比较成熟,当前硅基物理特性是类脑芯片实现的主要基础。忆阻器等新原理器件的类脑计算技术尚处于前沿探索和开拓阶段,还需要更成熟的制备技术、更完善的系统框架和电路设计以及更高效的算法等。观 点
仿生生物感官的感存算一体化系统
王童,温娟,吕康,陈健中,汪亮,郭新
物理学报.2022, 71 (14): 148702.
doi: 10.7498/aps.71.20220281
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220281.pdf
摘要:生物感官集感知、存储与运算为一体的架构使其可以高效并且实时地采集和处理外界信息,这样的感存算一体化架构可为物联网时代面临的传感器数据爆炸问题提供很好的解决方案。为此,本文提出仿生生物感官的感存算一体化系统,采用不同的传感器模拟生物感受器的功能,以获取环境信息,传感器输出的模拟信号输入到模拟信号处理系统进行预处理,这样信号不需要在模拟域与数字域之间转换,可极大降低功耗和延时;预处理后的信号输入类脑运算芯片中进行分析和决策,该芯片由基于忆阻器的人工突触及人工神经元组成,通过控制突触与神经元的连接方式,可以实现不同的算法架构,如全连接脉冲神经网络、卷积脉冲神经网络以及循环脉冲神经网络等;通过运行不同的神经网络,类脑运算芯片可以实现对不同传感器信号的识别、预测以及分类等任务;更进一步,将多种仿生感觉系统的识别或预测结果结合起来,就可以实现多感官融合,这样的系统架构可以用于自动驾驶及智能机器人等复杂的场景中。
研究论文
基于忆阻器阵列的下一代储池计算
任宽,张握瑜,王菲,郭泽钰,尚大山
物理学报.2022, 71 (14): 140701.
doi: 10.7498/aps.71.20220082
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220082.pdf
摘要:储池计算是类脑计算范式的一种,具有结构简单、训练参数少等特点,在时序信号处理、混沌动力学系统预测等方面有着巨大的应用潜力。本文提出了一种基于存内计算范式的储池计算硬件实现方法,利用忆阻器阵列完成非线性向量自回归过程中的矩阵向量乘法操作,有望进一步提升储池计算的能效。通过忆阻器阵列仿真实验,在Lorenz63时间序列预测任务中验证了该方法的可行性,以及该方法在噪声条件下预测结果的鲁棒性,并探究忆阻器阵列阻值精度对预测结果的影响。这一结果为储池计算的硬件实现提供了一种新的途径。
基于忆阻器的脉冲神经网络硬件加速器架构设计
武长春,周莆钧,王俊杰,李国,胡绍刚,于奇,刘洋
物理学报.2022, 71 (14): 148401.
doi: 10.7498/aps.71.20220098
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220098.pdf
摘要:脉冲神经网络(spiking neural network,SNN)作为第三代神经网络,其计算效率更高、资源开销更少,且仿生能力更强,展示出了对于语音、图像处理的优秀潜能。传统的脉冲神经网络硬件加速器通常使用加法器模拟神经元对突触权重的累加。这种设计对于硬件资源消耗较大、神经元/突触集成度不高、加速效果一般。因此,本工作开展了对拥有更高集成度、更高计算效率的脉冲神经网络推理加速器的研究。阻变式存储器(resistive random access memory,RRAM)又称忆阻器(memristor),作为一种新兴的存储技术,其阻值随电压变化而变化,可用于构建crossbar架构模拟矩阵运算,已经在被广泛应用于存算一体(processing in memory,PIM)、神经网络计算等领域。因此,本次工作基于忆阻器阵列,设计了权值存储矩阵,并结合外围电路模拟了LIF (leaky integrate and fire)神经元计算过程。之后,基于LIF神经元模型实现了脉冲神经网络硬件推理加速器设计。该加速器消耗了0.75k忆阻器,集成了24k神经元和192M突触。仿真结果显示,在50 MHz的工作频率下,该加速器通过部署三层的全连接脉冲神经网络对MNIST (mixed national institute of standards and technology)数据集进行推理加速,其最高计算速度可达148.2 frames/s,推理准确率为96.4%。
基于层状多元金属氧化物的人造突触
刘强,倪尧,刘璐,孙林,刘甲奇,徐文涛
物理学报.2022, 71 (14): 148501.
doi: 10.7498/aps.71.20220303
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220303.pdf
摘要:神经形态电子学的迅速发展为生物神经系统仿生与模拟提供了有力支持。具有三明治结构的两端人造突触电子器件不仅在结构上模拟了生物突触,同时在类神经电脉冲信号的作用下可以完成对生物突触塑性的模拟与调控。本文利用溶胶-凝胶法合成了具有层状结构的P3相Na2/3Ni1/3Mn2/3O2多元金属氧化物。借助其晶体结构中Na+易于嵌入/脱出的特性,设计并制备了基于Na2/3Ni1/3Mn2/3O2的离子迁移型人造突触,器件在电脉冲信号的刺激下实现了对生物突触塑性的模拟,并通过调校类神经尖峰脉冲信号,成功对塑性行为进行了调控。成功模拟了兴奋性突触后电流、双脉冲易化、脉冲数量依赖可塑性、脉冲频率依赖可塑性、脉冲电压幅值依赖可塑性和脉冲持续时间依赖可塑性。同时,器件实现了对摩斯电码指令的准确识别与响应。
面向神经形态感知和计算的柔性忆阻器基脉冲神经元
朱佳雪,张续猛,王睿,刘琦
物理学报.2022, 71 (14): 148503.
doi: 10.7498/aps.71.20212323
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20212323.pdf
摘要:受人脑工作模式的启发,脉冲神经元作为人工感知系统和神经形态计算体系的基本计算单元发挥着重要作用。然而,基于传统互补金属氧化物半导体技术的神经元电路结构复杂,功耗高,且缺乏柔韧性,不利于大规模集成和与人体兼容的柔性感知系统的应用。本文制备的柔性忆阻器展示出了稳定的阈值转变特性和优异的机械弯折特性,其弯折半径可达1.5 mm,弯折次数可达104次。基于此器件构建的神经元电路实现了神经元的关键积分放电特性,且其频率-输入电压关系具有整流线性单元相似性,可实现基于转换法的脉冲神经网络中神经元的非线性处理功能。此外,基于电子传输机制和构建的核壳模型,对柔性忆阻器的工作机制进行分析,提出了电场和热激发主导的阈值转变机制;进一步对忆阻器和神经元的电学特性进行电路仿真模拟,验证了柔性忆阻器和神经元电路工作机制的合理性。本文对柔性神经元的研究可为神经形态感知和计算系统的构建提供硬件基础和理论指导。
基于磁性隧道结的群体编码实现无监督聚类
张亚君,蔡佳林,乔亚,曾中明,袁喆,夏钶
物理学报.2022, 71 (14): 148506.
doi: 10.7498/aps.71.20220252
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220252.pdf
摘要:利用新型材料器件发展类脑计算硬件研究的关键问题是发展出合适的算法,能够发挥新器件的特点和优势。群体编码是生物神经系统常见的编码方式,能够有效去除噪音,实现短时程记忆及复杂的非线性映射功能。本文选择自旋电子学器件中研究较多、工艺较成熟的磁性隧道结,应用其可调控的随机动力学实现群体编码。作为一个应用的例子,超顺磁隧道结构建的二层脉冲神经网络成功完成了鸢尾花数据集的无监督聚类。数值仿真表明基于磁性隧道结的群体编码可以有效对抗器件的非均一性,为类脑计算硬件研究提供重要的参考。
综 述
忆阻类脑计算
温新宇,王亚赛,何毓辉,缪向水
物理学报.2022, 71 (14): 140501.
doi: 10.7498/aps.71.20220666
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220666.pdf
摘要:随着深度学习的高速发展,目前智能算法的飞速更新迭代对硬件算力提出了很高的要求。受限于摩尔定律的告竭以及冯·诺伊曼瓶颈,传统CMOS集成无法满足硬件算力提升的迫切需求。利用新型器件忆阻器构建神经形态计算系统可以实现存算一体,拥有极高的并行度和超低功耗的特点,被认为是解决传统计算机架构瓶颈的有效途径,受到了全世界的广泛关注。本文按照自下而上的顺序,首先综述了主流忆阻器的器件结构、物理机理,并比较分析了它们的性能特性。然后,介绍了近年来忆阻器实现人工神经元和人工突触的进展,包括具体的电路形式和神经形态功能的模拟。接着,综述了无源和有源忆阻阵列的结构形式以及它们在神经形态计算中的应用,具体包括基于神经网络的手写数字和人脸识别等。最后总结了目前忆阻类脑计算从底层到顶层所遇到的挑战,并对该领域后续的发展进行了展望。
柔性神经形态晶体管及其仿生感知应用
蒋子寒,柯硕,祝影,朱一新,朱力,万昌锦,万青
物理学报.2022, 71 (14): 147301.
doi: 10.7498/aps.71.20220308
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220308.pdf
摘要:生物感知系统具有高并行、高容错、自适应和低功耗等独特优点。采用神经形态器件实现生物感知功能的仿生,在脑机接口、智能感知、生物假体等领域具有重大应用前景。与其他神经形态器件相比,多端口神经形态晶体管不仅可以同时实现信号的传输和训练学习,还可以对多路信号进行非线性的时空整合与协同调控。然而,传统刚性神经形态晶体管很难实现弯曲变形以及和人体密切贴合,限制了神经形态器件应用范围。所以,具有良好弯曲特性的柔性神经形态晶体管的研究成为了最近的研究重点。本文首先介绍了多种柔性神经形态晶体管的研究进展,包括器件结构、工作原理和基本功能;另外,本文还将介绍上述柔性神经形态晶体管在仿生感知领域中的应用;最后给出上述研究领域的总结和简单展望。
应用于感存算一体化系统的多模调控忆阻器
张宇琦,王俊杰,吕子玉,韩素婷
物理学报.2022, 71 (14): 148502.
doi: 10.7498/aps.71.20220226
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220226.pdf
摘要:交互式人工智能系统的构建依赖于高性能人工感知系统和处理系统的开发。传统的感知处理系统传感器、存储器和处理器在空间上是分离的,感知数据信息的频繁传输和数据格式转换造成了系统的长延时与高能耗。受生物感知神经系统的启发,耦合感知、存储、计算功能的感存算一体化技术为未来感知处理领域提供了可靠的技术方案。具有感知光、压力、化学物质等能力的忆阻器是应用于感存算一体系统的理想器件。本文从器件层面综述了应用于感存算一体化系统忆阻器的研究方向和研究进展,包括视觉、触觉、嗅觉、听觉和多感官耦合类别,并在器件、工艺与集成、电路系统架构和算法方面指出现阶段的挑战与展望,为未来神经形态感存算一体化系统的发展提供可行的研究方向。
神经形态阻变器件在图像处理中的应用
江碧怡,周菲迟,柴扬
物理学报.2022, 71 (14): 148504.
doi: 10.7498/aps.71.20220463
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220463.pdf
摘要:随着搭载于边缘终端上的图像与视频等数据密集型应用的日益增长,基于传统冯·诺依曼架构的互补金属氧化物半导体(complementary metal oxide semiconductor,CMOS)硬件系统正面临着能耗、速度和尺寸等多方面的挑战。神经形态器件包括具有存算一体特性的电学阻变器件和具有感存算一体特性的光电阻变器件,因其具有与生物神经系统的高相似度,及其高能效、高集成度、宽带宽等优势,在图像处理应用方面展现出巨大发展潜力。这类器件不仅能够用于加速传统图像低阶预处理和高阶处理中的大量运算,且能用于实现仿生物视觉系统的高效图像处理算法。本文介绍了最近的电学及光电神经形态阻变器件,并结合图像处理算法综述了神经形态阻变器件在图像处理方面的硬件实施和挑战,并对其发展前景提出了思考。
光电神经形态器件及其应用
沈柳枫,胡令祥,康逢文,叶羽敏,诸葛飞
物理学报.2022, 71 (14): 148505.
doi: 10.7498/aps.71.20220111
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220111.pdf
摘要:传统冯·诺依曼计算机在并行性计算和自适应学习方面效率较低,无法满足当前飞速发展的信息技术对高效、高速计算的迫切需求。受脑启发的神经形态计算具有高度并行性、超低功耗等优势,被认为是打破传统计算机局限性,实现新一代人工智能的理想途径。神经形态器件是实施神经形态计算的硬件载体,是构建神经形态芯片的关键。与此同时,人类视觉系统与光遗传学的发展为神经形态器件的研究提供了新的思路。新兴的光电神经形态器件结合了光子学与电子学各自的优势,在神经形态计算领域展露出巨大潜力,受到了国内外研究人员广泛关注。本文对光电神经形态器件及其应用的最新研究进行了总结。首先综述了人工光电突触与人工光电神经元,内容包括器件结构、工作机制以及神经形态功能模拟等方面。然后,对光电神经形态器件在人工视觉系统、人工感知系统、神经形态计算等领域中的潜在应用作了阐述。最后,总结了当前光电神经形态器件所面临的挑战,并对其未来的发展方向进行了展望。
基于非挥发存储器的存内计算技术
周正,黄鹏,康晋锋
物理学报.2022, 71 (14): 148507.
doi: 10.7498/aps.71.20220397
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220397.pdf
摘要:通过在基本单元上集成存储和计算功能,存内计算技术能够显著降低数据搬运规模,被广泛认为是突破传统冯·诺依曼计算架构性能瓶颈的新型计算范式。非挥发存储器件兼具非易失特性和存算融合功能,是实现存内计算的良好功能器件。本文首先介绍了存内计算范式的基本概念,包括技术背景和技术特征。然后综述了用于实现存内计算的非挥发存储器件及其性能特征,包含传统闪存器件和新型阻变存储器;进一步介绍了基于非挥发存储器件的存内计算实现方法,包括存内模拟运算和存内数字运算。之后综述了非挥发存内计算系统在深度学习硬件加速、类脑计算等领域的潜在应用。最后,对非挥发型存内计算技术的未来发展趋势进行了总结和展望。
面向感存算一体化的光电忆阻器件研究进展
单旋宇,王中强,谢君,郑嘉慧,徐海阳,刘益春
物理学报.2022, 71 (14): 148701.
doi: 10.7498/aps.71.20220350
原文链接:
https://wulixb.iphy.ac.cn/fileWLXB/journal/article/wlxb/2022/14/PDF/14-20220350.pdf
摘要:脑启发神经形态计算系统有望从根本上突破传统冯·诺依曼计算机系统架构瓶颈,极大程度地提升数据处理速度和能效。新型神经形态器件是构建高能效神经形态计算的重要硬件基础。光电忆阻器作为新兴的纳米智能器件,因具备整合光学感知、信息存储和逻辑计算等功能特性,被认为是发展类脑视觉系统的重要备选。本文将综述面向感存算功能一体化的光电忆阻器研究进展,包括光电忆阻材料与机制、光电忆阻器件与特性、感存算一体化功能及应用等。具体将根据机制分类介绍光子-离子耦合型和光子-电子耦合型光电忆阻材料,根据光电忆阻特性调节方式介绍光电调制型和全光调制型光电忆阻器件,根据感存算一体化功能介绍其在认知功能模拟、光电逻辑运算、神经形态视觉功能、动态探测与识别等方面的应用。最后总结光电忆阻器的主要优势以及所面临的挑战,并展望光电忆阻器的未来发展。
专题文章网站链接:
http://wulixb.iphy.ac.cn/custom/topics
推荐阅读
蔻享学术 平台介绍
蔻享学术平台,国内领先的一站式科学资源共享平台,依托国内外一流科研院所、高等院校和企业的科研力量,聚焦前沿科学,以优化科研创新环境、传播和服务科学、促进学科交叉融合为宗旨,打造优质学术资源的共享数据平台。
识别二维码,
下载 蔻享APP 查看最新资源数据。
点击阅读原文,查看更多精彩报告!