大脑神经元的自反馈机制启发更好的类脑人工智能
近日,发表在《Neural Network》上的一项新研究中,来自中国科学院自动化研究所类脑智能研究中心研究员曾毅团队将来自生物脑神经元自身反馈以及兴奋抑制性神经元平衡的启发,融入类脑脉冲神经网络的理论与模型设计,在提升脉冲神经网络性能的同时加速了网络的收敛。相关成果已融入类脑认知智能引擎“智脉BrainCog”开源开放。
曾毅表示,人脑的学习机制与原理分布在宏观多脑区协同、介观微环路、微观神经元与突触等多个尺度,不同尺度的可塑性与学习机制通过协作与涌现,实现人脑具备的高度自适应的学习能力,因此新一代的人工智能,特别是类脑神经网络的研究应深度借鉴多尺度的脑结构与机制,尤其是多尺度的生物脑可塑性原理,研发高智能、高性能的类脑脉冲神经网络。
他认为,最基础的部分一定要从微观神经元与突触学习机制的细节得到启发,而目前的人工神经网络以及传统的脉冲神经网络在这方面对生物脑的借鉴还非常有限。
人脑神经元之间存在一种特殊的突触称为自突触,它的轴突连接到自身胞体上,对神经元的膜电势形成一个时延反馈,从而更好地控制脉冲的发放精度以及网络的活动。论文的第一作者、中科院自动化所助理研究员赵东城介绍说,受此启发,该研究一方面考虑神经元自身的自突触构成的反馈,另一方面将每一层看做一个巨大的神经元,引入了一个自适应的时延的自反馈机制来规范膜电势,从而提升基于反向传播算法训练的脉冲神经网络的精度。
兴奋性神经元和抑制性神经元的动态平衡对于稳定和高效地实现认知和行为十分重要。“我们在目前基于反向传播算法训练的脉冲神经网络中引入了抑制性神经元,兴奋性神经元以及抑制性性神经元的动态平衡机制加速了脉冲神经网络的收敛,还提升了网络的性能。”论文作者之一、中科院自动化所博士生李杨说。
该研究从结构和功能两个角度借鉴了人脑的重要学习机制,设计了一种基于神经元自反馈、同层反馈以及兴奋抑制神经元平衡的脉冲神经网络,并在广泛使用的经典视觉识别与分类任务上取得了投稿时同类脉冲神经网络模型上最好的效果。