【直播】【红杉学社】基于类脑计算的硬件设计

直播二维码

本次报告由红杉学社主办，于2021年9月11日20:00开始，授权蔻享学术进行网络直播。

讲座内容

本次讲座我们邀请到了俞博士为我们介绍他如何从硬件电路到类脑计算芯片的设计, 从而实现神经网络计算应用

近年来, 随着智能可穿戴设备的普及, 传感器信号处理对低功耗嵌入式场景中的人工智能算法提出了更多挑战. 例如, 用于数据分类的传统机器学习算法, 计算量巨大. 在低功耗硬件上部署人工智能算法以实现实时的数据分类和检测, 这是当前嵌入式系统的难点. 因此, 利用类脑计算的联想记忆特性, 并通过硬件设计实现对应的神经网络模块, 帮助人工智能算法更高效节能的进行信号处理. 研究设计的软硬件系统通过类脑硬件反馈计算的电信号, 取代了基于软件计算的方法. 使用简单的电路设计来满足神经网络的权重设置, 最大限度地提高了电路设计的可重用性和灵活性. 最终实现完成端到端的软硬件协同的低功耗嵌入式系统来处理传感器数据集成和数据分类的需求

在目前我们所拥有的手机和智能可穿戴设备上运行神经网络这类计算量极大的运算时, 我们通常选择:

1. 通过互联网IoT 的方式, 比如借助现在最热门的5G通信, 将所需要的数据发送到网络云端, 在服务器运算完之后传回计算结果到设备上, 这种方式不再需要本地计算, 但是对网络要求很高；

2. 第二种解决方式是采用边缘AI计算(Artificial Intelligence), 然而会造成手机资源和电池的能耗, 用传统芯片去运行AI运算, 需要占用大量的GPU和内存资源, 硬件成本极大增加

像我们目前采用的传统机器学习算法, 都是基于弱人工智能的机器思维. 弱人工智能相当于计算器, 只能在加减乘除的运算基础上进行计算. 而现在CPU的二进制加减乘除的计算和人脑的处理方法完全不一样. 举个例子, 将输入的数据比喻成乘客, 冯诺依曼结构中的内存比喻成汽车, 总线比喻为高速公路；那么汽车运送乘客的能力限制于公路的宽度和汽车的多少; 这种硬件架构上的局限, 意味着如果需要更快和更多的数据计算, 则需要更多的硬件资源来支持. 日常生活中, 手机性能的区别就在于内存和CPU的强大, 越高端的手机越流畅, 也是因为更强大的硬件支持, 比如内存大越大其所能处理的数据越多; CPU核数越多, 性能就越高, 越能完成复杂任务. 因此, 目前的机器学习算法由于底层机器思维的原因, 在硬件架构上有着无法避免的局限性

图源网络，侵权联删

基于对降低能耗的需求, 有一种解决方式就是将机器思维转化为生物思维的算法来适配硬件环境. 类脑计算, 是基于对人脑, 模拟神经元的工作系统, 因此更接近人脑的思考模式. 采取类脑计算, 可以绕开内存和总线等硬件设计, 从而避免冯诺依曼架构的机器思维, 减少处理时的能耗问题和实时性等问题. 模拟的每个神经元通过学习和记录需要联想记忆的事件的神经元激励和抑制的电信号. 它们神经元组成的网状结构, 通过传达不同的激励和抑制的开关信号的组合来表达某种意义, 实现和人脑一样的联想记忆功能

图源网络，侵权联删

Q1

类脑计算神经网络是什么？

基于机器思维的深度学习, 是基于层级结构的神经网络, 通过每一层网络学习知识, 一层一层往下传递参数, 到最后综合得到网络权重；而生物思维的神经网络不再是一层一层, 而是和大脑结构一样, 把所有神经元全部互相链接, 比如, 在类脑计算的神经网络中的网状结构是的每一个神经元, 都会连接到其他所有的神经元

关于类脑计算的联想学习能力, 有一个著名的实验 “巴甫洛夫的狗” , 心理学家巴甫洛夫（Ivan Pavlov）在研究无条件反射和条件反射时, 用狗做了这样一个实验：每次给狗狗送食物前, 摇响起铃铛, 经过一段时间后, 一旦铃声一响, 狗就会开始分泌唾液, 准备吃饭. 以此类推, 到类脑计算中, 通过对某个特定信号的训练, 让类脑计算中的神经元获得对整个事件的每个神经元的兴奋和抑制状态, 此时获得的神经元的参数权重就代表了类脑计算对此类事件的预测

图源网络，侵权联删

Q2

实际应用中的例子

类似应用包括基于传感器信号的类脑计算, 用户通过手腕上带着的传感器可以传递空间坐标信号, 记录动作幅度等数据. 通过定义跌倒的传感器信号训练Hopfield Neural Network进行联想记忆, 得到是每个神经元参数针对跌倒的传感器信号的权重. 并在硬件中通过放大器和累加器搭建类脑计算的神经元, 完成Hopfield Neural Network算法(类脑计算中的一个神经网络算法)的电路设计.最后, 基于转化计算, 把软件端的神经网络权重映射成硬件电路中对应神经元中的放大因子的参数. 完成整个类脑计算的硬件实现

Q3

领域中前沿的研究

目前主要是大厂和一些研究所, 像IBM的TrueNorth芯片, 英特尔的Loihi芯片, 曼彻斯特大学的SpiNNaker芯片, 都是比较前沿的研究. 但这个行业还没有正式投入商用：大家对电子设备的需求都偏向通用, 有多样复杂任务同时进行, 而现有的类脑计算的神经网络只能在特定的运算规则下运行, 除了指定的数据信号, 其他的任务都不能完成. 从现在各大公司的研究成果来看, 像IBM TrueNorth这样的类脑芯片运行的效率无法达到在传统架构上运用神经网络的芯片. 但冯诺依曼架构的瓶颈是客观存在的事实, 随着运算数据量的增加, 这一短板将越来越明显. 而对于类脑计算, 以后也肯定会出现支持通用计算的芯片

更多精彩内容欢迎本周六9月11日英国时间下午1点，中国时间晚上8点共聚红杉学社

红杉学社

2020年开始的疫情带给我们伤痛和磨砺，也留下了思考的时间。红杉学社在这样的思考中淬炼成型。从第一场为了关爱留学生而生的公益公开课，到越来越多志同道合的学生学者加入，我们汇溪成流。背靠强大的学者群，红杉学社公开课做到了多学科覆盖：自然科学、基础科学、社科人文、教育学、商业管理、创业金融、职场就业、生物健康科学、计算机科学。学社旨在联合海内外学者共同打造一个有深度的海内外 知识交流平台。和大家共同成长，蔚然成林。

专题直播&回放链接：

https://www.koushare.com/category/singlecolumn/198

为满足更多科研工作者的需求，蔻享平台开通了各科研领域的微信交流群。进群请添加微信18019902656（备注您的科研方向）小编拉您入群哟！蔻享网站www.koushare.com已开通自主上传功能，期待您的分享！

---

欢迎大家提供各类学术会议或学术报告信息，以便广大科研人员参与交流学习。

联系人：李盼 18005575053（微信同号）戳这里，观看精彩直播哟！