SFFAI 81 @ ICT报名通知 | 机器学习硬件专题

论坛主题

机器学习硬件专题

论坛简介

达摩院2020年十大科技趋势白皮书指出，计算存储一体化方案可以突破AI算力瓶颈。通过将存储和计算单元融合为一体，该方案可以显著减少数据搬运，极大提高计算并行度和能效。阻变存储器（ReRAM）作为一种存内计算方案，在实现高能效神经网络计算系统方面具有重要前景。本期论坛我们邀请到了来自中科院计算技术研究所的何银涛同学，分享她在基于ReRAM的状态感知神经网络加速器设计方面的工作。

论坛讲者

何银涛

何银涛，中科院计算所计算机体系结构国家重点实验室直博二年级。主要研究方向为存内计算、高能效神经网络加速器设计，曾在计算机系统结构会议DAC、ICCAD上发表一作论文。

报告题目：面向状态感知的ReRAM神经网络计算方法

报告摘要：随着神经网络模型参数量不断增加，传统的冯诺依曼计算架构受限于数据搬运瓶颈，逐渐难以满足数据驱动的人工智能应用需求。阻变存储器（ReRAM）作为一种存内计算方案，在实现高能效神经网络计算系统方面具有重要前景。随着映射到ReRAM的神经网络参数大幅增加，计算开销同样会急剧增长。其中，ReRAM计算阵列功耗占整体的重要部分。因此，针对ReRAM计算阵列上的功耗优化问题，我们提出了一种状态感知算法与硬件的协同优化，包括：一种基于ReRAM的权重状态感知神经网络加速器和低功耗神经网络状态感知模型训练方法。实验表明，在保证神经网络准确率的前提下，该方法大幅降低了ReRAM阵列的计算功耗。

Spotlight：

1. 本文利用ReRAM的阻值状态与读电流的关系，提出了一种基于ReRAM的状态感知神经网络加速器设计；

2. 提出了一种低功耗神经网络状态感知模型训练方法，进一步降低计算功耗；

3. 实验结果表明，本方法能有效降低ReRAM计算开销，且具有可扩展性，同时适用于高精度的神经网络。

召集人

樊海爽

樊海爽，中国科学院计算技术研究所直博生，导师为鄢贵海研究员。主要研究方向为专用处理器技术与智能计算。

论文推荐

“ 本期推荐的文章主要关注于机器学习领域，你可以认真阅读讲者推荐的论文，来与讲者及同行线上交流哦。”

关注文章公众号

回复"SFFAI81"获取本主题精选论文

经典论文

01

推荐理由：第一次提出了以ReRAM为主存、用于加速神经网络计算的存内计算架构。将计算结构融合到主存中，从而使用ReRAM主存的部分阵列直接进行神经网络计算。

—— 何银涛

02

推荐理由：基于ReRAM加速器方向的经典论文，提出了一种使用ReRAM 阵列作为矩阵向量乘法单元的卷积神经网络加速器，同时支持流水化计算。

—— 何银涛

03

推荐理由：提出了第一个基于ReRAM的图处理加速器GraphR，使用ReRAM作为主存和计算单元，从而实现了低功耗大规模并行图计算。

—— 何银涛

前沿论文

04

推荐理由：提出了一种ReRAM计算阵列与ReRAM buffer的级联架构及对应的内存数据映射方法，从而大幅减少了传统神经网络计算对部分和数据进行模数转换的开销。

—— 何银涛

05

推荐理由：提出了一种基于ReRAM的稀疏感知大规模图加速器设计，利用图数据的稀疏性将其按子图直接存储在计算单元内，从而减少了图数据搬运和ReRAM写入所需的能耗和延迟开销。

—— 何银涛

06

推荐理由：提出了一种直接对压缩形式数据进行原位计算的稀疏矩阵乘的方法，从而避免了从稀疏形式到稠密矩阵的转换开销、ReRAM的写入开销和对权重为0边的冗余计算。

—— 何银涛

参会须知

会议时间

2020年9月27日（周日）

20:00 -- 21:00

报名方式

公众号二维码

请同学们扫码关注本公众号，对话框回复“SFFAI81”，获取入群二维码。

SFFAI的介绍

现代科学技术高度社会化，在科学理论与技术方法上更加趋向综合与统一，为了满足人工智能不同领域研究者相互交流、彼此启发的需求，我们发起了人工智能前沿学生论坛SFFAI，邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果，使专注于各个细分领域的研究者开拓视野、触类旁通。SFFAI目前主要关注机器学习、计算机视觉、自然语言处理等各个人工智能垂直领域及交叉领域的前沿进展，进行学术传播，同时为讲者塑造个人影响力。

SFFAI还在构建人工智能领域的知识森林—AI Knowledge Forest。通过汇总各位参与者贡献的领域知识，沉淀人工智能前沿精华，使AI Knowledge Tree枝繁叶茂，为人工智能社区做出贡献。SFFAI自2018年9月16日举办第一期，每周一期学术分享交流，截止目前已举办80期学术交流活动，共有100+位讲者分享了他们的真知灼见，来自100多家单位的同学参与了现场交流，通过线上推文、网络直播等形式，50000+人次参与了人工智能前沿学生论坛。SFFAI自发起以来，迅速成长壮大，已经成为人工智能学生交流的第一品牌，有志同道合的论坛核心志愿者团队、乐于学术分享的讲者伙伴，还有许多认可活动价值、多次报名参加现场交流的观众，大家通过参与人工智能前沿学生论坛，收获了宝贵的知识和友谊，SFFAI致力于帮助大家解决在学术中遇到的相关问题，拓展学术人脉，为大家营造专业、开放的学术交流环境！

历史文章推荐

分享、点赞、在看，给个三连击呗！