SFFAI 75 X CRIPAC报名通知 | 神经网络专题

由于特殊时期，SFFAI出于对大众健康的优先考虑，以及致力于为大众提供更高效、更便捷的参会体验，现已将SFFAI75期论坛改为线上形式。

SFFAI 合作机构 CRIPAC 简介

智能感知与计算研究中心（www.cripac.ia.ac.cn）为中科院自动化研究所独立建制的科研部门，致力于研究泛在智能感知理论与技术以及与之相伴的海量感知数据的智能分析与处理。瞄准国际学科前沿，面向国家公共安全、智能产业发展等重大战略需求，着眼于基础理论创新与关键技术突破以及系统解决方案的研制，努力打造成为国际一流的研究中心，是集人才培养、技术创新、产业孵化为一体的创新平台。中心目前主要在多模态智能计算、生物识别与安全、生物启发的智能计算、智能感知基础理论四个方面展开科学研究。

论坛主题

神经网络专题

论坛简介

随着机器学习所使用的网络愈加复杂，参数量和计算量都在爆炸式增长，训练网络所需要的庞大计算资源和产生的能源消耗已经开始引起研究人员的关注。为了提高性效比，将神经网络模型小型化，减小计算量是十分重要的。本期我们邀请了来自北京大学的陈汉亭同学将为大家分享他在CVPR2020发表的工作，去除网络中的乘法运算，用加法神经网络获得较高学习能力。

论坛讲者

陈汉亭

陈汉亭，北京大学智能科学系博士三年级在读，同济大学学士，研究兴趣主要包括计算机视觉、机器学习和深度学习。在ICCV,AAAI,CVPR等会议发表论文数篇，目前主要研究方向为神经网络模型小型化。

报告题目：加法神经网络：在深度学习中我们真的需要乘法吗？

报告摘要：和廉价的加法操作相比，乘法操作需要更大的计算量。在深度神经网络中广泛应用的卷积计算了输入特征和卷积核的互相关，其中包含着大量乘法操作。我们提出了一种加法神经网络来将 CNN 中的大量乘法操作用加法来代替。具体的，我们将输出特征使用滤波器和输入特征的 L1 距离来度量。通过细致的分析，我们提出了基于全精度梯度的反向传播和自适应学习率来帮助加法神经网络的训练。实验结果表明，我们提出的加法神经网络能够取得和卷积神经网络近似的准确率，并且在卷积层中不含任何乘法。

Spotlight：

1. 本文提出了一种新型的加法神经网络，将卷积神经网络中的卷积运算使用加法代替，从而减少了其运算量；

2. 我们提出了改进的梯度和自适应学习率用于加法神经网络的反向传播和训练；

3. 我们提出的加法网络在图像分类大型数据集ImageNet上使用ResNet-50结构取得了74.9% Top-1和91.7% Top-5准确率，和原始卷积网络十分相近。
   

召集人

李奉治

李奉治，中国科学院计算技术研究所直博生，导师为徐志伟研究员。主要研究方向为机器学习中的因果推理。

论文推荐

“ 本期推荐的文章主要关注于神经网络领域，你可以认真阅读讲者推荐的论文，来与讲者及同行线上交流哦。”

关注文章公众号

回复"SFFAI75"获取本主题精选论文

3篇领域经典

01

推荐理由：最经典的的卷积神经网络LeNet-5，将卷积运算引入神经网络中。

—— 陈汉亭

02

推荐理由：著名的AlexNet，在2012年的ImageNet图像分类比赛上使用卷积神经网络达到了最低的15.3%的Top-5错误率，比第二名低10.8个百分点。

—— 陈汉亭

03

推荐理由：将残差连接引入卷积神经网络中，让深层卷积神经网络的训练变得简单起来。

—— 陈汉亭

3篇领域前沿

04

推荐理由：将常规卷积运算拆分为深度可分离卷积，提高了卷积的运算速度。

—— 陈汉亭

05

推荐理由：提出了一种新的ghost模块，使用部分特征图生成其他的特征图来加速卷积运算。

—— 陈汉亭

06

推荐理由：使用shift操作来替换卷积中的乘法操作。

—— 陈汉亭

参会须知

会议时间

2020年8月2日（周日）

20:00 -- 21:00

报名方式

公众号二维码

请同学们扫码关注本公众号，对话框回复“SFFAI75”，获取入群二维码。

SFFAI的介绍

现代科学技术高度社会化，在科学理论与技术方法上更加趋向综合与统一，为了满足人工智能不同领域研究者相互交流、彼此启发的需求，我们发起了人工智能前沿学生论坛SFFAI，邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果，使专注于各个细分领域的研究者开拓视野、触类旁通。SFFAI目前主要关注机器学习、计算机视觉、自然语言处理等各个人工智能垂直领域及交叉领域的前沿进展，进行学术传播，同时为讲者塑造个人影响力。

SFFAI还在构建人工智能领域的知识森林—AI Knowledge Forest。通过汇总各位参与者贡献的领域知识，沉淀人工智能前沿精华，使AI Knowledge Tree枝繁叶茂，为人工智能社区做出贡献。SFFAI自2018年9月16日举办第一期，每周一期学术分享交流，截止目前已举办74期学术交流活动，共有100+位讲者分享了他们的真知灼见，来自100多家单位的同学参与了现场交流，通过线上推文、网络直播等形式，50000+人次参与了人工智能前沿学生论坛。SFFAI自发起以来，迅速成长壮大，已经成为人工智能学生交流的第一品牌，有志同道合的论坛核心志愿者团队、乐于学术分享的讲者伙伴，还有许多认可活动价值、多次报名参加现场交流的观众，大家通过参与人工智能前沿学生论坛，收获了宝贵的知识和友谊，SFFAI致力于帮助大家解决在学术中遇到的相关问题，拓展学术人脉，为大家营造专业、开放的学术交流环境！

历史文章推荐

分享、点赞、在看，给个三连击呗！