SFFAI 77 X CRIPAC报名通知 | 对抗样本专题

由于特殊时期，SFFAI出于对大众健康的优先考虑，以及致力于为大众提供更高效、更便捷的参会体验，现已将SFFAI77期论坛改为线上形式。

SFFAI 合作机构 CRIPAC 简介

智能感知与计算研究中心（www.cripac.ia.ac.cn）为中科院自动化研究所独立建制的科研部门，致力于研究泛在智能感知理论与技术以及与之相伴的海量感知数据的智能分析与处理。瞄准国际学科前沿，面向国家公共安全、智能产业发展等重大战略需求，着眼于基础理论创新与关键技术突破以及系统解决方案的研制，努力打造成为国际一流的研究中心，是集人才培养、技术创新、产业孵化为一体的创新平台。中心目前主要在多模态智能计算、生物识别与安全、生物启发的智能计算、智能感知基础理论四个方面展开科学研究。

论坛主题

对抗样本专题

论坛简介

深度神经网络中的对抗样本已经受到了广泛关注，迁移性对抗样本是其中的一个研究热点。随着技术进步，目前，无目标对抗样本迁移性已经取得了极大进展，然而，有目标对抗样本的迁移性仍然较差，且并未受到广泛关注。本期论坛我们邀请到了西安电子科技大学的李茂森同学，分享他在CVPR2020发表的工作，生成可迁移的有目标对抗样本。

论坛讲者

李茂森

李茂森，西安电子科技大学电子工程学院2018级博士生，导师邓成教授，研究兴趣为对抗样本与防御，以第一作者在CVPR发表论文，受邀担任国际知名会议KDD2020 PC Member，期刊Neurocomputing审稿人，曾获IJCAI-2019 AAAC Competition 目标赛道特别奖。

报告题目：目标对抗样本的迁移性

报告摘要：如何有效的生成可迁移的有目标对抗样本目前正需要深入研究。本次报告将重点分享我们在CVPR2020的工作。本文中，我们不再将有目标攻击视为无目标攻击的简单扩展，针对目标攻击的特点，提出了一种新的度量方法，即利用庞加莱度量和三元组损失生成对抗样本。

Spotlight：

1. 我们针对有目标攻击的特性，提出了新的度量方法，并在此基础上，在目标攻击中挖掘新的有用信息，构建三元组失项，提高目标攻击迁移性。

2. 我们的模型简单有效，取得了目前的SOTA效果，并且在有目标对抗样本迁移性中取得了平均8%的显著提升。
   

召集人

李奉治

李奉治，中国科学院计算技术研究所直博生，导师为徐志伟研究员。主要研究方向为机器学习中的因果推理。

论文推荐

“ 本期推荐的文章主要关注于对抗样本领域，你可以认真阅读讲者推荐的论文，来与讲者及同行线上交流哦。”

关注文章公众号

回复"SFFAI77"获取本主题精选论文

经典论文

01

推荐理由：本文提出了FGSM，一种高效的baseline方法，同时给出了一个对抗样本迁移性的解释。

—— 李茂森

02

推荐理由：本文结果阐明了人类视觉和当前DNN模型感知之间的有趣差异，并提出了基于DNN计算机视觉的普遍性问题。

—— 李茂森

03

推荐理由：本文提出一种简单高效的多步攻击方法，解决了多步攻击移植性较差的问题，达到了当时的SOTA性能，至今仍广泛作为baseline方法。

—— 李茂森

最新进展

04

推荐理由：本文提出了一种基于类和层深度特征分布建模和开发的新型对抗性攻击方法，实现了SOTA的针对无防护的ImageNet模型的基于迁移的目标攻击结果。

—— 李茂森

05

推荐理由：本文的结果验证了通用扰动的特征属性，通用扰动包含了主要的特征，而原图像对DNNs来说就像噪音一样。根据这一观点，作者使用随机源图像以产生目标通用扰动。

—— 李茂森

06

推荐理由：本文为黑盒攻击提出了一种新的框架，再生成对抗样本的同时，利用反馈信息，改变搜索方向，以实现有效的攻击。

—— 李茂森

参会须知

会议时间

2020年8月16日（周日）

20:00 -- 21:00

报名方式

公众号二维码

请同学们扫码关注本公众号，对话框回复“SFFAI77”，获取入群二维码。

SFFAI的介绍

现代科学技术高度社会化，在科学理论与技术方法上更加趋向综合与统一，为了满足人工智能不同领域研究者相互交流、彼此启发的需求，我们发起了人工智能前沿学生论坛SFFAI，邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果，使专注于各个细分领域的研究者开拓视野、触类旁通。SFFAI目前主要关注机器学习、计算机视觉、自然语言处理等各个人工智能垂直领域及交叉领域的前沿进展，进行学术传播，同时为讲者塑造个人影响力。

SFFAI还在构建人工智能领域的知识森林—AI Knowledge Forest。通过汇总各位参与者贡献的领域知识，沉淀人工智能前沿精华，使AI Knowledge Tree枝繁叶茂，为人工智能社区做出贡献。SFFAI自2018年9月16日举办第一期，每周一期学术分享交流，截止目前已举办76期学术交流活动，共有100+位讲者分享了他们的真知灼见，来自100多家单位的同学参与了现场交流，通过线上推文、网络直播等形式，50000+人次参与了人工智能前沿学生论坛。SFFAI自发起以来，迅速成长壮大，已经成为人工智能学生交流的第一品牌，有志同道合的论坛核心志愿者团队、乐于学术分享的讲者伙伴，还有许多认可活动价值、多次报名参加现场交流的观众，大家通过参与人工智能前沿学生论坛，收获了宝贵的知识和友谊，SFFAI致力于帮助大家解决在学术中遇到的相关问题，拓展学术人脉，为大家营造专业、开放的学术交流环境！

历史文章推荐

分享、点赞、在看，给个三连击呗！