SFFAI 73 X RealAI报名通知 | 图像分类专题

由于特殊时期，SFFAI出于对大众健康的优先考虑，以及致力于为大众提供更高效、更便捷的参会体验，现已将SFFAI73期论坛改为线上形式。

SFFAI 合作机构 RealAI 简介

瑞莱智慧RealAI是国内首家安全可控第三代人工智能技术及服务提供商，来自于清华大学人工智能研究院官方团队，由清华大学人工智能研究院院长张钹院士、朱军教授担任首席科学家。基于安全可控的核心算法技术，RealAI致力于提高企业级人工智能解决方案可靠性与安全性，一方面提升AI本身的安全性，解决AI技术应用引起的安全问题，检测和防范AI系统漏洞及滥用风险；另一方面，通过安全可控的AI赋能高价值产业，服务于金融、工业、公共治理等领域。

论坛主题

图像分类专题

论坛简介

图像分类（Image Classification）是使用计算机视觉和机器学习算法从图像中抽取意义的任务。这个操作可以为一张图像分配一个标签，或者也可以解释图像的内容并且返回一个人类可读的句子。但基于深度神经网络模型的图像分类方法有可能会收到对抗样本的干扰，由于图片上的难以察觉的扰动而产生错误的分类结果。本期论坛我们邀请到了来自清华大学的付祈安同学，分享他开发的对鲁棒性进行基准测试的平台 RealSafe，对此类问题进行评估。

论坛讲者

付祈安

付祈安，清华大学计算机系一年级硕士生。目前研究方向为深度学习中的鲁棒性问题。

报告题目：评估图像分类任务中的对抗鲁棒性（Benchmarking Adversarial Robustness on Image Classification）

报告摘要：近年来，机器学习模型尤其是深度神经网络模型在很多图像分类任务上都得到了让人印象深刻的结果，但是，这些机器学习模型容易受到对抗样本的干扰，即在一张正常的图片上叠加一个人类不宜察觉的小扰动就会让原本分类正确的机器学习模型产生错误的分类结果，对抗样本的存在使得机器学习模型难以应用于需要较高安全性的场景，因此对抗攻防算法及模型鲁棒性逐渐受到研究者的重视。然而，很多新的防御方法被提出后很快会被新的攻击算法攻破，对于很多攻击算法情况也类似；同时，很多已有的工作中并没有合理全面地评估攻防算法的性能和模型的鲁棒性。本次将介绍我们在 CVPR 2020 中的工作：我们开发了一个新的旨在对鲁棒性进行基准测试的平台 RealSafe，并使用它对典型的攻击算法、防御算法和模型进行了全面系统的实验。

Spotlight：

1. 我们进行了多种威胁模型下的针对典型攻击算法、防御算法和模型的大规模的实验；

2. 基于实验结果，我们提出用准确率随扰动大小和攻击强度变化的曲线代替常见于之前工作中的点值作为评价鲁棒性的标准，此外还有一些发现；

3. 我们将论文中使用的平台 RealSafe 进行了开源 https://github.com/thu-ml/realsafe/。

召集人

李奉治

李奉治，中国科学院计算技术研究所直博生，导师为徐志伟研究员。主要研究方向为机器学习中的因果推理。

论文推荐

“ 本期推荐的文章主要关注于图像分类领域，你可以认真阅读讲者推荐的论文，来与讲者及同行线上交流哦。”

关注文章公众号

回复"SFFAI73"获取本主题精选论文

推荐理由：该文章是较早的针对图像分类任务提出对抗攻击算法的工作，具有启发意义。

—— 付祈安

推荐理由：该工作提出了混淆梯度的概念，认为混淆梯度带来的是虚假的安全，攻击成功了若干之前的出现了混淆梯度的防御算法，同时列举了一些表明可能出现了混淆梯度的现象，对于对抗防御算法的研究影响重大。

—— 付祈安

推荐理由：该工作提出了 MIM 攻击算法，并使用它赢得了 NIPS 2017 无目标和目标攻击比赛冠军。

—— 付祈安

推荐理由：该文章是较早使用基于 PGD 攻击的对抗训练来提高模型鲁棒性的对抗防御方法工作，该方法是目前效果最好的防御方法之一，同时还讨论了模型容量与鲁棒性的关系。

—— 付祈安

推荐理由：不同于基于迁移的黑盒攻击算法和基于查询的黑盒攻击算法，该工作另辟蹊径地提出了一种结合了二者的黑盒攻击算法，在可以达到较高的攻击成功率的同时降低了对于黑盒模型所需的查询次数。

—— 付祈安

推荐理由：该文章是对抗防御方面的工作，该工作分析了常用于训练的 Softmax 交叉熵损失函数，并提出了 Max-Mahalanobis center 损失函数替代它，在多种威胁场景下的实验表明，这一损失函数可以提高模型的鲁棒性，同时在正常样本上可以达到和 softmax 交叉熵损失函数几乎相同的分类准确率。

—— 付祈安

参会须知

会议时间

2020年7月19日（周日）

20:00 -- 21:00

报名方式

公众号二维码

请同学们扫码关注本公众号，对话框回复“SFFAI73”，获取入群二维码。

SFFAI的介绍

现代科学技术高度社会化，在科学理论与技术方法上更加趋向综合与统一，为了满足人工智能不同领域研究者相互交流、彼此启发的需求，我们发起了人工智能前沿学生论坛SFFAI，邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果，使专注于各个细分领域的研究者开拓视野、触类旁通。SFFAI目前主要关注机器学习、计算机视觉、自然语言处理等各个人工智能垂直领域及交叉领域的前沿进展，进行学术传播，同时为讲者塑造个人影响力。

SFFAI还在构建人工智能领域的知识森林—AI Knowledge Forest。通过汇总各位参与者贡献的领域知识，沉淀人工智能前沿精华，使AI Knowledge Tree枝繁叶茂，为人工智能社区做出贡献。SFFAI自2018年9月16日举办第一期，每周一期学术分享交流，截止目前已举办72期学术交流活动，共有100+位讲者分享了他们的真知灼见，来自100多家单位的同学参与了现场交流，通过线上推文、网络直播等形式，50000+人次参与了人工智能前沿学生论坛。SFFAI自发起以来，迅速成长壮大，已经成为人工智能学生交流的第一品牌，有志同道合的论坛核心志愿者团队、乐于学术分享的讲者伙伴，还有许多认可活动价值、多次报名参加现场交流的观众，大家通过参与人工智能前沿学生论坛，收获了宝贵的知识和友谊，SFFAI致力于帮助大家解决在学术中遇到的相关问题，拓展学术人脉，为大家营造专业、开放的学术交流环境！

历史文章推荐

若您觉得此篇推文不错，麻烦点点在看↓↓