近日，由中科院信工所、香港中文大学（深圳）和腾讯 AILab 共同提出的一种可学习的对抗训练框架 LAS-AT，被 CVPR 2022（Oral）顺利接收。通过引入“可学习的攻击策略”，LAS-AT 可以学习自动产生攻击策略以提高模型的鲁棒性。该框架由一个使用对抗样本进行训练以提高鲁棒性的目标网络和一个产生攻击策略以控制对抗样本生成的策略网络组成。在不同数据集上的实验结果展现了 LAS-AT 的优越性。
论文标题：
LAS-AT: Adversarial Training with Learnable Attack Strategy
CVPR 2022
https://openaccess.thecvf.com/content/CVPR2022/html/Jia_LAS-AT_Adversarial_Training_With_Learnable_Attack_Strategy_CVPR_2022_paper.html
https://github.com/jiaxiaojunQAQ/LAS-AT
问题背景
许多先前工作证明，深度神经网络（DNN）的许多实际应用都很容易受到对抗样本（AE）的影响，如图像分类、物体检测、机器翻译等。为了解决该问题，有许多相关的防御方法被提出。其中，对抗训练（AT）被认为是最有效的防御方法之一。对抗训练经常被建模为求解一个 min-max 问题，而对抗样本的生成是求解该问题的关键。以前的研究工作大多采用投影梯度下降法（PGD），并手动指定攻击参数来生成 AE，这些攻击参数的组合可被视为攻击策略。目前的方法主要存在以下两个问题：1）大多数现有的方法仅利用手工制定的攻击策略来生成 AE，即仅使用固定的攻击策略来生成 AE，限制了模型的鲁棒性；2）大多数方法只使用一种攻击策略，而目前已有研究指出在对抗训练的不同阶段中使用固定的攻击策略会使得模型的鲁棒性受限。在本文中，我们通过引入“可学习的攻击策略”，即 LAS-AT，提出了一个新颖的对抗训练框架，它可以学习自动产生攻击策略以提高模型的鲁棒性。
方法介绍
▲ LAS-AT框架图：它由一个策略网络和一个目标网络组成。这两个网络是具有竞争关系的。对于策略网络，在给定一个干净的图像时，策略网络会生成一个对应的针对该样本的攻击策略；对于目标网络，AE生成器会根据攻击策略和目标网络来生成一个AE，用于训练目标网络。同时，目标网络也会分别给予AE生成器和策略网络一个监督信号。
2.1 目标网络
目标网络是一个用于图像分类的卷积神经网络，可以表示为，其中表示的是估计标签，表示一张输入图像，表示神经网络的参数。2.2 策略网络
策略网络生成对抗攻击的策略进而去控制对抗样本的生成，其输入的是一个样本，输出的是一个策略。由于策略网络的参数是逐步被更新的，在不同的训练阶段中，根据目标网络的鲁棒性的情况，给定相同的样本作为输入也会给出不同的策略。令表示一种策略，其中每个元素表示的是一个攻击参数。表示的是策略值空间，参数有个选项，并且被编码成one-hot向量。在不同的攻击参数下每个参数选项的意义是不同的。比如对于PGD攻击来说，它有三个攻击参数，即攻击步长的大小，攻击迭代数，以及最大的攻击扰动强度。每一个参数有个可选值，比如攻击步长的取值范围为，攻击迭代数的取值范围为。这些攻击参数的可选值的一个组合可以看作是一个策略。策略网络在给定输入时输出策略的条件概率分布，其中是输入图片，是策略网络的参数。2.3 对抗样本生成器
给定一个干净的样本，对抗样本的生成过程可以被定义为:其中表示的是一个干净的样本，表示的是其对应的对抗样本，是一个攻击策略，表示的是目标网络的参数，表示的是PGD攻击。2.4 对抗训练公式化表述
其中，并且表示的是人为设定的攻击策略。是训练集，表示的是交叉熵损失函数，其用于衡量对抗样本的预测标签与真实标签之间的距离。在本文中，我们没有使用基于人为设定的策略的样本，而是使用一个策略网络去自动生成基于策略的样本。在论文中对抗训练的策略可以公式化表示为:与标准的对抗训练相比，最与众不同的地方在于对抗样本的生成方式。标准对抗训练采用的是人为设定的策略去求解内部优化问题。然而本文中我们是使用策略网络根据条件概率分布去产生一个样本依赖策略，即我们提出的策略是可以学习的，其对抗样本的生成包含策略网络参数，这会导致损失函数是两个网络参数的函数。由论文提出的对抗训练的公式可知，目标网络和策略网络是有一种相互竞争的关系，即最小化和最大化相同的损失函数。目标网络学习调整参数去抵御对抗攻击策略生成的对抗样本，而策略网络根据给定的攻击目标网络的样本去提高攻击策略。在一开始的训练阶段，目标网络是非常脆弱的，一个弱的攻击就可以使它分类出错，此时，策略网络可以很容易的生成有效的攻击策略，并且策略是多种多样的，因为弱的攻击策略和强的攻击策略都可以成功攻击目标网络。随着训练过程的进行，目标网络变得越来越鲁棒，策略网络不得不去学习生成更强对抗样本的攻击策略。因此，这种博弈机制可以随着策略网络的生成策略的提高逐步促进目标网络的对抗鲁棒性。2.5 损失函数
2.5.1 评估鲁棒性损失
为了引导策略网络的学习，我们提出了一种新的度量方式去评估对抗攻击，主要使用的是目标网络单步更新的鲁棒性。具体地，一个攻击策略首先被用作去创造一个对抗样本，并且该对抗样本通过一阶梯度下降法去单步调整目标网络的参数。如果更新后的目标网络能够正确预测由其它攻击策略生成的对抗样本的标签，则此时可以说该攻击策略是有效的。评估鲁棒性的损失函数可以表述为:其中，是更新目标网络的参数，是步长，是由攻击策略生成的对抗样本。2.5.2 预测干净样本损失
一个好的攻击策略应该不仅可以提高目标模型的鲁棒性也能够保持预测干净样本的准确率。在本论文中我们也考虑了单步更新目标模型在预测干净样本的性能，评估攻击策略的损失函数可以被定义为：2.5.3 总损失函数
结合以上两个损失函数项，本论文方法的对抗训练总损失函数可以表述为:我们提出一个算法交替优化这两个网络的损失函数。给定参数，优化目标网络的子问题可以表述为：给定一个干净的样本，策略网络生成一个策略分布，从该条件分布中随机采样出一个策略，并用该策略去生成对抗样本。利用以下梯度下降法去更新目标模型的参数：其中表示的是在一个批次中的样本数量，表示的是学习率。
在这个优化问题中，最大的挑战在于对抗样本生成的过程是不可微的，即梯度信息不能通过对抗样本被反向传播到攻击策略的调整中。另外，还有其它很多不可微的操作，如关系到对抗攻击中迭代次数的选择等，它们很难将梯度信息反向传播到策略网络中。在该论文中我们利用强学学习算法去解决以上不可微的问题，具体过程请参见原文。
实验结果
3.1 与其他AT模型比较
下表分别为不同对抗训练的方法在 CIFAR10、CIFAR100 以及 Tiny Imagenet 三种不同数据集上鲁棒性的实验结果。可以发现，在大多数攻击场景下，论文中提出的三种方法对抗训练出的模型的性能都优于其它方法对抗训练出的模型，而且在很多情况下，论文中的方法不仅提高了基础模型的鲁棒性，而且提高了干净样本分类的精度。
3.2 超参数选择
我们将论文中方法与其他超参数搜索方法进行了比较，包括经典的超参数搜索方法（随机搜索）和两种自动超参数搜索方法。从下图可以看出，论文中的方法在所有攻击场景下对抗训练出的模型都达到了最佳的鲁棒性性能。为了研究 LAS-AT 的工作原理，我们分析了策略网络在不同训练阶段的攻击策略分布。最大扰动强度的范围设定为 3 到 15，下图所示为对抗训练期间最大扰动强度的分布演变情况。在对抗训练开始时，分布覆盖了最大扰动强度的所有可选值。每个值都有选择的机会，这确保了对抗样本的多样性。随着对抗训练的进行，小扰动强度的百分比降低。在后期，最大扰动强度的分布被几个大值占据。这一现象表明，策略网络逐渐增加大扰动强度的百分比，以生成更强的对抗扰动，进而目标网络的鲁棒性通过使用强对抗样本进行训练而逐渐增强。3.3 鲁棒性实验
我们也在 WRN-70-16 上测试了方法的有效性。实验表明 LAS-AWP 可以提高模型的鲁棒性，实现更高的鲁棒性精度。在 CIFAR-100 上，Cui 等人为 LBGAT 训练 WideResNet34-20（WRN-34-20），并在没有额外的真实或合成数据的情况下实现了最先进的稳健性。在 WRN-34-20 上，LAS-AWP 也可以达到更高的鲁棒性精度。结果见表 5。3.4 消融实验
为了验证目标函数中每个元素的有效性，我们在 CIFAR-10 上用 ResNet18 进行消融实验。在我们的损失中，除了损失，我们还提出了两个额外的损失项来指导策略网络的学习，即评估稳健性的损失和预测清洁样本的损失。我们通过使用、&、&和&&，分别训练四个 LAS-PGD-AT 模型。用一组对抗性攻击方法对训练好的模型进行攻击。结果显示在下表中。分类精度是评价指标。“clean”代表使用干净图像进行测试，而其他攻击方法使用 AE 进行测试。
总结
我们通过引入“可学习攻击策略”的概念，提出了一个新颖的对抗训练框架，它由目标网络和策略网络构成。在博弈机制下，策略网络根据目标模型的鲁棒性学习产生动态的攻击策略，用于对抗样本的生成，而不是使用纯手工的方法。为了指导策略网络的学习，我们还提出了两个损失项，并在三个基准数据集上进行了广泛的实验评估，以证明所提方法的优越性。
#投 稿 通 道#
让你的文字被更多人看到
如何才能让更多的优质内容以更短路径到达读者群体，缩短读者寻找优质内容的成本呢？答案就是：你不认识的人。
总有一些你不认识的人，知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁，促使不同背景、不同方向的学者和学术灵感相互碰撞，迸发出更多的可能性。
PaperWeekly 鼓励高校实验室或个人，在我们的平台上分享各类优质内容，可以是最新论文解读，也可以是学术热点剖析、科研心得或竞赛经验讲解等。我们的目的只有一个，让知识真正流动起来。
📝 稿件基本要求：
• 文章确系个人原创作品，未曾在公开渠道发表，如为其他平台已发表或待发表的文章，请明确标注
• 稿件建议以 markdown 格式撰写，文中配图以附件形式发送，要求图片清晰，无版权问题
• PaperWeekly 尊重原作者署名权，并将为每篇被采纳的原创首发稿件，提供业内具有竞争力稿酬，具体依据文章阅读量和文章质量阶梯制结算
📬 投稿通道：
• 投稿邮箱：hr@paperweekly.site
• 来稿请备注即时联系方式（微信），以便我们在稿件选用的第一时间联系作者
• 您也可以直接添加小编微信（pwbot02）快速投稿，备注：姓名-投稿
△长按添加PaperWeekly小编
🔍
现在，在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧