在科学研究中，从方法论上来讲，都应“先见森林，再见树木”。当前，人工智能学术研究方兴未艾，技术迅猛发展，可谓万木争荣，日新月异。对于AI从业者来说，在广袤的知识森林中，系统梳理脉络，才能更好地把握趋势。为此，我们精选国内外优秀的综述文章，开辟“综述专栏”，敬请关注。
地址：https://zhuanlan.zhihu.com/p/460407931
01
1. 什么是持续学习？
持续学习的目标是能够将一个任务的知识运用到另一个任务上，并且学习后一个任务时也不会忘记如何做前一个任务，即跨时间学习。为了避免灾难性遗忘问题，持续学习在对持续数据流进行学习的同时，也会重复使用已经学习到的知识。现有的持续学习模型通常是离线，使用大量的标记数据进行的有监督学习。并且，模型通常需要在一开始就得知任务的数量和性质。目前的挑战是小样本、无监督以及自监督学习。2. 相关的机器学习范式
3. 持续学习方法
现有的持续学习方法倾向于将单一的模型应用于所有的任务上，通常分为以下三大类：Rehersal methods: 保留先前任务的部分训练数据，应用在之后的任务中。经典模型例如iCaRL模型，是一种增量类的学习方法。但Rehersal方法的缺点是每个任务都要保留训练样本，在后期学习模型是再次使用，回到模型计算量过大。解决方法有latne replay（潜在重放）或者pseudo-rehersal（伪排练）方法。Pseudo-rehearsal methods：伪排练模型不直接使用历史训练数据，而是通过之前任务的概率分布来生成样本，具体方法包括生成式自动编码器和基于生成式对抗网络的模型。Regularization methods：单模型方法，通过在固定的模型容量上增添附加的损失项，在学习后续任务和数据时帮助知识整合。具体说，该方法的目的是通过调整损失函数来减少遗忘。Memory methods：是Regularizatin（正则化方法）的一种特例，可分为synaptic regularization和episodic memory。前者通过调整学习率来减少合并知识对于先前学习的模型参数的干扰；后者存储先前的训练数据，在后续的训练中允许学习新的类别。比较景点的模型包括GEM,A-GEM,MER,NLP-MBPA++。Knowledge distillation methods：与episodic memory很像，但与其保持对过去任务的预测不变，该方法将知识从大型网络模型（teacher）转移到新的小的网络模型(student)中。学生模型学习到的是对教师模型的预测。知识蒸馏方法被证明特别适合于神经机器翻译模型，以此来减小模型大小。Architectural methods：通过更改网络结构、增添模块来引入特定任务的参数和防止遗忘。典型的方法是，先前任务的参数被固定或者mask，新的层作为附加模块动态引入来增强模型。02
目前在NLP领域，并没有统一的针对CL的数据集和benchmark评估方法。1. 评价指标
原则上，CL模型不仅应该根据传统的性能指标（如模型的准确性）进行评估，衡量模型重用先验知识的能力也很重要。类似的，评估模型学习新任务的速度在CL设置中也很重要。以及对于灾难性遗忘（CF）的评估问题。以下为一篇论文提出的三个评价指标：Average Accuracy：A∈[0，1]，评估第一个任务到第T个任务的增量训练后的平均精度：Forgetting Measure：F∈[-1,1]，从第一个任务到T增量训练后的平均遗忘度：其中，fij为模型训练到任务tj后对任务ti的遗忘，计算为：Learning Curve Area：LCA∈[0,1]，LCA是Zb曲线下的面积，它捕获了学习者在所有T任务上的表现。Zb为观察第b批小批量后的平均精度，定义为：2. 评价数据集
本文目的在于学术交流，并不代表本公众号赞同其观点或对其内容真实性负责，版权归原作者所有，如有侵权请告知删除。
“综述专栏”历史文章
更多综述专栏文章，
请点击文章底部“阅读原文”查看
分享、点赞、在看，给个三连击呗！