论文 | 一种基于Broyden类优化算法的迭代学习控制方法

近日，分布式人工智能实验室2021级博士生钱佳希、沈栋教授合作的论文《A Novel Iterative Learning Control Scheme Based on Broyden-class Optimization Method》被自动化与控制系统期刊International Journal of Robust and Nonlinear Control接收发表。

研究背景

基于优化的思想来设计迭代学习控制算法近来得到了快速的发展，例如基于一阶优化的梯度型迭代学习控制算法，也就是已经被广泛应用的P型更新律。为了提高算法的收敛速度，使输出信号更快地追踪到参考轨迹，基于加速一阶优化的Nesterov型迭代学习控制算法，基于二阶优化的牛顿型和拟牛顿型迭代学习控制算法被相继提出。然而，这些基于优化的加速迭代学习控制算法通常需要精确的系统信息，当精确的系统信息无法获得时，算法的收敛性可能会出现偏差。因此，我们提出了Broyden-class型迭代学习控制算法，这类算法可以看作是拟牛顿型迭代学习控制算法的推广，通过在算法中引入新的参数，达到在放宽对系统信息的需求的同时加快收敛速度的效果。

主要工作

本文主要考虑了如下的单入单出线性系统：

我们将输入信号和输出信号按时间累积。为了减少对精确系统信息的依赖，我们引入学习增益矩阵来构造一个新的损失函数：

新引入的增益矩阵用来保证函数Hessian矩阵正定，从而保证目标函数的凸性。可以看出当上述问题取得最优解时，输出信号追踪到参考轨迹。Broyden-class型迭代学习控制算法形式如下：

其中，Hessian矩阵的近似更新式为

算法的步长满足Wolfe准则：

从算法的更新形式可以看出，由于新引入了增益矩阵，迭代过程中可以减轻对系统信息的依赖。此外，和拟牛顿型迭代学习控制算法相比，新增加的可调节参数ϕ增加了算法的灵活性和收敛速度。

本文中，我们严格分析了算法的收敛性，从证明过程中可以看出Hessian矩阵的近似矩阵在迭代过程中具有自校正机制。这是由于算法中新增加了一个参数，如果该参数严格小于1，则可以使算法能够纠正Hessian矩阵近似矩阵的大特征值，从而确保了所提出算法的收敛性。此外，我们还具体分析了算法的收敛速度。Broyden-class型迭代学习控制算法的收敛速度可以达到𝑄-超线性收敛，优于传统的梯度型迭代学习控制算法和Nesterov型迭代学习控制算法。这是由于本文中的算法利用了损失函数的二阶信息，而基于一阶优化算法设计的迭代学习控制算法只用到了损失函数的一阶梯度信息，因此本文中的算法可以达到加速收敛的效果。最后，我们将Broyden-class型迭代学习控制算法推广到点对点系统，在点对点系统的情形，我们类似地构造新的损失函数，并给出了在点对点的情况下对应的算法的更新形式，完成了算法的收敛性分析。

研究贡献

本文最主要的贡献分为两方面，一方面是从优化的角度出发，通过选取合适的增益矩阵构建新的损失函数来减少算法对精确系统信息的依赖。另一方面是通过引入一个新的参数来更新Hessian矩阵的近似值，以此来加快收敛速度。我们严格分析了算法的收敛性，并给出了产生的输入信号的收敛速度。此外，我们将该算法扩展到P2P系统的情况，并证明了它的全局收敛性。

仿真结果

下图为迭代18次后输出信号的轨迹对比图和随着迭代次数的增加，追踪误差的对比图。从图中可以看出，同样迭代18次，由Broyden-class型迭代学习控制算法得到的输出轨迹比梯度型迭代学习控制算法得到的输出轨迹更接近参考轨迹。同时，Broyden-class型算法的追踪误差收敛速度更快。

同样的，通过下图的仿真图可以看出，对于点对点系统，Broyden-class型迭代学习控制算法的收敛性能优于梯度型迭代学习控制算法。这也验证了我们提出的算法具有加快收敛速度的效果。

期刊介绍

International Journal of Robust and Nonlinear Control，刊名中文《国际鲁棒和非线性控制杂志》，创刊于1991年，由WILEY出版，该杂志的重点是基于模型的控制设计方法，在自动化与控制系统领域具有较高的影响力，旨在打造一种学术水平高、可读性强、具有全球影响力的学术期刊。International Journal of Robust and Nonlinear Control是中科院期刊分区自动化与控制系统大类学科的2区期刊，同时也是应用数学小类学科的2区期刊，其最新影响因子为3.9（2022）。

论文地址

https://onlinelibrary.wiley.com/doi/10.1002/rnc.6972

第一作者

钱佳希，2021级直博生