其他
论文名称:公平联邦学习及其设计论文来源:计算机学报论文作者:暨南大学可信人工智能教育部工程研究中心和桂林电子科技大学广西可信软件重点实验室的古天龙教授、常亮教授与青年学者李龙博士论文链接:http://cjc.ict.ac.cn/online/onlinepaper/gtl-202396145619.pdf1前言联邦学习是由多个客户端协作开展模型训练的一种分布式机器学习解决方案.在联邦学习架构下,公平性被赋予了更加丰富的内涵:一方面,联邦学习中不同参与者对模型训练的贡献可能会有很大不同,能够公平反映每个参与者贡献的奖惩激励机制是联邦学习生态可持续发展的关键;另一方面,无论发送给各个参与方的全局模型是被直接用于结果预测还是用于优化参与方的个性化模型,各个参与方所使用的模型在最终的预测性能或精准度上应该具有公平性.具有某一个或多个方面公平性的联邦学习称为公平联邦学习.通过系统梳理和全面剖析近年来的研究工作,对联邦学习的公平性概念、定义及度量进行了阐释;从公平联邦学习生命周期的不同阶段出发,分别对与公平联邦学习设计相关的公平客户端选择、公平模型优化、公平贡献评估、公平激励机制等进行了综述;从可信人工智能及可信联邦学习的角度,对联邦学习公平性与隐私性、鲁棒性的综合设计进行了讨论;立足于区块链与联邦学习的不同耦合方式,即完全耦合、柔性耦合和松散耦合,对基于区块链的联邦学习框架结构进行了分类阐述,进一步从框架结构、公平性、鲁棒性及隐私保护功能等方面对相关研究工作进行了述评;最后,从公平性定义及度量、公平联邦学习方法、鲁棒公平联邦学习及符合伦理联邦学习等四个方面,给出了公平联邦学习及其设计所面临的主要问题、挑战及研究热点.2公平联邦学习传统机器学习的公平性增强,或者公平机器学习设计,包括预处理、中间处理和后处理等三类方法.基于此,联邦学习的公平性增强,或者公平联邦学习设计,也可以采取这三种方式.已有的公平联邦学习设计大都集中于中间处理方法.从公平联邦学习的生命周期角度,大致可分划为:客户端选择、模型优化、贡献评价、激励机制等方法.3本文的重要概念隐私:隐私和非歧视