查看原文
其他

精彩回顾 | 可信联邦学习医疗领域前沿论文解读


日前,由机器之心机动组策划的线上视频直播——可信联邦学习(Trustworthy federated learning)论文线上分享成功举办。微众银行人工智能首席科学家范力欣博士与五篇可信联邦学习医疗领域最新论文的作者,对该领域的前沿研究进行了详细的介绍。
范力欣博士总体介绍了可信联邦学习在核心理论、算法设计、模型管理和实际应用等方面的最新进展。

而后以下五篇论文作者从不同角度详细介绍了可信联邦学习的前沿成果。

论文一


论文信息

作者:Yiqiang Chen, Wang Lu, Xin Qin, Jindong Wang, Xing Xie

标题:MetaFed: Federated Learning among Federations with Cyclic KnowledgeDistillation for Personalized Healthcare

论文全文链接

https://arxiv.org/pdf/2206.08516.pdf 

详细解读文章链接:

论文解读 | MetaFed:一种基于环形知识蒸馏的元联邦学习框架


中国科学院计算技术研究所所务委员、博士生导师、陈益强研究员介绍了《MetaFed:一种基于环形知识蒸馏的元联邦学习框架》。该论文提出了"元联邦"既"联邦之联邦"概念,及MetaFed层次化动态环联邦学习框架。通过自适应的环形知识蒸馏,累积通用知识,舍弃冗余知识,以较小通信代价,达到在无中心服务端参与情形下获取精度提升及个性化学习。实验表明,在多联邦建模场景,本文方法能取得目前最好的结果。


论文二


论文信息

作者:Shaoqi Chen, Bin Duan, Chenyu Zhu, Chen Tang, Shuguang Wang, Yicheng Gao, Shaliu Fu, Lixin Fan, Qiang Yang, Qi Liu

标题:Privacy-preserving integration of multiple institutional data for single-cell type identification with scPrivacy

论文全文链接

https://www.biorxiv.org/content/10.1101/2022.05.23.493074v1.full

详细解读文章链接:

论文解读 | scPrivacy:以隐私保护的方式整合多机构数据的单细胞细胞类型识别框架


同济大学在读博士生陈绍奇介绍了《 scPrivacy:以隐私保护的方式整合多机构数据的单细胞细胞类型识别框架》。该论文提出了基于联邦深度度量学习的单细胞细胞类型识别框架scPrivacy,通过以隐私保护的方式整合多个机构数据集来促进单细胞细胞类型注释从而解决隐私问题。本文在27个基准数据集和15个病人数据集上评估了scPrivacy,证明了scPrivacy的有效性。同时,scPrivacy在时间消耗方面是高效的,并且随着机构数据集数量的增加,其表现越来越好,同时对相似性度量、数据异质性和数据量大小具有鲁棒性。


论文三


论文信息

作者:Hong Zhang,Ji Liu, Juncheng Jia, Yang Zhou, Huaiyu Dai, Dejing Dou

标题:FedDUAP: Federated Learning with Dynamic Update and Adaptive PruningUsing Shared Data on the Server

论文全文链接

https://www.ijcai.org/proceedings/2022/0385.pdf

详细解读文章链接:

论文解读 | FedDUAP:基于服务器上共享数据动态更新和自适应剪枝的联邦学习


百度研究院资深研究员刘吉博士和奥本大学计算机科学与软件工程系的助理教授周杨介绍了《FedDUAP:基于服务器上的共享数据进行动态更新和自适应修剪的联邦学习 》。该论文提出了一个基于服务器上共享不敏感数据的高效联邦学习框架,即FedDUAP。FedDUAP由动态更新联邦学习算法FedDU和自适应剪枝方法FedAP组成。利用服务器数据和设备数据训练全局模型,同时考虑数据的non-IID程度,作者们对不同的模型和现实生活中的数据集进行了广泛的实验。实验结果表明,FedDUAP在精度(最多高4.8%)、效率(最多快2.8倍)和计算成本(最多减少61.9%)方面明显优于SOTA。


论文四


论文信息

作者:Jianfei Cui,He Zhu,Hao Deng,Ziwei Chen,Dianbo Liu

标题:MetaFed: Federated Learning among Federations with Cyclic Knowledge Distillation for Personalized Healthcare

论文全文链接

https://www.sciencedirect.com/science/article/pii/S1532046421000642


Mila - 魁北克人工智能研究所Yoshua Bengio 教授小组的机器学习博士后研究员刘佃渤博士介绍了《具有匿名随机杂交的联邦学习(FeARH)》。该论文提出了「具有匿名随机杂交的联邦学习(FeARH)」算法来训练电子病历数据。该算法主要使用杂交算法,通过在共享给其他方的参数集中加入随机化,使医疗记录数据和模型的参数之间的联系退化整合。实验显示,与集中式机器学习和传统联邦学习相比,新算法具有相似的 AUCROC 和 AUCPR  结果。


论文五


论文信息

作者:Heng Zhu, Qing Ling

标题:Bridging Differential Privacy and Byzantine-Robustness via Model Aggregation

论文全文链接

https://arxiv.org/abs/2205.00107

详细解读文章链接:

论文解读 | 通过模型聚合同时实现拜占庭鲁棒和差分隐私


加州大学圣地亚哥分校电子与计算机工程在读博士生祝恒介绍了《通过模型聚合同时实现拜占庭鲁棒和差分隐私》。该论文通过鲁棒模型聚合的方法同时处理了拜占庭鲁棒和差分隐私的问题,使得这两个因素的影响解耦。在理论上,本文为差分隐私和算法收敛性提供了保证。在实际中,本文在模型差值的基础上加入噪声,需要加入的噪声很小,使得算法的性能受到的影响也较小。



联邦学习领域专家们的研究正在逐渐为可信联邦学习打下坚实的基础。于此同时,仍存在如何实现隐私保护、模型性能、计算效率三者的平衡,如何提高决策的可解释性,如何保证模型可监管、可审计等热点问题亟待解决。我们期待在产学研各界的共同努力下,可信联邦学习从理论完美走向实用完美,为数字经济的发展和数据要素流通提供良好的解决方案。


点击下方获取直播完整视频


END


【github直达】:阅读原文或复制链接https://github.com/FederatedAI/FATE即可,点击star,方便下次使用。

继续滑动看下一个
FATE开源社区
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存