2022级硕士研究生郭亚明同学论文被ICML'2023接收

发布时间:2023-05-04 点击:

论文题目:Out-of-Distribution Generalization of Federated Learning via Implicit Invariant Relationships

作者:郭亚明,郭凯(共同一作),曹晓锋,伍铁如,常毅

通讯作者:曹晓锋,伍铁如

论文概述:对于分布偏移下联邦学习的非参与客户而言,分布外泛化具有挑战性。一个行之有效的策略是探索输入变量和目标变量之间那些对非参与客户同样有效的不变关系。然而,学习不变关系往往是以显式的方式从数据、表示、分布中进行的,这违反了隐私保护和有限通信的联邦原则。在本文中,我们提出了FedIIR,它从参数中隐式地学习不变关系以进行分布外泛化,同时遵循上述原则。具体来说,我们利用预测分歧来量化不变关系,并通过客户间梯度对齐隐式地减少它。从理论上讲,我们展示了FedIIR 有望推广到的非参与客户的范围,并展示了FedIIR 在客户端大规模分布且通信有限场景下的收敛结果。广泛的实验结果表明,FedIIR在联邦学习的分布外泛化方面明显优于相关基线。