计算机科学 > 机器学习
[提交于 2024年2月1日
(v1)
,最后修订 2024年2月2日 (此版本, v2)]
标题: 联邦学习的模拟数字调度:一种通信高效的方法
标题: Analog-digital Scheduling for Federated Learning: A Communication-Efficient Approach
摘要: 过空气(OTA)计算最近作为一种通信高效的联邦学习(FL)范式出现,用于通过无线网络训练机器学习模型。然而,其性能受到信噪比最差的设备限制,导致快速但嘈杂的更新。另一方面,通过数字信道为单个设备分配正交资源块(RB)可以减轻噪声问题,但会增加通信延迟。本文解决了这一差异,并提出了ADFL,这是一种新颖的模拟-数字FL方案:在每一轮中,参数服务器(PS)调度每个设备要么通过模拟OTA方案上传梯度,要么使用“数字”方案通过正交RB传输其量化梯度。专注于单个FL轮次,我们将最优调度问题建模为在延迟约束下最小化PS处估计全局梯度的均方误差(MSE),从而得出最优设备调度配置和数字设备的量化位数。我们的仿真结果显示,ADFL通过在OTA方案中调度大多数设备,同时偶尔为少数设备使用数字方案,在独立同分布(i.i.d.)和非独立同分布(non-i.i.d.)设置下始终优于仅OTA和仅数字方案。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.