计算机科学 > 机器学习
[提交于 2025年6月26日
]
标题: 思维链增强的浅层变压器用于无线符号检测
标题: Chain-of-Thought Enhanced Shallow Transformers for Wireless Symbol Detection
摘要: Transformer在解决无线通信问题方面显示出潜力,特别是通过上下文学习(ICL),其中模型通过提示适应新任务而无需更新模型。 然而,之前的基于ICL的Transformer模型依赖于深度架构,具有许多层以实现令人满意的性能,导致存储和计算成本显著增加。 在本工作中,我们提出了CHain Of thOught Symbol dEtection(CHOOSE),一种增强思维链的浅层Transformer框架,用于无线符号检测。 通过在隐藏空间中引入自回归潜在推理步骤,CHOOSE在不增加模型深度的情况下显著提高了浅层模型(1-2层)的推理能力。 这种设计使轻量级Transformer能够实现与更深层模型相当的检测性能,使其非常适合在资源受限的移动设备上部署。 实验结果表明,我们的方法优于传统的浅层Transformer,并且实现了与深层Transformer相当的性能,同时保持了存储和计算效率。 这为在计算资源有限的无线接收器中实现基于Transformer的算法提供了一个有前景的方向。
当前浏览上下文:
cs.LG
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.