计算机科学 > 软件工程
[提交于 2025年7月13日
]
标题: 量化是决定性因素吗? 来自大型代码模型的实证见解
标题: Is Quantization a Deal-breaker? Empirical Insights from Large Code Models
摘要: 随着大型语言模型(LLMs)规模的不断扩大,不仅需要大量的计算资源,还由于其不断增加的碳足迹而引发了环境问题。模型量化作为一种有效的方法,可以在不显著影响性能的情况下减少LLMs的资源需求(例如,从16位降至4位)。尽管最近的研究已经将量化确立为优化大型代码模型(LCMs)的一种有前景的方法,LCMs是专为自动化软件工程设计的LLM的一个子集,但它们的发现仅提供了有限的实际意义见解。具体来说,当前的研究仅关注量化模型生成的代码的功能正确性,忽略了量化如何影响代码质量的关键方面,如可靠性、可维护性和安全性。为了弥补这一差距,我们的研究调查了量化对自动生成代码定性方面的影响。我们将感知激活的权重量化(AWQ)应用于两个广泛使用的代码模型CodeLlama和DeepSeekCoder,以生成Java和Python代码。使用最先进的静态分析工具,我们评估了软件质量指标和静态特征,包括循环复杂度、认知复杂度和代码行数。我们的研究结果表明,量化是一种稳健的技术,不仅保持了功能正确性,还保留了开发者所追求的关键定性代码属性,如可维护性和结构简单性。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.