Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2507.09075

帮助 | 高级搜索

计算机科学 > 计算与语言

arXiv:2507.09075 (cs)
[提交于 2025年7月11日 ]

标题: OpenCodeReasoning-II:通过自我批判的简单测试时缩放方法

标题: OpenCodeReasoning-II: A Simple Test Time Scaling Approach via Self-Critique

Authors:Wasi Uddin Ahmad, Somshubra Majumdar, Aleksander Ficek, Sean Narenthiran, Mehrzad Samadi, Jocelyn Huang, Siddhartha Jain, Vahid Noroozi, Boris Ginsburg
摘要: 基于推理的大型语言模型(LLMs)的最新进展,特别是其通过测试时缩放的潜力,为代码生成和批判的蒸馏创造了重大机会。 然而,这两个领域的进展根本上依赖于大规模、高质量的数据集。 在本工作中,我们引入了OpenCodeReasoning-II,一个包含250万个问题-解决方案-批判三元组的数据集(约35,000个独特的编程问题),使其大小几乎是之前最大公开可用代码推理数据集的两倍。 在本工作中,我们采用了一个两阶段的监督微调策略。 第一阶段专注于代码生成的微调,而第二阶段涉及代码生成和批判模型的联合训练。 我们得到的微调后的Qwen2.5-Instruct模型在代码生成方面的性能超过了或等于最佳先前开放权重蒸馏模型。 值得注意的是,我们的代码生成和批判模型的集成显著提高了竞争性编程性能。 此外,我们对LiveCodeBench基准进行了扩展,以专门支持C++编程语言,从而促进了使用此基准的更全面的LLM评估。
摘要: Recent advancements in reasoning-based Large Language Models (LLMs), particularly their potential through test-time scaling, have created significant opportunities for distillation in code generation and critique. However, progress in both areas fundamentally depends on large-scale, high-quality datasets. In this work, we introduce OpenCodeReasoning-II, a dataset consists of 2.5M question-solution-critique triples (approx. 35K unique programming questions), making it nearly twice the size of the previous largest publicly available code reasoning dataset. In this work, we employ a two-stage supervised fine-tuning strategy. The first stage focuses on fine-tuning for code generation, while the second stage involves the joint training of models for both code generation and critique. Our resulting finetuned Qwen2.5-Instruct models achieve performance in code generation that either exceeds or equals the best prior open-weight distilled models. Notably, the integration of our code generation and critique models leads to significant improvements in competitive coding performance. Furthermore, we present an extension of the LiveCodeBench benchmark to specifically support the C++ programming language, thereby facilitating more comprehensive LLM evaluation using this benchmark.
评论: 进行中
主题: 计算与语言 (cs.CL)
引用方式: arXiv:2507.09075 [cs.CL]
  (或者 arXiv:2507.09075v1 [cs.CL] 对于此版本)
  https://doi.org/10.48550/arXiv.2507.09075
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Wasi Uddin Ahmad [查看电子邮件]
[v1] 星期五, 2025 年 7 月 11 日 23:35:54 UTC (174 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
  • 其他格式
许可图标 查看许可
当前浏览上下文:
cs
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-07
切换浏览方式为:
cs.CL

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号