Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2306.01784

帮助 | 高级搜索

计算机科学 > 人工智能

arXiv:2306.01784 (cs)
[提交于 2023年5月31日 ]

标题: 通过CodeWars的Katas评估GPT的编程能力

标题: Evaluating GPT's Programming Capability through CodeWars' Katas

Authors:Zizhuo Zhang, Lian Wen, Shaoyang Zhang, David Chen, Yanfei Jiang
摘要: 在人工智能(AI)这一快速发展的领域中,了解面向编程的模型的能力和局限性至关重要。 本文对生成式预训练变换器(GPT)模型,特别是GPT-3.5和GPT-4,在不同难度级别的编码问题上的编程能力进行了新颖的评估,这些问题来源于Codewars。 实验结果揭示了在3kyu级别存在一个明显的分界线,超出该级别的问题,这些GPT模型难以提供解决方案。 这些发现促使提出了一种用于编码问题复杂度的衡量方法,该方法结合了问题难度和解决问题所需的时间。 研究强调了AI模型需要具备验证能力和创造性思维能力,以更好地模仿人类的问题解决技术。 未来的工作旨在完善这种提出的复杂度衡量方法,增强AI模型的这些建议能力,并开发一种客观的编程问题难度衡量方法。 这项研究的结果为提高AI编程能力并推进AI问题解决能力的前沿提供了无价的见解。
摘要: In the burgeoning field of artificial intelligence (AI), understanding the capabilities and limitations of programming-oriented models is crucial. This paper presents a novel evaluation of the programming proficiency of Generative Pretrained Transformer (GPT) models, specifically GPT-3.5 and GPT-4, against coding problems of varying difficulty levels drawn from Codewars. The experiments reveal a distinct boundary at the 3kyu level, beyond which these GPT models struggle to provide solutions. These findings led to the proposal of a measure for coding problem complexity that incorporates both problem difficulty and the time required for solution. The research emphasizes the need for validation and creative thinking capabilities in AI models to better emulate human problem-solving techniques. Future work aims to refine this proposed complexity measure, enhance AI models with these suggested capabilities, and develop an objective measure for programming problem difficulty. The results of this research offer invaluable insights for improving AI programming capabilities and advancing the frontier of AI problem-solving abilities.
评论: 9页
主题: 人工智能 (cs.AI) ; 软件工程 (cs.SE)
引用方式: arXiv:2306.01784 [cs.AI]
  (或者 arXiv:2306.01784v1 [cs.AI] 对于此版本)
  https://doi.org/10.48550/arXiv.2306.01784
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Lian Wen [查看电子邮件]
[v1] 星期三, 2023 年 5 月 31 日 10:36:16 UTC (403 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
查看许可
当前浏览上下文:
cs.AI
< 上一篇   |   下一篇 >
新的 | 最近的 | 2023-06
切换浏览方式为:
cs
cs.SE

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号