计算机科学 > 计算与语言
[提交于 2025年1月4日
]
标题: LLMzSzŁ:波兰语的全面LLM基准
标题: LLMzSzŁ: a comprehensive LLM benchmark for Polish
摘要: 本文介绍了针对波兰语的首个全面基准测试:LLMzSz{\L } (LLMs Behind the School Desk)。 它是基于一系列连贯的波兰国家考试,包括从波兰中央考试委员会档案中提取的学术和专业考试。 它涵盖4种类型的考试,来自154个领域。 总共包含近19000道封闭式问题。 我们研究了开源多语言、英语和波兰语LLMs的性能,以验证LLMs在不同语言之间迁移知识的能力。 同时,还考察了模型准确率和考试通过率层面的LLMs与人类之间的相关性。 我们表明,多语言LLMs可以在单语言LLMs之上获得更好的结果;然而,当模型大小重要时,单语言模型可能更有益。 我们的分析突显了LLMs在辅助考试验证方面的潜力,特别是在识别考试任务中的异常或错误方面。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.