Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2510.24431v1

帮助 | 高级搜索

计算机科学 > 信息检索

arXiv:2510.24431v1 (cs)
[提交于 2025年10月28日 ]

标题: MiniOneRec:一个用于生成推荐扩展的开源框架

标题: MiniOneRec: An Open-Source Framework for Scaling Generative Recommendation

Authors:Xiaoyu Kong, Leheng Sheng, Junfei Tan, Yuxin Chen, Jiancan Wu, An Zhang, Xiang Wang, Xiangnan He
摘要: 大型语言模型(LLMs)的最新成功重新引发了人们对推荐系统是否能获得类似扩展效益的兴趣。传统的推荐系统主要由庞大的嵌入表主导,在嵌入维度增加时往往会达到瓶颈。相比之下,新兴的生成范式用自回归Transformer生成的紧凑语义ID(SID)序列取代了嵌入。然而,大多数工业部署仍然是专有的,留下了两个基本问题:(1)预期的扩展定律在公共基准上是否成立?(2)什么是最小的后训练方案能够实现有竞争力的性能?我们提出MiniOneRec,据我们所知,这是第一个完全开源的生成推荐框架,提供了一个端到端的工作流程,涵盖SID构建、监督微调和面向推荐的强化学习。我们通过残差量化VAE生成SID,并在Amazon Review数据集上对参数范围从0.5B到7B的Qwen主干进行后训练。我们的实验显示,随着模型规模的增加,训练和评估损失均呈现出一致的下降趋势,验证了生成方法的参数效率。为了进一步提高性能,我们提出了一种轻量但有效的后训练流程,(1)强制全过程SID对齐,(2)应用具有约束解码和混合奖励的强化学习。这些技术共同显著提升了排序准确性和候选多样性。
摘要: The recent success of large language models (LLMs) has renewed interest in whether recommender systems can achieve similar scaling benefits. Conventional recommenders, dominated by massive embedding tables, tend to plateau as embedding dimensions grow. In contrast, the emerging generative paradigm replaces embeddings with compact Semantic ID (SID) sequences produced by autoregressive Transformers. Yet most industrial deployments remain proprietary, leaving two fundamental questions open: (1) Do the expected scaling laws hold on public benchmarks? (2) What is the minimal post-training recipe that enables competitive performance? We present MiniOneRec, to the best of our knowledge, the first fully open-source generative recommendation framework, which provides an end-to-end workflow spanning SID construction, supervised fine-tuning, and recommendation-oriented reinforcement learning. We generate SIDs via a Residual Quantized VAE and post-train Qwen backbones ranging from 0.5B to 7B parameters on the Amazon Review dataset. Our experiments reveal a consistent downward trend in both training and evaluation losses with increasing model size, validating the parameter efficiency of the generative approach. To further enhance performance, we propose a lightweight yet effective post-training pipeline that (1) enforces full-process SID alignment and (2) applies reinforcement learning with constrained decoding and hybrid rewards. Together, these techniques yield significant improvements in both ranking accuracy and candidate diversity.
评论: 技术报告
主题: 信息检索 (cs.IR) ; 人工智能 (cs.AI)
引用方式: arXiv:2510.24431 [cs.IR]
  (或者 arXiv:2510.24431v1 [cs.IR] 对于此版本)
  https://doi.org/10.48550/arXiv.2510.24431
通过 DataCite 发表的 arXiv DOI(待注册)

提交历史

来自: Xiaoyu Kong [查看电子邮件]
[v1] 星期二, 2025 年 10 月 28 日 13:58:36 UTC (8,590 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
查看许可
当前浏览上下文:
cs.IR
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-10
切换浏览方式为:
cs
cs.AI

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号