计算机科学 > 计算与语言
[提交于 2024年12月31日
(此版本)
, 最新版本 2025年2月23日 (v2)
]
标题: 通过提示和稀疏自编码器引导LLM值的因果图导向调整
标题: Causal Graph Guided Steering of LLM Values via Prompts and Sparse Autoencoders
摘要: 随着大型语言模型(LLMs)越来越多地融入关键应用,使其行为与人类价值观保持一致面临着重大挑战。 当前的方法,如基于人类反馈的强化学习(RLHF),通常只关注有限的一组价值观,并且资源消耗较大。 此外,价值观之间的相关性在很大程度上被忽视,尚未得到充分利用。 我们的框架通过挖掘一个因果图来解决这一局限性,该因果图阐明了LLMs中各种价值观之间的隐含关系。 利用因果图,我们实现了两种轻量级的价值引导机制:提示模板引导和稀疏自编码器特征引导,并分析了改变一个价值维度对其他维度的影响。 在Gemma-2B-IT和Llama3-8B-IT上进行的大量实验证明了我们引导方法的有效性和可控性。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.