计算机科学 > 计算与语言
[提交于 2025年1月28日
]
标题: 一种随机动力学理论的LLM自对抗性:将严重性漂移建模为临界过程
标题: A Stochastic Dynamical Theory of LLM Self-Adversariality: Modeling Severity Drift as a Critical Process
摘要: 本文介绍了一个连续时间随机动力学框架,用于理解大型语言模型(LLMs)如何通过自身的思维链推理自我放大潜在偏见或有害性。 该模型假设一个瞬时“严重性”变量$x(t) \in [0,1]$在带有漂移项$\mu(x)$和扩散$\sigma(x)$的随机微分方程(SDE)下演化。 关键的是,如果每个增量步骤在严重性空间中几乎具有马尔可夫性,那么这种过程可以通过福克-普朗克方法进行一致分析。 分析研究了临界现象,表明某些参数范围会导致从亚临界(自我纠正)到超临界(失控严重性)的相变。 本文推导了稳态分布、达到有害阈值的第一穿越时间以及临界点附近的标度定律。 最后,它强调了对智能体和扩展的LLM推理模型的含义:原则上,这些方程可能作为形式验证的基础,以确定模型在重复推理过程中是否保持稳定或传播偏见。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.