数学 > 优化与控制
[提交于 2025年7月22日
]
标题: 高维优化的分布视角
标题: A Distributional View of High Dimensional Optimization
摘要: 本博士论文从分布视角来看待优化,而不是从最坏情况的视角。 我们通过研究经典优化的失败点来引出这种观点。 随后我们考虑随机抽取的目标函数的优化。 这是贝叶斯优化的设定。 在回顾贝叶斯优化之后,我们概述了这种分布视角如何解释高维优化中的可预测进展。 进一步发现,这种分布视角为梯度下降的最优步长控制提供了见解。 为了获得这些结果,我们开发了数学工具来处理随机输入到随机函数的问题,并对非平稳各向同性协方差核进行了表征。 最后,我们概述了关于数据的假设,特别是可交换性,如何导致机器学习中的随机目标函数,并分析了它们的景观。
文献和引用工具
与本文相关的代码,数据和媒体
alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)
演示
推荐器和搜索工具
arXivLabs:与社区合作伙伴的实验项目
arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。
与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。
有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.