Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2504.02828

帮助 | 高级搜索

计算机科学 > 计算机视觉与模式识别

arXiv:2504.02828 (cs)
[提交于 2025年4月3日 ]

标题: 概念手术刀:基于组成表示移植的图像编辑

标题: Concept Lancet: Image Editing with Compositional Representation Transplant

Authors:Jinqi Luo, Tianjiao Ding, Kwan Ho Ryan Chan, Hancheng Min, Chris Callison-Burch, René Vidal
摘要: 扩散模型广泛用于图像编辑任务。现有的编辑方法通常通过设计文本嵌入或分数空间中的编辑方向来设计表示操作过程。然而,这种方法面临一个关键挑战:过度估计编辑强度会损害视觉一致性,而低估它则无法完成编辑任务。值得注意的是,每张源图像可能需要不同的编辑强度,并且通过试错法寻找适当的强度成本高昂。为了解决这个挑战,我们提出了Concept Lancet(CoLan),这是一种针对基于扩散的图像编辑中原则性表示操作的零样本即插即用框架。在推理阶段,我们将源输入分解为潜在(文本嵌入或扩散分数)空间中收集的视觉概念表示的稀疏线性组合。这使我们可以准确估计每个图像中概念的存在情况,从而指导编辑过程。根据编辑任务(替换/添加/删除),我们执行自定义的概念移植过程以施加相应的编辑方向。为了充分建模概念空间,我们策划了一个概念表示数据集CoLan-150K,其中包含潜在字典中视觉术语和短语的各种描述和场景。在多个基于扩散的图像编辑基线上的实验表明,配备CoLan的方法在编辑效果和一致性保持方面达到了最先进的性能。
摘要: Diffusion models are widely used for image editing tasks. Existing editing methods often design a representation manipulation procedure by curating an edit direction in the text embedding or score space. However, such a procedure faces a key challenge: overestimating the edit strength harms visual consistency while underestimating it fails the editing task. Notably, each source image may require a different editing strength, and it is costly to search for an appropriate strength via trial-and-error. To address this challenge, we propose Concept Lancet (CoLan), a zero-shot plug-and-play framework for principled representation manipulation in diffusion-based image editing. At inference time, we decompose the source input in the latent (text embedding or diffusion score) space as a sparse linear combination of the representations of the collected visual concepts. This allows us to accurately estimate the presence of concepts in each image, which informs the edit. Based on the editing task (replace/add/remove), we perform a customized concept transplant process to impose the corresponding editing direction. To sufficiently model the concept space, we curate a conceptual representation dataset, CoLan-150K, which contains diverse descriptions and scenarios of visual terms and phrases for the latent dictionary. Experiments on multiple diffusion-based image editing baselines show that methods equipped with CoLan achieve state-of-the-art performance in editing effectiveness and consistency preservation.
评论: 收录于CVPR 2025。项目页面:https://peterljq.github.io/project/colan
主题: 计算机视觉与模式识别 (cs.CV) ; 人工智能 (cs.AI); 计算与语言 (cs.CL)
引用方式: arXiv:2504.02828 [cs.CV]
  (或者 arXiv:2504.02828v1 [cs.CV] 对于此版本)
  https://doi.org/10.48550/arXiv.2504.02828
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Jinqi Luo [查看电子邮件]
[v1] 星期四, 2025 年 4 月 3 日 17:59:58 UTC (3,087 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
  • 其他格式
许可图标 查看许可
当前浏览上下文:
cs.CV
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-04
切换浏览方式为:
cs
cs.AI
cs.CL

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号