Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > eess > arXiv:2506.23102

帮助 | 高级搜索

电气工程与系统科学 > 图像与视频处理

arXiv:2506.23102 (eess)
[提交于 2025年6月29日 ]

标题: MedRegion-CT:面向区域的多模态大语言模型用于全面的3D CT报告生成

标题: MedRegion-CT: Region-Focused Multimodal LLM for Comprehensive 3D CT Report Generation

Authors:Sunggu Kyung, Jinyoung Seo, Hyunseok Lim, Dongyeong Kim, Hyungbin Park, Jimin Sung, Jihyun Kim, Wooyoung Jo, Yoojin Nam, Namkug Kim
摘要: 最近发布的RadGenome-Chest CT显著推进了基于CT的报告生成。 然而,现有方法主要关注全局特征,难以捕捉区域特定细节,这可能导致某些异常被忽视。 为了解决这个问题,我们提出了 MedRegion-CT,一种以区域为中心的多模态大语言模型(MLLM)框架,具有三个关键创新。 首先,我们引入了区域 代表性($R^2$)标记池化,该方法利用一个二维预训练视觉模型来高效提取三维CT特征。 这种方法生成代表整体切片特征的全局标记和突出目标区域的区域标记,使MLLM能够有效处理全面信息。 其次,一个通用分割模型生成伪掩码,然后由掩码编码器处理以提取以区域为中心的特征。 这使得MLLM能够专注于临床相关的区域,使用六个预定义的区域掩码。 第三,我们利用分割结果提取患者特定的属性,包括器官大小、直径和位置。 这些被转换成文本提示,丰富了 MLLM对患者特定背景的理解。 为了确保严格的评估,我们在RadGenome-Chest CT上进行了报告生成的基准实验。MedRegion-CT达到了最先进的性能,在自然语言生成质量和临床相关性方面优于现有方法,同时保持了可解释性。 我们框架的代码是公开的。
摘要: The recent release of RadGenome-Chest CT has significantly advanced CT-based report generation. However, existing methods primarily focus on global features, making it challenging to capture region-specific details, which may cause certain abnormalities to go unnoticed. To address this, we propose MedRegion-CT, a region-focused Multi-Modal Large Language Model (MLLM) framework, featuring three key innovations. First, we introduce Region Representative ($R^2$) Token Pooling, which utilizes a 2D-wise pretrained vision model to efficiently extract 3D CT features. This approach generates global tokens representing overall slice features and region tokens highlighting target areas, enabling the MLLM to process comprehensive information effectively. Second, a universal segmentation model generates pseudo-masks, which are then processed by a mask encoder to extract region-centric features. This allows the MLLM to focus on clinically relevant regions, using six predefined region masks. Third, we leverage segmentation results to extract patient-specific attributions, including organ size, diameter, and locations. These are converted into text prompts, enriching the MLLM's understanding of patient-specific contexts. To ensure rigorous evaluation, we conducted benchmark experiments on report generation using the RadGenome-Chest CT. MedRegion-CT achieved state-of-the-art performance, outperforming existing methods in natural language generation quality and clinical relevance while maintaining interpretability. The code for our framework is publicly available.
评论: 14页,5张图,提交至ICCV 2025
主题: 图像与视频处理 (eess.IV) ; 计算机视觉与模式识别 (cs.CV)
引用方式: arXiv:2506.23102 [eess.IV]
  (或者 arXiv:2506.23102v1 [eess.IV] 对于此版本)
  https://doi.org/10.48550/arXiv.2506.23102
通过 DataCite 发表的 arXiv DOI(待注册)

提交历史

来自: Sunggu Kyung [查看电子邮件]
[v1] 星期日, 2025 年 6 月 29 日 06:08:55 UTC (6,746 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
  • 其他格式
许可图标 查看许可
当前浏览上下文:
eess.IV
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-06
切换浏览方式为:
cs
cs.CV
eess

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号