Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2501.02025

帮助 | 高级搜索

计算机科学 > 机器学习

arXiv:2501.02025 (cs)
[提交于 2025年1月2日 ]

标题: RealDiffFusionNet:使用真实世界数据进行疾病进展建模的神经受控微分方程多头注意力融合网络

标题: RealDiffFusionNet: Neural Controlled Differential Equation Informed Multi-Head Attention Fusion Networks for Disease Progression Modeling Using Real-World Data

Authors:Aashish Cheruvu, Nathaniel Rigoni
摘要: 本文提出了一种名为RealDiffFusionNet的新型基于深度学习的方法,结合了神经控制微分方程(Neural CDE)- 时间序列模型,这些模型在处理不规则采样数据时具有鲁棒性,并结合多头注意力机制,在每个时间点对相关多模态上下文(图像数据、时间不变数据等)进行对齐。长短期记忆(LSTM)模型也被用作基线模型。使用了两个不同的数据集:一个来自开源成像联盟(OSIC)的数据集,包含人口统计数据和肺功能的结构化时间序列数据以及肺部基线CT扫描;另一个来自阿尔茨海默病神经影像学倡议(ADNI)的数据集,包含一系列MRI扫描以及人口统计数据、体格检查和认知评估数据。进行了消融研究以了解CDEs、多模态数据、注意力融合和插值策略对模型性能的作用。当评估基线模型时,使用多模态数据提高了神经CDE的性能,测试RMSE更低。此外,多模态神经CDE的性能也优于多模态LSTM。在基于注意力的架构中,通过拼接和矩形插值进行融合被发现可以提高模型性能。所提出的RealDiffFusionNet的性能被发现优于所有模型(0.2570)。对于ADNI数据集,在仅在结构化数据上训练的神经CDE和LSTM模型之间,测试RMSE是相当的(LSTM为0.471,神经CDE为0.4581)。此外,添加患者MRI序列中的图像特征提高了性能,测试RMSE更低(多模态为0.4372,结构化数据为0.4581)。RealDiffFusionNet在利用CDEs和多模态数据准确预测疾病进展方面显示出前景。
摘要: This paper presents a novel deep learning-based approach named RealDiffFusionNet incorporating Neural Controlled Differential Equations (Neural CDE) - time series models that are robust in handling irregularly sampled data - and multi-head attention to align relevant multimodal context (image data, time invariant data, etc.) at each time point. Long short-term memory (LSTM) models were also used as a baseline. Two different datasets were used: a data from the Open-Source Imaging Consortium (OSIC) containing structured time series data of demographics and lung function with a baseline CT scan of the lungs and the second from the Alzheimer's Disease Neuroimaging Initiative (ADNI) containing a series of MRI scans along with demographics, physical examinations, and cognitive assessment data. An ablation study was performed to understand the role of CDEs, multimodal data, attention fusion, and interpolation strategies on model performance. When the baseline models were evaluated, the use of multimodal data resulted in an improvement in Neural CDE performance, with a lower test RMSE. Additionally, the performance of multimodal Neural CDE was also superior to multimodal LSTM. In the attention-based architectures, fusion through concatenation and rectilinear interpolation were found to improve model performance. The performance of the proposed RealDiffFusionNet was found to be superior (0.2570) to all models. For the ADNI dataset, between the Neural-CDE and LSTM models trained only on the structured data, the test RMSE were comparable (0.471 for LSTM vs. 0.4581 Neural-CDE). Furthermore, the addition of image features from patients' MRI series resulted in an improvement in performance, with a lower test RMSE (0.4372 with multimodal vs 0.4581 with structured data). RealDiffFusionNet has shown promise in utilizing CDEs and multimodal data to accurately predict disease progression.
主题: 机器学习 (cs.LG) ; 计算机视觉与模式识别 (cs.CV); 定量方法 (q-bio.QM)
引用方式: arXiv:2501.02025 [cs.LG]
  (或者 arXiv:2501.02025v1 [cs.LG] 对于此版本)
  https://doi.org/10.48550/arXiv.2501.02025
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Aashish Cheruvu [查看电子邮件]
[v1] 星期四, 2025 年 1 月 2 日 22:50:57 UTC (1,057 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • HTML(实验性)
  • TeX 源代码
  • 其他格式
许可图标 查看许可
当前浏览上下文:
q-bio.QM
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-01
切换浏览方式为:
cs
cs.CV
cs.LG
q-bio

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号