Skip to main content
CenXiv.org
此网站处于试运行阶段,支持我们!
我们衷心感谢所有贡献者的支持。
贡献
赞助
cenxiv logo > cs > arXiv:2501.00129

帮助 | 高级搜索

计算机科学 > 计算与语言

arXiv:2501.00129 (cs)
[提交于 2024年12月30日 ]

标题: 以数据为中心的方法检测和减轻儿童心理健康文本中的人口统计学偏差:焦虑检测案例研究

标题: A Data-Centric Approach to Detecting and Mitigating Demographic Bias in Pediatric Mental Health Text: A Case Study in Anxiety Detection

Authors:Julia Ive, Paulina Bondaronek, Vishal Yadav, Daniel Santel, Tracy Glauser, Tina Cheng, Jeffrey R. Strawn, Greeshma Agasthya, Jordan Tschida, Sanghyun Choo, Mayanka Chandrashekar, Anuj J. Kapadia, John Pestian
摘要: 介绍:医疗AI模型通常会从其训练数据中继承偏见。尽管努力主要集中在结构化数据中的偏见上,但心理健康高度依赖于非结构化数据。本研究旨在检测和减轻用于辅助儿童心理健康筛查的AI模型训练数据中与非生物学差异相关的语言差异。我们的目标是:(1)通过评估性别子组的结果公平性来评估偏见的存在,(2)通过文本分布分析识别偏见来源,(3)开发一种针对心理健康文本数据的去偏方法。方法:我们检查了不同人口统计群体之间的分类公平性,并评估了性别化语言如何影响模型预测。应用了一种以数据为中心的去偏方法,专注于中和有偏术语,同时保留显著的临床信息。该方法在针对儿童患者自动焦虑检测的模型上进行了测试。结果:我们的研究结果揭示了对女性青少年患者的系统性误诊,与男性患者相比,准确率低4%,假阴性率(FNR)高9%,这可能是由于信息密度和患者记录中的语言差异所致。男性患者的记录平均长500个单词,语言相似性指标表明性别之间的词语分布存在差异。实施我们的去偏方法将诊断偏差减少了高达27%,证明了其在提高不同人口群体之间公平性方面的有效性。讨论:我们开发了一个以数据为中心的去偏框架,以解决临床文本中的基于性别的内容差异。通过中和有偏语言并增强对临床关键信息的关注,我们的方法展示了一种有效缓解基于文本训练的医疗AI模型中偏见的策略。
摘要: Introduction: Healthcare AI models often inherit biases from their training data. While efforts have primarily targeted bias in structured data, mental health heavily depends on unstructured data. This study aims to detect and mitigate linguistic differences related to non-biological differences in the training data of AI models designed to assist in pediatric mental health screening. Our objectives are: (1) to assess the presence of bias by evaluating outcome parity across sex subgroups, (2) to identify bias sources through textual distribution analysis, and (3) to develop a de-biasing method for mental health text data. Methods: We examined classification parity across demographic groups and assessed how gendered language influences model predictions. A data-centric de-biasing method was applied, focusing on neutralizing biased terms while retaining salient clinical information. This methodology was tested on a model for automatic anxiety detection in pediatric patients. Results: Our findings revealed a systematic under-diagnosis of female adolescent patients, with a 4% lower accuracy and a 9% higher False Negative Rate (FNR) compared to male patients, likely due to disparities in information density and linguistic differences in patient notes. Notes for male patients were on average 500 words longer, and linguistic similarity metrics indicated distinct word distributions between genders. Implementing our de-biasing approach reduced diagnostic bias by up to 27%, demonstrating its effectiveness in enhancing equity across demographic groups. Discussion: We developed a data-centric de-biasing framework to address gender-based content disparities within clinical text. By neutralizing biased language and enhancing focus on clinically essential information, our approach demonstrates an effective strategy for mitigating bias in AI healthcare models trained on text.
主题: 计算与语言 (cs.CL) ; 人工智能 (cs.AI)
引用方式: arXiv:2501.00129 [cs.CL]
  (或者 arXiv:2501.00129v1 [cs.CL] 对于此版本)
  https://doi.org/10.48550/arXiv.2501.00129
通过 DataCite 发表的 arXiv DOI

提交历史

来自: Vishal Yadav Mr [查看电子邮件]
[v1] 星期一, 2024 年 12 月 30 日 20:00:22 UTC (337 KB)
全文链接:

获取论文:

    查看标题为《》的 PDF
  • 查看中文 PDF
  • 查看 PDF
  • 其他格式
查看许可
当前浏览上下文:
cs.CL
< 上一篇   |   下一篇 >
新的 | 最近的 | 2025-01
切换浏览方式为:
cs
cs.AI

参考文献与引用

  • NASA ADS
  • 谷歌学术搜索
  • 语义学者
a 导出 BibTeX 引用 加载中...

BibTeX 格式的引用

×
数据由提供:

收藏

BibSonomy logo Reddit logo

文献和引用工具

文献资源探索 (什么是资源探索?)
连接的论文 (什么是连接的论文?)
Litmaps (什么是 Litmaps?)
scite 智能引用 (什么是智能引用?)

与本文相关的代码,数据和媒体

alphaXiv (什么是 alphaXiv?)
CatalyzeX 代码查找器 (什么是 CatalyzeX?)
DagsHub (什么是 DagsHub?)
Gotit.pub (什么是 GotitPub?)
Hugging Face (什么是 Huggingface?)
带有代码的论文 (什么是带有代码的论文?)
ScienceCast (什么是 ScienceCast?)

演示

复制 (什么是复制?)
Hugging Face Spaces (什么是 Spaces?)
TXYZ.AI (什么是 TXYZ.AI?)

推荐器和搜索工具

影响之花 (什么是影响之花?)
核心推荐器 (什么是核心?)
IArxiv 推荐器 (什么是 IArxiv?)
  • 作者
  • 地点
  • 机构
  • 主题

arXivLabs:与社区合作伙伴的实验项目

arXivLabs 是一个框架,允许合作伙伴直接在我们的网站上开发和分享新的 arXiv 特性。

与 arXivLabs 合作的个人和组织都接受了我们的价值观,即开放、社区、卓越和用户数据隐私。arXiv 承诺这些价值观,并且只与遵守这些价值观的合作伙伴合作。

有一个为 arXiv 社区增加价值的项目想法吗? 了解更多关于 arXivLabs 的信息.

这篇论文的哪些作者是支持者? | 禁用 MathJax (什么是 MathJax?)
  • 关于
  • 帮助
  • contact arXivClick here to contact arXiv 联系
  • 订阅 arXiv 邮件列表点击这里订阅 订阅
  • 版权
  • 隐私政策
  • 网络无障碍帮助
  • arXiv 运营状态
    通过...获取状态通知 email 或者 slack

京ICP备2025123034号