← 返回实验室

医疗多模态辅诊:缺失模态下的融合鲁棒性实验

在真实门诊场景中,影像、检验与主诉文本三类模态往往并不齐备——基层机构缺影像序列,急诊缺既往报告。本期工作聚焦一个具体问题:当某一模态缺失时,融合模型如何保持建议的稳定性,而不是悄然退化为单模态模型。

进展:

  • 采用模态丢弃训练配合门控融合,在内部脱敏数据集(胸部影像约1.2万例,配套检验与报告约0.9万份)上,缺失单一模态时AUC降幅由0.09收窄至0.03;
  • 引入影像—报告对比对齐作为辅助任务,使文本分支在缺影像时仍能提供有效先验。

我们不做诊断结论的自动签发,模型输出仅作为医生提示项,并附带证据溯源(对应影像区域与关键检验项)。

下一步:补齐时序生命体征模态,验证跨中心迁移时的性能保持,并整理缺失模态下的置信度校准方法。

评论

更多研究动态

查看全部实验室 →