在真实门诊场景中,影像、检验与主诉文本三类模态往往并不齐备——基层机构缺影像序列,急诊缺既往报告。本期工作聚焦一个具体问题:当某一模态缺失时,融合模型如何保持建议的稳定性,而不是悄然退化为单模态模型。
进展:
- 采用模态丢弃训练配合门控融合,在内部脱敏数据集(胸部影像约1.2万例,配套检验与报告约0.9万份)上,缺失单一模态时AUC降幅由0.09收窄至0.03;
- 引入影像—报告对比对齐作为辅助任务,使文本分支在缺影像时仍能提供有效先验。
我们不做诊断结论的自动签发,模型输出仅作为医生提示项,并附带证据溯源(对应影像区域与关键检验项)。
下一步:补齐时序生命体征模态,验证跨中心迁移时的性能保持,并整理缺失模态下的置信度校准方法。

评论