← 返回实验室

医疗多模态辅诊实验室:影像与文本对齐的融合探索

在真实临床数据中,模态齐全的样本其实是少数:有的患者有影像却缺结构化检验,有的只有报告文本而原始影像已归档或由外院拍摄。本阶段实验室把重点放在多模态融合的两个基础问题上:影像与报告文本的配对对齐,以及模态缺失时的推理降级策略。

进展要点:

  • 对齐:以胸部CT与放射报告为对象,用报告中的解剖部位与征象表述做弱监督信号,把图像区域与文本片段建立对应关系;在内部回顾性测试集上,配对噪声样本的定位准确率较纯图像基线提升约9个百分点。
  • 缺失降级:训练阶段按比例随机屏蔽模态,推理阶段按可用模态动态加权,单模态输入下的AUC降幅由0.11收窄至0.04,避免出现“缺一项即不可用”的脆弱表现。

下一步计划:纳入检验指标的时序数据,验证跨时间尺度融合的稳定性;同时引入置信度阈值,在证据不足时明确输出“建议人工复核”,而不是给出诊断倾向。辅助定位,不替代医生判断,仍是本实验室的前提。

评论

更多研究动态

查看全部实验室 →