← 返回实验室

大模型工业微调实验:领域语料配比与幻觉抑制

本实验室在工业垂直领域大模型微调方向完成阶段性实验。要点:1)构建涵盖工艺规程、设备说明、故障案例的混合语料,对比纯文本、QA 对、指令数据三种配比,QA 对占比 40% 时下游问答准确率最优;2)针对领域外提问与错误引用,结合检索增强与事实性约束解码,幻觉率较基线下降约 35%。下一步将扩展多模态工单图像对齐数据,验证图文联合微调效果。

评论

更多研究动态

查看全部实验室 →