法律咨询与合同审查场景里，模型最危险的失败不是「不会答」，而是「答得像真的」：引用不存在的法条、张冠李戴的案号、已被修订或废止的司法解释。法律AI实验室近期的一轮实验，就围绕输出侧的引用核验展开。
做法上，我们把「生成」与「核验」拆成两条链路：模型只负责给出结论与候选引用，检索层回查权威来源（现行法律法规、司法解释、公开裁判文书），再由核验器逐条比对条文号、生效状态与原文表述。任一维度不匹配即标记为待复核，不进交付稿。
要点：
- 进展：在自建的法律问答与合同审查测试集上，未核验直出的引用存在明显错误；加入条文级回查与时效校验后，进入交付环节的错误引用已收敛到较低水平，但长尾法条与地方性规范仍是薄弱区。
- 下一步：把核验粒度从「条文」下沉到「款、项」，并对裁判文书增加地域与审级一致性校验；同时在输出侧固定保留可溯源的引用链接，让律师能一键回看原文自行判断。
我们不认为核验能消灭幻觉，但至少可以让错误停在提交给客户之前。
评论