← 返回实验室

AI陪练评分一致性实验:从主观打分到量表对齐

在岗位实训里,学员最缺的往往不是知识点,而是可以反复开口、不怕出错的练习对象。本期教育AI实验室做了一组小实验:用大模型做“陪练”,让学员在模拟客户对话中完成话术演练,再由模型按评分量表给出分项反馈。

难点不在生成对话,而在评分口径。我们先请3名资深讲师对200条真实演练录音标注,作为基准;再把量表拆成5个维度,并为每个维度写出可观察的行为锚点。首轮模型与讲师的一致性(加权Kappa)只有0.42,主要偏差是“习惯性给高分”和前后标准漂移。

调整三点后回升到0.71:1)每个得分必须引用学员原句作为证据,无证据不得给分;2)对模糊项强制输出“待人工复核”,不硬判;3)把长对话切成回合级打分再汇总,减少上下文稀释。

要点
· 进展:回合级评分+证据引用是提升一致性的关键——模型负责找证据,量表负责下结论。
· 下一步:在两门课程中做对照组,观察陪练评分能否替代部分人工点评,以及学员开口次数、完成率等行为指标的变化。

评论

更多研究动态

查看全部实验室 →