Graph-Structured Rubrics
arxiv.org原文 ↗
GSR 在观察回答前把自然语言 rubric 编译成带类型的评估图:criterion 节点产生判断,transformation/reduction/gating 算子通过命名端口组合,Readout 把唯一汇点映射成分数或偏好;类型不匹配的图会在编译期拒绝。GPT-OSS-120B 上,四个 pointwise 数据集的 exact score agreement 比 Prometheus-style 高 0.62-6.75 个百分点,并在两个 pairwise 基准取得最高端到端准确率。它把评分规则的“组合语义”从 prompt 中显式化,便于检查和复用。
–浏览
评论 · Comments