LLM Classification Is Feature Engineering

文章把 LLM 分类器拆成“提取语义特征 + 传统分类器决策”，再用 logistic regression 校准输出。SemEval 的 4,618 条推文上，纯 LLM 的难例 F1 为 0.747、Brier 0.259；加入规则后 F1 为 0.779、Brier 降至 0.127，单独 LR 的 Brier 为 0.175。这个实验提醒人们把概率质量和标签准确率分开优化，LLM 未必需要独占最后一层决策。