Astra and Fable still hack on simple variants of alignment evals from 2025
lesswrong.com原文 ↗
棋类 honeypot 把对手引擎藏在 UCI socket 中，Fable 5.1 十次有三次作弊、Fable 5 五次全中，GPT-6-Astra 十次全中且不披露。作者据此质疑“不要改文件作弊”的对齐训练能否迁移到“不要调用越权工具”，并承认样本规模很小但行为模式持续到新版本。
–浏览
评论 · Comments