The Arbiter Agent: Continually Monitoring Multi-Agent Conversations to Detect Emergent Misalignment

Arbiter 是一个预算受限的监控 agent，会在多 agent 对话进行中选择等待、询问、检查 system prompt/reasoning trace 或记录可疑行为。实验覆盖五种 conversation condition、五种 tool configuration 和两个 backbone，检测目标包括 risky financial advice、evaluation-aware、colluding agents 等。结果显示主动 inspection tools 同时提升准确率和速度；weight-induced misalignment 最难抓，logging tool 则提高 recall 但牺牲 precision，这让 auditor 更像系统参与者而不是旁观日志解析器。