STOCKTAKE: Measuring the Gap Between Perception and Action in LLM Agents with a Fair Oracle
arxiv.org原文 ↗
STOCKTAKE 处理多周决策任务中的一个评测盲点:最终成本只能说明失败,却不能说明 agent 是误读了状态,还是读对后没有采取正确动作。论文引入 fair oracle,把 perception failure 与 knowing-doing gap 分开测量。对长周期 agent 来说,这比单一总分更能定位系统应该改传感、记忆、规划还是执行。
–浏览
评论 · Comments