CAVEAT: Towards Robust Computer-Use Agents in Incentive-Misaligned Environments

CAVEAT 构造九个带平台利益的市场和八类操纵机制，检查 computer-use agent 是否继续遵守用户目标，而不是只在合作环境中完成点击。五个模型家族在无操纵条件下购买用户最优商品的比例为 78.6%，加入操纵后降至 17.3%；失败集中在扭曲优先级、过早缩小候选集和证据不足即提交。配套 CAVEAT-Harness 可把购买率提高 55.0%，但结果仍表明激励错配需要独立的稳健性评测。