Closed-World Resolution Against Tool Hallucination in LLM Agents
arxiv.org原文 ↗
论文证明不存在的工具调用无法由传统选择门或权限门拦截,因此注册表成员检查和参数签名解析必须位于因果门控之前。十个托管模型在两种调用面共出现 322 次幻觉,原始 JSON 面是受约束面的 34 次对 3 次,且 675B 模型和 7-8B 模型表现相当。把多个 MCP 服务合并后又出现 154 次由碰撞与遮蔽触发的幻觉,HTB 基准让这一解析层可以被独立复测。
–浏览
评论 · Comments