DriftGuard
github.com原文 ↗
DriftGuard 检测 LangGraph agent 的回答是否偏离预设领域。项目说明强调不需要 ground-truth labels 或单独 classifier,例如法律助手开始回答烹饪问题、医疗 chatbot 转向金融建议时可以触发 domain drift 检测。它补的是生产 agent 的护栏空白:回答看似流畅但已经离开授权领域。
–浏览
github.com原文 ↗
评论 · Comments