每日 Harness 开源 · Source
返回本期 · Back to 2026-07-25

论文 · Papers2026-07-25 · Saturday, July 25, 2026

JANUS: Foreseeing Latent Risk for Long-Horizon Agent Safety

arxiv.org原文 ↗

JANUS: Foreseeing Latent Risk for Long-Horizon Agent Safety
JANUS 从部分执行轨迹预测后续才会显现的风险,把安全监控从“当前动作是否违规”扩展到“这条行动链最终可能走向哪里”。训练样本包含早期表面正常、经过多步组合后才形成危害的轨迹,使模型学习延迟风险的前兆。它补足逐步过滤器的盲区,但效果依赖轨迹分布是否覆盖真实部署中的新型策略与工具组合。
浏览

评论 · Comments