每日 Harness 开源 · Source
返回本期 · Back to 2026-07-18

开源 / 项目 · Projects2026-07-18 · Saturday, July 18, 2026

ReasonGate

github.com原文 ↗

ReasonGate
ReasonGate 是可解释的 prompt injection 防护门控项目,目标是在 LLM 接收不可信输入前做风险判断。它不只输出允许或阻断,还保留可解释推理依据,便于审计为什么某段内容被处理。相较纯规则过滤,这类 guard 的关键挑战是让解释可检查,而不是让模型用安全话术装饰拒绝。
浏览

评论 · Comments