每日 Harness 开源 · Source
返回本期 · Back to 2026-06-27

开源 / 项目 · Projects2026-06-27 · Saturday, June 27, 2026

Xtra - a Python framework for reasoning about AI system threats

github.com原文 ↗

Xtra - a Python framework for reasoning about AI system threats
xtra 用有限状态机检测 conversational social engineering,不使用 LLM、embedding 或 semantic search。它跟踪 flattery density、give/ask ratio collapse、escalation velocity、reciprocity pressure、decoy turn detection 和 scope mismatch,并按 NEUTRAL -> RAPPORT_BUILD -> TRUST_ESTABLISHED -> EXTRACTION_ATTEMPT -> FLAGGED 路径判断攻击。这个项目小,但代表一种反 AI 化的安全设计:用可解释状态转移处理高风险对话模式。
浏览

评论 · Comments