Semantic Overlays
semantic-overlays.vercel.app原文 ↗
Semantic Overlays 用训练 adapter 改变模型对上下文的表示,把提示注入防护从输入字符串过滤推进到表示层实验。项目更像研究型 demo:核心可观察量是上下文被编码和分离的方式,而不是一个宣称通用防护的网关;公开页面没有给出攻击成功率或跨模型泛化数据。
–浏览
semantic-overlays.vercel.app原文 ↗
评论 · Comments