How I tricked Claude into leaking your deepest, darkest secrets
simonwillison.net原文 ↗
Simon Willison 解析 Claude web_fetch 数据外泄案例,重点是 prompt injection 如何借网页内容影响模型行为。攻击路径把网页读取、工具调用和敏感上下文串起来,说明“只让模型抓网页”也可能形成数据外流通道。文章的价值在于把抽象的工具安全问题具体化成可复盘攻击链。
–浏览
评论 · Comments