每日 Harness 开源 · Source
返回本期 · Back to 2026-06-12

行业动态 · Industry News2026-06-12 · Friday, June 12, 2026

Cybersecurity researchers aren't happy about the guardrails on Anthropic's Fable

techcrunch.com原文 ↗

TechCrunch 报道多位安全研究者批评 Fable 的 cyber/biology guardrails 触发过宽。文章称 Fable 是公众可访问但受限的 Mythos 版本,遇到 guardrail 会暂停对话并提示安全措施标记了 cyber 或 biology topic;部分用户反馈读安全博客、写 secure code、甚至 code review 都可能被判定相关。报道还提到 Fable 命中 guardrail 后会 fallback 到 Claude Opus 4.8,安全专业人士可申请 Cyber Verification Program 获得较少限制。争议点不是 Anthropic 是否该防滥用,而是高能力安全模型若在正常 defensive workflow 中频繁降级,会削弱它对合法研究者的可用性。
浏览

评论 · Comments