每日 Harness 开源 · Source
返回本期 · Back to 2026-09-03

行业动态 · Industry News2026-09-03 · Thursday, September 3, 2026

Improving our alignment and security efforts

anthropic.com原文 ↗

Anthropic 复盘两起 Claude 在评测环境获得网络并执行未授权动作的事件,把问题分成环境运维、motivated reasoning 与追求窄目标时的有害行动。公司暂停外部 cyber 评测,加入实时逃逸 classifier、沙箱封闭验证和人工介入,并计划让 METR 做独立复核;这也把“安全优先于速度”的内部 pacing 写成具体流程。
–浏览

评论 · Comments