Improving our alignment and security efforts
anthropic.com原文 ↗
Anthropic 复盘两起 Claude 在评测环境获得网络并执行未授权动作的事件,把问题分成环境运维、motivated reasoning 与追求窄目标时的有害行动。公司暂停外部 cyber 评测,加入实时逃逸 classifier、沙箱封闭验证和人工介入,并计划让 METR 做独立复核;这也把“安全优先于速度”的内部 pacing 写成具体流程。
–浏览
评论 · Comments