每日 Harness 开源 · Source
主题 · All topics

7.4 对齐与治理Alignment & Governance

本主题共 4 条 · 最早 2026-05-29 · 最新 2026-06-04

视图 · View

2026 年 6 月1

2026 年 5 月3

  • OpenAI: Strengthening societal resilience with Rosalind Biodefense

    这条新闻的重要性在应用治理:生物安全领域需要能力释放与访问控制同时设计。它不是普通模型发布,而是把高敏场景中的授权对象、评估和使用边界推到台前。

    2026-05-30openai.com原文 ↗
  • Governing Technical Debt in Agentic AI Systems

    这是一篇偏治理框架的论文,价值在于把 agent 问题从单次 prompt 质量提升到生命周期管理。它提醒团队:记忆、工具权限、评测 harness 和监控策略都是债务来源,越晚标准化,越难解释系统为什么做出某个动作。

    2026-05-30arxiv.org原文 ↗
  • OpenAI’s Frontier Governance Framework

    这份框架的作用是把 Preparedness Framework 中与监管义务相关的部分公开治理化。它不是新模型能力声明,而是把 frontier 风险流程转成面向法规、审计和外部沟通的文件。

    2026-05-29openai.com原文 ↗