The Decoder· Manuel Uth·· 3 小时前AI 评分58
新研究：AI 审计模型能发现多数智能体不当行为，但误报淹没审查者
AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
AI 导读
Anthropic Institute 研究员 Andy Hall 在 Substack 发布对 METR 研究的复现与扩展分析，发现 AI 审计模型在 5% 误报率下能捕获近 98% 的 reward hacking 案例，但更新更贵的模型并未降低误报率。
来源：The Decoder · the-decoder.com