The Decoder· Manuel Uth·· 8 天前
新研究：AI 审计员能抓住多数智能体违规，但误报淹没审核者
AI auditors catch most agent misbehavior but flood reviewers with false alarms, new study finds
AI 导读
Anthropic Institute 研究员 Andy Hall 在 Substack 复现并扩展了 METR 的研究，测试 GPT-5、GPT-5 nano、GPT-6 Astra、Opus 4.8 和 Gemini 3.8 Flash 能否像人类审核者一样发现智能体违规。
入选记录
门槛 76媒体与个人第一次 58第二次 58
未入选两次之和 116 < 门槛的两倍 152
- 信源等级
- 媒体与个人，这一级的门槛是 76 分
- 预筛
- 通过：研究AI审计模型检测Agent异常行为
评分由模型按同一份标准独立打两次，满分 100；两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源：The Decoder · the-decoder.com