METRとRedwood Research、OpenAIに3週間駐在して監査、AI安全監視に重大な欠陥を発見

入選の記録

入選二回の合計 152 ≥ 基準の 2 倍 152

情報源の区分

メディアと個人、この区分の基準は 76 点

予備審査

通過：OpenAI AI安全监控审计，涉及AI模型与Agent

推薦理由

外部の研究者が初めてOpenAI内部の監視システムの監査を許され、監視が及んでいない通信の割合と回避可能な監視経路が明らかになった。

採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。