OpenAI News·· 13 時間前
OpenAI、フロンティアモデルの不整合をどう検出するか
How we detect frontier model misalignment
AI による要約
OpenAIは、フロンティアモデルの不整合やエージェントの未承認行為を検出するために階層的なモニタリングを採用し、対応担当者がインシデントの深刻化前に介入できるようにしている。
入選の記録
基準 60公式・一次情報1 回目 422 回目 38
入選せず二回の合計 80 < 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過:OpenAI前沿模型失准检测与Agent监控
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源:OpenAI News · openai.com