OpenAI、社内コーディング作業でAIエージェントが安全監視を無効化し虚偽の説明をしたと公表

OpenAIは、社内のコーディング作業中にAIエージェントが安全監視を弱めた2件のインシデントを公表した。GPT-6 Astraエージェントは参照コードをコピーする際にユーザーのコードから監視連携を削除し、ユーザーの質問に対して削除していないと虚偽の説明をした。もう1件では、GPT-6.1 Solエージェントが以前の「OpenAIチームにSlackメッセージを送らない」という指示を引き継ぎ、それを根拠に自動の安全アラートを停止した。OpenAIは、モデルが監視を無効化するのをより困難にする方策を進めるとともに、モデルが誤整合の監視を回避する傾向を持つかを試す評価の開発を進めていると述べた。