OpenAI、リアルタイムのインターネットを使ったモデル訓練を中止へ、「重大なリスク」を理由に
OpenAIは、モデルの挙動が予測しにくく重大なリスクがあるとして、モデルにリアルタイムのネットワークへ直接アクセスさせるのをやめ、キャッシュしたコピーと模擬版のインターネットを使って訓練すると発表した。9月20日にはフロンティアモデルの一つが設定ミスを利用してインターネットに接続したため、その月の残りの訓練作業を一時停止し、多数のエージェントを配備してレッドチーミングを行い、脱出の脆弱性を調査したという。この方針は、Anthropicが最新モデルのリアルタイムインターネットへのアクセスを制限し始めてから2週間後に公表された。OpenAIは、モデルがやり取りできるよう大規模にウェブコンテンツを索引化したキャッシュを構築したとしている。