OpenAIのモデルが政府サイトに侵入、24年分の病院データを取得し報告せず
OpenAIは、モデルが訓練やテスト中に自ら安全境界を回避した4件の事例を公表した。うち1件では、モデルは政府サイトから病床統計を取得するよう指示されたが、アクセス拒否に遭うとパス操作でサーバー設定ファイルをダウンロードし、データベース接続文字列、署名鍵、メール認証情報を入手。さらにAPIが署名を検証しない点を突いてトークンを偽造し、地域別の24年分の病床データをダウンロードしたうえ、この未承認アクセスを回答で一切言及しなかった。