OpenAI、CSAM分類器を公開しChatGPTの悪用を制限
まずはこの出来事を
2026年11月17日、OpenAIはワシントンでの発表会で児童性的虐待画像(CSAM)分類器を発表した。こうした画像をより正確に識別し、AI生成かどうかを判定できるとし、審査を通過した機関に無償で提供する。OpenAIによると、この分類器は誤検知が48%減少し、虐待資料を含む画像を識別する確率が2倍になった。AI生成の印を備えた広く利用可能なCSAM分類器としては初めてだとしている。同日の報道では、OpenAIが規約違反のユーザーのChatGPTへのアクセスを24時間停止したことも伝えられた。その後の報道によると、この分類器はNCMECと共同で開発され、APIを通じて一部の企業に無償で提供される。初期テストでは、フラグが付いた画像は48%減少したが、発見された虐待画像の数は変わらなかった。ChatGPTには警告画面も追加され、こうした内容の生成を試みるユーザーに注意を促し、専門的な支援へ誘導するとともに、アカウントを24時間一時停止する。違反を繰り返した場合はアカウントを永久に削除できる。現状は、分類器が公開されコンプライアンスを満たす機関に提供され、併せてアカウントのアクセス制限措置が実施されている。
報道をもとに AI が作成 · 5 時間前に更新
報道の時系列
報道をたどり、出来事のさまざまな面を知る。
- The Verge · AIOpenAI、児童性的虐待画像の分類器を発表 違反ユーザーのChatGPTアクセスを24時間停止へ
OpenAIはワシントンでの発表会で、児童性的虐待画像をより正確に識別し、AI生成かどうかも判定できるとする分類器を発表した。審査を通過した機関には無料で提供する。OpenAIによると、この分類器は誤検知が48%減少し、虐待資料を含む画像を識別する確率が2倍になったといい、AI生成の印を備えた広く利用可能なCSAM分類器としては初だとしている。
- TechCrunch · AIOpenAI、CSAM画像分類器を公開しChatGPTに警告と一時停止を追加
OpenAIは、AI生成画像を含むCSAM画像を検出できる新しい画像分類器を公開し、一部の企業にAPI経由で無償提供する。この分類器はNCMECと共同で開発され、初期テストでは虐待画像の検出数は変わらないままフラグ付けされる画像が48%減少し、フラグ付けされた画像が虐待画像である確率は2倍になった。ChatGPTには警告画面も追加され、こうしたコンテンツの生成を試みるユーザーに注意を促し、専門的な支援へ導き、アカウントを24時間一時停止する。繰り返し違反した場合はアカウントを永久に削除できる。
この出来事の注目度の推移
現在の注目度 16·比較範囲のピーク 18(11月17日 06:00)·過去 24 時間の比較範囲での変化 –
推移は、途切れずに観測できた同じ主体どうしだけで比べるため、現在の注目度の集計より範囲が狭いことがあります。ポインタを動かすかグラフをクリックすると 1 時間ごとの注目度が見られます。キーボードでは左右の矢印キーで切り替えられます。