本文へ移動
原文
TechCrunch · AI· Ivan Mehta·· 10 時間前

OpenAI、CSAM画像分類器を公開しChatGPTに警告と一時停止を追加

OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM

AI による要約

OpenAIは、AI生成画像を含むCSAM画像を検出できる新しい画像分類器を公開し、一部の企業にAPI経由で無償提供する。この分類器はNCMECと共同で開発され、初期テストでは虐待画像の検出数は変わらないままフラグ付けされる画像が48%減少し、フラグ付けされた画像が虐待画像である確率は2倍になった。ChatGPTには警告画面も追加され、こうしたコンテンツの生成を試みるユーザーに注意を促し、専門的な支援へ導き、アカウントを24時間一時停止する。繰り返し違反した場合はアカウントを永久に削除できる。

入選の記録

入選せず二回の合計 116 < 基準の 2 倍 152

情報源の区分
メディアと個人、この区分の基準は 76 点
予備審査
通過:OpenAI发布AI图像分类器及ChatGPT安全警告
同じ出来事

採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。

情報源:TechCrunch · AI · techcrunch.com