TechCrunch · AI· Ivan Mehta·· 10 時間前
OpenAI、CSAM画像分類器を公開しChatGPTに警告と一時停止を追加
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
AI による要約
OpenAIは、AI生成画像を含むCSAM画像を検出できる新しい画像分類器を公開し、一部の企業にAPI経由で無償提供する。この分類器はNCMECと共同で開発され、初期テストでは虐待画像の検出数は変わらないままフラグ付けされる画像が48%減少し、フラグ付けされた画像が虐待画像である確率は2倍になった。ChatGPTには警告画面も追加され、こうしたコンテンツの生成を試みるユーザーに注意を促し、専門的な支援へ導き、アカウントを24時間一時停止する。繰り返し違反した場合はアカウントを永久に削除できる。
入選の記録
基準 76メディアと個人1 回目 582 回目 58
入選せず二回の合計 116 < 基準の 2 倍 152
- 情報源の区分
- メディアと個人、この区分の基準は 76 点
- 予備審査
- 通過:OpenAI发布AI图像分类器及ChatGPT安全警告
- 同じ出来事
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源:TechCrunch · AI · techcrunch.com