跳到正文
原文
TechCrunch · AI· Ivan Mehta·· 10 小时前

OpenAI 发布 CSAM 图像分类器并为 ChatGPT 增加警告与临时封禁

OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM

AI 导读

OpenAI 发布可检测 CSAM 图像(含 AI 生成图像)的新图像分类器,并通过 API 免费向部分公司开放。该分类器与 NCMEC 合作开发,早期测试中标记的图像减少 48% 而找到的虐待图像数量不变,被标记图像为虐待图像的概率提升一倍。ChatGPT 同时新增警告界面,对试图生成此类内容的用户提示、引导至专业支持并临时封禁账号 24 小时,屡次违规可永久移除账号。

入选记录

未入选两次之和 116 < 门槛的两倍 152

信源等级
媒体与个人,这一级的门槛是 76 分
预筛
通过:OpenAI发布AI图像分类器及ChatGPT安全警告
同一件事

评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。

来源:TechCrunch · AI · techcrunch.com