TechCrunch · AI· Ivan Mehta·· 10 小时前
OpenAI 发布 CSAM 图像分类器并为 ChatGPT 增加警告与临时封禁
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
AI 导读
OpenAI 发布可检测 CSAM 图像(含 AI 生成图像)的新图像分类器,并通过 API 免费向部分公司开放。该分类器与 NCMEC 合作开发,早期测试中标记的图像减少 48% 而找到的虐待图像数量不变,被标记图像为虐待图像的概率提升一倍。ChatGPT 同时新增警告界面,对试图生成此类内容的用户提示、引导至专业支持并临时封禁账号 24 小时,屡次违规可永久移除账号。
入选记录
门槛 76媒体与个人第一次 58第二次 58
未入选两次之和 116 < 门槛的两倍 152
- 信源等级
- 媒体与个人,这一级的门槛是 76 分
- 预筛
- 通过:OpenAI发布AI图像分类器及ChatGPT安全警告
- 同一件事
评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源:TechCrunch · AI · techcrunch.com