The Verge · AI· Lauren Feiner·· 7 小时前
OpenAI 推出儿童性虐待图像分类器,并暂停违规用户访问 ChatGPT 24 小时
OpenAI wants to stop deepfakes from overwhelming child abuse tiplines
AI 导读
OpenAI 在华盛顿发布会上宣布一款分类器,称能更好识别儿童性虐待图像并判断是否为 AI 生成,同时向通过审核的机构免费开放。OpenAI 称该分类器误报减少 48%,识别出的图像含虐待材料的概率提高一倍,并称这是首个带 AI 生成标记的广泛可用 CSAM 分类器。
入选记录
门槛 76媒体与个人第一次 62第二次 58
未入选两次之和 120 < 门槛的两倍 152
- 信源等级
- 媒体与个人,这一级的门槛是 76 分
- 预筛
- 通过:OpenAI发布AI生成CSAM分类器及检测工具
- 同一件事
评分由模型按同一份标准独立打两次,满分 100;两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源:The Verge · AI · theverge.com