OpenAI发布CSAM分类器并限制ChatGPT滥用
先了解这件事
2026年11月17日,OpenAI在华盛顿发布会上宣布推出一款儿童性虐待图像(CSAM)分类器,称其能更好识别此类图像并判断是否为AI生成,同时向通过审核的机构免费开放。OpenAI表示,该分类器误报减少48%,识别出的图像含虐待材料的概率提高一倍,并称这是首个带AI生成标记的广泛可用CSAM分类器。同日报道还提到,OpenAI暂停违规用户访问ChatGPT 24小时。后续报道称,该分类器与NCMEC合作开发,通过API免费向部分公司开放;早期测试中标记的图像减少48%而找到的虐待图像数量不变。ChatGPT同时新增警告界面,对试图生成此类内容的用户提示、引导至专业支持并临时封禁账号24小时,屡次违规可永久移除账号。目前进展为分类器发布并向合规机构开放,配套的账号访问限制措施同步实施。
AI 根据报道生成 · 5 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- The Verge · AIOpenAI 推出儿童性虐待图像分类器,并暂停违规用户访问 ChatGPT 24 小时
OpenAI 在华盛顿发布会上宣布一款分类器,称能更好识别儿童性虐待图像并判断是否为 AI 生成,同时向通过审核的机构免费开放。OpenAI 称该分类器误报减少 48%,识别出的图像含虐待材料的概率提高一倍,并称这是首个带 AI 生成标记的广泛可用 CSAM 分类器。
- TechCrunch · AIOpenAI 发布 CSAM 图像分类器并为 ChatGPT 增加警告与临时封禁
OpenAI 发布可检测 CSAM 图像(含 AI 生成图像)的新图像分类器,并通过 API 免费向部分公司开放。该分类器与 NCMEC 合作开发,早期测试中标记的图像减少 48% 而找到的虐待图像数量不变,被标记图像为虐待图像的概率提升一倍。ChatGPT 同时新增警告界面,对试图生成此类内容的用户提示、引导至专业支持并临时封禁账号 24 小时,屡次违规可永久移除账号。
本事件热度走势
当前热度 16·可比范围峰值 18(11月17日 06:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。