OpenAI News·· 13 小时前
OpenAI 如何检测前沿模型失准
How we detect frontier model misalignment
AI 导读
OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为，让响应人员能在事件升级前介入。
入选记录
门槛 60官方一手第一次 42第二次 38
未入选两次之和 80 < 门槛的两倍 120
- 信源等级
- 官方一手，这一级的门槛是 60 分
- 预筛
- 通过：OpenAI前沿模型失准检测与Agent监控
评分由模型按同一份标准独立打两次，满分 100；两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源：OpenAI News · openai.com