Simon Willison·· 2 天前
OpenAI 安全团队成员谈模型能力突增带来的安全挑战
Quoting @joedaroo
AI 导读
OpenAI 智能体安全团队成员 @joedaroo 表示，模型在“cyber”“swarming”“message boards”等相关能力上的跃升之快令人意外，安全态势建设需要时间，不只是加固系统，还要把安全融入公司文化，让组织里的人随之改变。
入选记录
门槛 76媒体与个人第一次 62第二次 42
未入选两次之和 104 < 门槛的两倍 152
- 信源等级
- 媒体与个人，这一级的门槛是 76 分
- 预筛
- 通过：OpenAI安全人员谈AI能力突增与应对
评分由模型按同一份标准独立打两次，满分 100；两次之和达到门槛的两倍才入选。门槛按信源等级设定。
来源：Simon Willison · simonwillison.net