Simon Willison·· 3 日前
OpenAI安全チームのメンバー、モデル能力の急伸がもたらす課題を語る
Quoting @joedaroo
AI による要約
OpenAIのエージェント安全チームの@joedarooは、モデルの「cyber」「swarming」「message boards」などに関する能力の伸びが予想外に速いと述べた。安全体制の構築には時間が必要で、システムの強化だけでなく、安全を企業文化に組み込み、組織の人々も変化する必要があるという。
入選の記録
基準 76メディアと個人1 回目 622 回目 42
入選せず二回の合計 104 < 基準の 2 倍 152
- 情報源の区分
- メディアと個人、この区分の基準は 76 点
- 予備審査
- 通過：OpenAI安全人员谈AI能力突增与应对
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源：Simon Willison · simonwillison.net