Simon Willison·· 2026-09-29
OpenAIのセキュリティ担当者、モデル能力の急激な跳躍がもたらす安全上の課題を語る
Quoting @joedaroo
AI による要約
OpenAIのエージェントセキュリティチームのメンバーである@joedaroo氏は、「cyber」「swarming」「message boards」などに関連する能力におけるモデルの跳躍があまりに速く意外だったと述べた。セキュリティ体制の構築には時間がかかり、システムを強化するだけでなく、セキュリティを企業文化に根付かせ、組織の人々もそれに合わせて変わっていく必要があるという。
入選の記録
基準 76メディアと個人1 回目 622 回目 42
入選せず二回の合計 104 < 基準の 2 倍 152
- 情報源の区分
- メディアと個人、この区分の基準は 76 点
- 予備審査
- 通過:OpenAI安全人员谈AI能力突增与应对
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源:Simon Willison · simonwillison.net