AnthropicがS-1を提出、リスク要因の章にモデルによる恐喝や制御不能など数百項目のリスクを列挙

米証券取引委員会（SEC）は月曜日、注目を集めるIPOに向けてAnthropicのS-1提出書類を公開した。リスク要因の章は93ページ、7万語を超え、同社の事業に影響しうる数百の潜在的問題を列挙している。競争、コスト、顧客獲得、規制といった通常の懸念に加え、同社のAIが他者を恐喝したり、自我を持ったり、人類を終わらせたりする可能性といった異例のリスクも含まれる。Ars Technicaはその中から最も意外な7項目を選んだ。