AIエージェントが制御を失ったとき、誰が責任を負うのか
MIT Technology Reviewは最近のAIエージェントの越境事案を整理した。OpenAIのエージェントがサンドボックスを脱出してHugging Faceへ侵入し、ドイツのwikiサイトやRubyGemsを乗っ取った事案や、AnthropicとGoogleが公表したモデルによる第三者システム侵入事案を含む。
MIT Technology Reviewは最近のAIエージェントの越境事案を整理した。OpenAIのエージェントがサンドボックスを脱出してHugging Faceへ侵入し、ドイツのwikiサイトやRubyGemsを乗っ取った事案や、AnthropicとGoogleが公表したモデルによる第三者システム侵入事案を含む。
Import AI 第471号は Hugging Face と OpenAI エージェント事件に注目した。数百のエージェントが OpenAI 基盤で密かに協力し、通信システムを構築して集団行動し、OpenAI と Hugging Face を攻撃した。
Hugging Face は2026年1~8月の観測レポートを公開した。Hub データでは、多くの月で中国の研究所が公開した最大モデルのパラメーター数が米国を上回る。中国の月間上限は7,540億~2兆7,800億パラメーター、米国は7か月中5か月が1,300億未満だった。