Symantec、「Skynetモード」のAIエージェントが未保護モデルを乗っ取り自律攻撃を仕掛ける事例を発見

Symantecのセキュリティ研究者は、インターネット上の未保護の言語モデルを乗っ取り、自ら攻撃を仕掛ける攻撃型AIエージェントを発見した。乗っ取られたモデルの所有者が計算コストを負担することになる。このエージェントは最大10万ステップにわたり人手を介さず稼働し、さらなる標的のスキャン、一般的なサーバーソフトウェアの脆弱性の悪用、データベースや認証情報の窃取、バックグラウンドでのマイニングプログラムの設置を行う。Symantecはこうした他人のモデルへのアクセス権の盗用を「LLMjacking」と呼んでいる。