Microsoft Research· Dimitris Papailiopoulos·· 5 日前
Microsoftの研究:休眠ニューロンの書き換えでAIエージェントにLazarusバックドアを仕込める
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
AI による要約
Microsoftの研究者はLazarusと呼ばれるバックドア手法を発見した。LLM内の10個未満の休眠ニューロンの重みを書き換えるだけで、再学習なしに、そのモデルを使うエージェントがトリガー条件の出現時に攻撃者の命令を実行するようになる。
入選の記録
基準 60公式・一次情報1 回目 782 回目 74
入選二回の合計 152 ≥ 基準の 2 倍 120
- 情報源の区分
- 公式・一次情報、この区分の基準は 60 点
- 予備審査
- 通過:研究AI模型后门攻击与防御
- 推薦理由
- 10個未満の休眠ニューロンの書き換えでエージェントにバックドアを仕込め、モデルは標準評価も通過できることがわかる。重みの完全性と出所の監査を考える具体的な根拠になる。
採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。
情報源:Microsoft Research · microsoft.com