本文へ移動
原文
Microsoft Research· Dimitris Papailiopoulos·· 5 日前

Microsoftの研究:休眠ニューロンの書き換えでAIエージェントにLazarusバックドアを仕込める

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI による要約

Microsoftの研究者はLazarusと呼ばれるバックドア手法を発見した。LLM内の10個未満の休眠ニューロンの重みを書き換えるだけで、再学習なしに、そのモデルを使うエージェントがトリガー条件の出現時に攻撃者の命令を実行するようになる。

入選の記録

入選二回の合計 152 ≥ 基準の 2 倍 120

情報源の区分
公式・一次情報、この区分の基準は 60 点
予備審査
通過:研究AI模型后门攻击与防御
推薦理由
10個未満の休眠ニューロンの書き換えでエージェントにバックドアを仕込め、モデルは標準評価も通過できることがわかる。重みの完全性と出所の監査を考える具体的な根拠になる。

採点はモデルが同じ基準で独立に二回行い、満点は 100。二回の合計が基準の 2 倍に届いたものだけが入選します。基準は情報源の区分ごとに決めています。

情報源:Microsoft Research · microsoft.com