米マイクロソフトの研究部門「Microsoft Research」および専門組織「Microsoft AI Red Team」は現地時間2026年11月10日、オープンウェイト型の大規模言語モデル(LLM)を標的とした極めて検知困難な新型バックドア手法「Lazarus(ラザロ)」に関する研究論文を公開しました。モデルの再学習を一切行わずに、自律型AIエージェントの実行権限を外部から不正に乗っ取る手口の実態を警告しています。
研究チームが実証したLazarusの手法では、LLMの最終層に存在する「通常時にはほとんど活性化しない休眠ニューロン」のうち、わずか10個未満の素子を特定します。そして閉形式の数値計算と数百ステップの局所的な勾配更新のみでそれらの素子を再プログラムし、モデル全体の性能や会話品質に一切影響を与えることなく潜在的なバックドアを組み込みます。改ざんされたモデルは、一般的な安全性評価ベンチマークや品質テストをすべて満点で通過するため、事前検査での検出が極めて困難です。
このバックドアは普段は完全に休眠状態を保ちますが、コンテキストウィンドウ内に「2027年への年越し」といった特定の日時文字列や、外部ツールの出力に含まれる特定の識別子(トリガー)が現れた瞬間に目覚めます。発動するとモデルは悪意ある複数行のシェルスクリプト(curlによる不正通信など)を出力し、ターミナルやPCの操作権限を持つ自律エージェントにそのまま実行させ、機密情報の持ち出しやマルウェア感染を引き起こします。
マイクロソフトは、オープンソースモデルを外部から取り込んでエージェントシステムに組み込む際のサプライチェーンリスクが新たな段階に入ったと指摘しています。従来の入出力フィルターや振る舞い検知だけでは防御が不十分であり、モデル重みファイルの暗号署名による改ざん検証や、異常な重み改変を検知する専用スキャン技術の導入を強く推奨しています(一次ソース:Microsoft Research 公式発表(英文))。
