Microsoft Copilotを乗っ取るAIワームが開発、文書経由の攻撃手法でセキュリティの脆弱性が露呈

リリースの概要

セキュリティ研究者が、Microsoft Copilotを標的とした自己拡散型の悪意あるプログラム（ワーム）を開発したことが明らかになりました。このワームはWord文書内に隠蔽され、ユーザーがその文書を開くことでCopilotの機能を乗っ取る仕組みを持っています。

攻撃手法の詳細

今回実証された手法は、悪意のある命令を埋め込んだWord文書を介して動作します。Copilotが当該文書を読み込む際、AIエージェントの指示を操作することで、本来の意図とは異なる行動を強制させることが可能です。これにより、Copilotを介して情報を不正に送信したり、さらなる感染拡大を図る挙動が確認されました。

技術的な背景

この攻撃手法は、AIが外部データソース（文書ファイルなど）から入力を受け取り、それを実行する際のエコシステムにおける脆弱性を突いています。AIエージェントのプロンプトインジェクションに対する防御がいかに重要であるかを如実に示す事例となりました。

セキュリティの今後

研究者は、この技術を公開することでAIエコシステムのセキュリティ強化を促す意図を示しています。現在、AIツールの普及に伴い、LLM（大規模言語モデル）を利用した攻撃ベクトルの検証と対策は、業界全体の喫緊の課題となっています。