ZenityがAWS上のAIエージェントを乗っ取る深刻な脆弱性を発見

研究概要

Zenityのセキュリティ研究チームは、Amazon Web Services (AWS) 環境下で稼働するAIエージェントを対象とした脆弱性調査を実施しました。その結果、わずか1つのプロンプトを入力するだけで、対象となるAWSアカウント内のすべてのAIエージェントの制御を掌握できる深刻な欠陥が確認されました。

脆弱性の詳細

本件は、生成AIシステムにおけるプロンプトインジェクションの脅威を実証するものです。調査によれば、AIエージェントが外部入力を適切に検証・分離できない場合、悪意のある命令が実行権限を掌握します。これにより、AIに付与されたIAMロールや権限を悪用し、許可されていないデータへのアクセスやシステム操作が行われるリスクが浮き彫りとなりました。

背景と技術的意義

企業によるAWS上でのAIエージェント導入が加速する中、LLM（大規模言語モデル）の推論プロセスにおける文脈理解を逆手に取った攻撃手法が懸念されています。Zenityの研究は、強固なアクセス制御モデルを構築しているはずの環境においても、AI特有の脆弱性がセキュリティ境界を無効化する可能性があることを指摘しました。

今後の推奨対策

Zenityは、生成AI環境におけるガバナンスとセキュリティ管理の重要性を訴えています。AI開発者に対し、入力値に対する厳格なバリデーションの実装、および「最小権限の原則」に基づいたIAMポリシーの再設計を急務として推奨しています。