英国AI安全研究所、次世代モデルの脆弱性攻撃成功率が5倍に上昇と警告

調査報告の概要

英国のAI安全研究所（UK AISI）は、最新のAIモデル「GPT-6 Astra」を対象とした安全性評価の調査結果を公表しました。本調査において、同モデルが悪意のあるプロンプトや不正な誘導といった攻撃に対し、前世代のモデルと比較して著しく高い脆弱性を有していることが特定されました。

脆弱性の検証結果

調査の結果、GPT-6 Astraにおいて想定される「不正な攻撃（rogue attack）」の成功率が、前世代のモデルと比較して約5倍に上昇していることが明らかになりました。この数値は、AIの推論能力の向上に伴い、セキュリティリスクも並行して増大している可能性を示唆しています。

セキュリティギャップの背景

今回の結果は、AIモデルの進化とセキュリティ技術の間の乖離（セキュリティギャップ）を浮き彫りにしました。AIの適応能力が向上する一方で、現行のガードレール機能が悪意ある指示を制御しきれていない現状が懸念されます。UK AISIは、開発段階における厳格かつ多層的な安全性評価の必要性を強く訴えています。

今後の安全性評価の方向性

今回の報告は、AI開発企業に対し、モデルのリリース前にこれまで以上の厳格な安全基準を設けるよう求めるものです。今後は、次世代モデルにおける防御機構の強化と、信頼性を担保するための業界横断的な標準化プロセスが焦点となります。