米政府公式サイトのAI検索で異常挙動、大規模言語モデルが抱える実装課題

米政府公式サイトにおけるAIの異常挙動について

米政府の公式情報サイト「America.gov」に搭載されているAI検索機能に対し、「Minecraft（マインクラフト）」に関する質問を行うと、文脈から大きく逸脱した極めて奇妙な回答が生成されることが報告されました。この現象は一時的なシステム不具合ではなく、AIモデルの特性や学習データに起因する挙動であると指摘されています。

背景と発生のメカニズム

America.govは、市民が政府情報へ迅速にアクセスできるようAIを活用した対話型検索機能を実装しています。今回報告された事例では、特定のトピックに対してAIが論理的整合性を欠いた出力を生成しており、これは大規模言語モデル（LLM）特有のハルシネーションや、プロンプト処理におけるモデルの偏りが引き起こしていると考えられます。

政府DXにおけるAI活用の課題

本件は、政府系プラットフォームのような高い信頼性と正確性が求められる領域において、AIを実装する際の難しさを浮き彫りにしました。不特定多数の質問に対して常に最適かつ正確な回答を保証するためのガードレールの強化や、モデルの出力に対する監視体制は、今後公共機関におけるAI活用において極めて重要な焦点となるでしょう。

今後の展望

現時点で運営側からの公式な修正アナウンスはなされていません。AI技術の急速な社会実装が進む一方で、その回答の妥当性をいかに担保し、制御し続けるかというガバナンスのあり方が、今後さらに問われることになります。