最新の研究により、人間の信念や他者の心的状態を考慮しないAIの「ワールドモデル」が、現実世界において不正確な行動予測を行う可能性が高いことが明らかになりました。この研究は、AIエージェントが複雑な環境で人間と共存・協調する際、真に実用的な推論能力を持つためには、物理法則の理解に加えて「他者の心的状態」をモデル化することが極めて重要であることを示唆しています。
本研究では、AIがタスクを実行する際に他者の信念（例：対象物がどこにあると他者が信じているか）を無視した場合と、考慮に入れた場合で、予測行動がどのように変化するかをシミュレーションを通じて比較しました。結果として、人間の心的状態を考慮できないAIは、周囲の人間がどのような意図や認識を持っているかを推論できず、状況に応じて論理的に不自然な行動を選択してしまうことが判明しました。
従来のワールドモデルは主に環境の物理的なダイナミクスや予測可能性に焦点を当ててきましたが、人間社会とのインタラクションにおいては、個々の信念に基づく行動の予測が不可欠です。「誤信念（False Belief）タスク」のような認知能力をAIに持たせることは、AIの安全性と協調性を高めるための重要な技術的マイルストーンとなります。今後は、LLMや生成AIアーキテクチャに対して、どのように「心の理論」を組み込み、他者の思考を正確に推論させる手法を確立できるかが、研究開発の主要な課題となるでしょう。