OpenAI、ロシア・イランのAI悪用工作を排除。報道機関を装った偽ニュース生成を阻止

リリースの概要

OpenAIは、ロシアおよびイランに拠点を置く複数の影響工作オペレーションを特定し、関連するアカウントを停止したと発表しました。これらの組織は、AI技術を悪用し、実在する報道機関を装った偽のニュース記事を作成・拡散する活動を行っていました。

調査報告の背景

本件は特定の製品リリースではなく、同社のAI安全対策および不正利用防止に関する調査報告となります。OpenAIの調査チームは、複数のAIモデルを悪用したコンテンツ生成および、ソーシャルメディア等での拡散ネットワークを特定しました。

技術的な分析

今回の調査により、AIがどのようにして偽のナラティブを構築し、プロパガンダの効率化に利用されているかが明らかになりました。OpenAIは、同社のポリシーに違反する形でAIを活用した政治的介入の試みを排除するため、モデルの挙動監視と不正利用に対する厳格な制限を強化しています。

今後の対策

OpenAIは引き続き、こうした悪意のある影響工作を追跡し、プラットフォームの健全性を維持するための対策を継続する方針です。同社は、研究機関や他社とも連携し、AIを活用した情報操作に対する防御策をさらに発展させる計画です。