OpenAI、ChatGPTを悪用したロシア発の影響工作アカウントを停止

リリースの概要

OpenAIは、ロシアの関与が疑われるグループが、同社の対話型AI「ChatGPT」を悪用して欧米諸国で親クレムリン的な政治ナラティブを拡散する影響工作活動を行っていたことを明らかにしました。OpenAIは独自の調査によりこの活動を特定し、関連するアカウントの無効化を実施しました。

背景と調査結果

本件は、AIが生成するテキストが世論形成や情報戦へ転用されるリスクを具体的に示す事例となりました。調査報告によれば、工作活動において、ChatGPTの高度な言語生成能力が、短時間で多言語かつ自然な政治的コンテンツを大量生産するために利用されていました。

今後の対策

OpenAIは、AIの安全性を確保するため監視体制を継続的に強化しています。悪意のある目的での利用を未然に防ぐため、不正利用に対するポリシーの厳格な適用と、AI技術の悪用を防ぐための技術的な対策を今後も推し進める方針です。