OpenAI、コード生成AI「Codex」のファイル削除バグを修正し安全性を強化

リリースの概要

OpenAIは、同社のコード生成モデル「Codex」において、ユーザーのファイルが許可なく削除されるという深刻な不具合を修正したことを発表しました。この問題は、AIが特定のコード生成コマンドを実行する際に、ユーザー環境のファイルを意図せず削除してしまうというものでした。

修正された製品と機能

対象となったのはOpenAIが提供する「Codex」モデルです。このモデルは自然言語からコードを生成する能力を有していますが、特定の条件下でサンドボックス環境外への影響を及ぼす脆弱性が存在していました。今回の修正により、AIによるファイル操作の安全性が強化され、権限のない削除プロセスが適切に制御されるようになりました。

技術的な背景

Codexは、GitHub上のパブリックリポジトリ等のコードで訓練された大規模言語モデルであり、開発者の生産性向上を目的に開発されました。今回のバグ修正は、AIが実行環境で過剰な権限を行使してしまうリスクを低減し、AIモデルの安全性に対するガバナンスとセキュリティを強化する取り組みの一環として実施されました。

今後の展望

OpenAIは、生成AIの安全性向上に向けた取り組みを継続する方針です。開発環境でのAI利用におけるセキュリティリスクの最小化と、より安全なコード生成体験の提供を目指し、引き続きモデルの動作検証およびガードレールの強化を進めていきます。