OpenAIが安全性懸念から新AIモデルの公開を断念、性能よりリスク管理を優先する開発体制を実証

リリースの概要

OpenAIが、開発を進めていた特定のAIモデルについて、安全性に関する懸念を理由にリリースを断念したことが報じられました。今回の判断は、同社が掲げるAI安全性の重視と、リスク管理を優先する開発体制の現れといえます。

報道の背景

今回リリースが断念されたモデルの具体的な仕様や名称は公表されていません。しかし、報道によれば、内部評価の結果として期待される安全性基準を満たさないと判断され、プロジェクトが中止された模様です。急速に進化する生成AI技術において、モデルの性能向上と安全性の担保は大きな課題です。

OpenAIの安全への取り組み

OpenAIはこれまで、ChatGPTなどのリリースにおいて段階的なデプロイメント手法をとり、レッドチーミングや外部フィードバックを通じて安全性の確認を行ってきました。今回の決定は、未公開段階でのリスクを遮断するプロセスが機能していることを示しています。同社は今後も、今回の安全評価に関する知見を次世代モデルの開発プロセスに反映させ、より堅牢なAIシステム構築に向けた検証体制を強化していく見通しです。