世界をリードするFrontier AI開発企業各社は、自動化されたAI研究の進展が、人間による管理や制御の限界を突き抜ける前に、国際的な協調体制を構築すべきであると提言しました。急速に進化するAIの推論・研究能力に対し、安全性を担保するための新たな国際枠組みの必要性を強調しています。
本件は特定の製品発表ではなく、AI開発のプロセスおよびガバナンスに関する方針表明です。主要なAI開発企業は、AIが自律的に研究・開発を行う能力を向上させている現状を認め、そのペースが人間のガバナンス能力を追い越すリスクがあることを指摘しました。
現状のAI開発技術は、自律的に新たな知見を獲得・適用する段階にあり、そのスピードはソフトウェア工学の進化を加速させています。企業側は、この技術的飛躍がもたらす恩恵を最大化しつつ、予測不可能なリスクを制御下に置くためには、国境を越えた技術的基準の統一とモニタリングが不可欠であるとしています。
今後は、国際的な連携を深め、AIの能力向上と安全性・透明性の確保を両立させるためのロードマップ策定が進む見込みです。特に、自動化された研究活動に対するガードレールの設置と、国際的な監視体制の構築が最優先課題として掲げられています。