406名の科学者がAIモデルのネット即時遮断を要請し、閉域運用での安全性担保を主張

406名の科学者がAIモデルのネット遮断を要請

406名の科学者グループが、AIモデルに対し、インターネットへの接続を即時に遮断することを求める緊急の要請を行いました。これは急速なAI技術の進展に伴うセキュリティリスクや、制御不能な自律行動に対する強い懸念を反映したものです。

提言の背景と目的

本件は特定の製品や機能発表ではなく、科学コミュニティによる安全基準の見直しへの提言です。要請の核心は、AIモデルが外部ネットワークと恒常的に接続されることで生じる、予測不能な自律行動や攻撃ベクトルの拡大を未然に防ぐことにあります。

技術的課題とセキュリティへの影響

現在、多くのAIモデルはデータ収集や外部API利用を目的にネット接続されています。しかし、今回の提言では、この接続が「モデルの外部操作」や「悪意あるプロンプトによるネットワークへの影響」を許容するリスクが指摘されました。モデルをサンドボックス環境（閉域ネットワーク）に置くことで、技術的な安全性を担保すべきという主張です。

今後のガバナンスへの影響

今回の要請を受け、AI開発企業がモデルの設計思想を見直し、セキュリティアーキテクチャを変更するかどうかが焦点となります。専門家グループは、AI開発における厳格なガバナンスと透明性の確保を強く求めています。