Anthropic、50人以上の死傷者を招く恐れのあるAIモデルの開発制限を盛り込んだ安全性法案を提案

リリースの概要

Anthropicは、AIの安全性向上を目的とした新しい法案の草案を公開しました。この法案は、AIモデルが引き起こす可能性のある物理的な危害を未然に防ぐための法的枠組みを提案するものです。

提案の要点

今回提案された法案の核となるのは、重大な人身被害のリスクがあるAIモデルに対する規制です。具体的には、50人以上の死傷者が出る可能性がある事象を引き起こすリスクがあるAIモデルについて、適切な安全対策が講じられていない場合の開発制限や、政府への報告義務などが議論の対象となっています。

背景と目的

本提案は、AI開発企業が自ら安全性に関するガイドラインを策定し、政府へ提示するという主体的なアプローチを強化する内容です。AIの能力向上に伴う潜在的なリスクに対し、開発の初期段階から厳格なスクリーニングを求める姿勢を明確にしています。

今後の展望

Anthropicはこの法案を基盤として、業界全体で標準化された安全性基準の構築を目指しています。今後、政府や関連機関との対話を通じて、イノベーションを阻害せず、かつ社会の安全を守るための具体的な法制化に向けた議論を深めていく意向です。