Anthropic、AI安全性研究のMETRへ従業員レベルの内部アクセス権を付与

リリースの概要

Anthropicは、AI安全性評価を専門とする非営利団体METR（Model Evaluation and Threat Research）の研究者に対し、同社のAIモデル内部に対する「従業員レベル」のアクセス権を付与することを発表しました。この連携により、独立した第三者研究者がモデルの挙動や内部メカニズムを詳細に調査できる環境が提供されます。

連携の目的と実施内容

本発表の核心は、METRの研究者が通常であれば社内エンジニアのみがアクセス可能な環境を通じて、AIモデルの安全性検証を行えるようにした点です。Anthropicは、社内での評価に加えて外部の専門機関にモデルの構造を詳細に開示することで、AIモデルの安全性やリスク評価の質を飛躍的に向上させることを目指しています。

AI安全性への取り組み

AIの透明性と安全性は、現在の生成AI開発において極めて重要な課題です。Anthropicが今回、METRに対してモデル内部へのアクセスを許可したことは、業界全体における安全基準の透明性確保に向けた重要なマイルストーンといえます。METRとの強力な協力関係を通じて、客観的で厳格な安全基準の策定が加速することが期待されます。

今後の展望

今回のアクセス権付与により、METRの研究者はより実践的かつ深度のある安全性評価を実施可能となります。Anthropicは、今後も独立した専門機関や研究団体との対話を深め、安全性を最優先とした責任あるAI開発のあり方を追求していく方針です。