AnthropicがClaude 3.5の生物学研究制限を緩和、専門的な調査への活用を拡大しつつ安全性を維持

リリースの概要

Anthropicは、同社のAIモデル「Claude 3.5」において、生物学研究に関連する利用制限の一部を緩和することを発表しました。今回のアップデートは、研究者が学術的かつ専門的な生物学調査において、AIをより柔軟に活用できるようにすることを目的としています。

アップデートの内容

今回の変更により、一般的な生物学的トピックや概念に関する回答の制約が緩和されました。しかし、生物兵器の製造や蔓延、高度な毒素の生成に関わるようなウイルス学や毒性学など、リスクが高いと判断される領域については、従来通り厳格な「ガードレール」が維持されています。

背景と安全性への取り組み

AnthropicはAIの安全性研究を主導しており、モデルの公開前には詳細なレッドチーミングを実施しています。今回の制限緩和は、AIの社会的利便性の向上と悪用リスクの抑制という相反する課題に対し、慎重かつ段階的なアプローチをとる同社の姿勢を示すものです。

今後の展望

同社は今後も、生物学的な知識を安全かつ倫理的に提供できるよう、モデルのガードレールを継続的に監視・最適化していく方針です。科学研究の推進と安全性の両立を目指し、引き続き技術基盤の構築を継続します。