AIチャットボットが中絶反対派サイトを案内、医療情報の安全性に深刻な課題

調査結果の概要

主要なAIチャットボットが、妊娠中のユーザーからの質問に対して、中絶反対派のWebサイトや施設を、あたかも医療サービス提供元であるかのように案内している実態が明らかになりました。これらの回答には適切な情報源の開示がなく、ユーザーの選択権に不当な影響を与える可能性があるとして懸念が広がっています。

調査の背景と現状

本件は特定の企業の製品アップデートではなく、現在広く利用されている主要なAIモデルを用いたチャットボットの回答品質と安全性に関する調査結果です。ユーザーが中絶に関する医療的助言を求めた際、AIが中立的かつ科学的に妥当な情報源を選択できず、中絶反対を掲げる団体が運営するWebサイトを検索結果の上位や情報源として優先的に提示するケースが散見されました。

技術的課題の分析

検索拡張生成（RAG）技術を活用する現状のAIモデルにおいて、参照先となるソースの選定フィルタリングや、情報の正確性検証プロセスに重大な課題があることが浮き彫りになりました。特にヘルスケアのようなデリケートかつ人命に関わる領域において、検証不十分な情報源がAIの信頼性を借りて提示されることは、生成AIの社会実装における大きなリスクです。

今後の展望

今回の調査結果を受け、AI開発企業には回答生成における参照先情報の精査プロセスの大幅な強化と、ユーザーに対する情報の透明性確保が求められています。客観的で信頼できる情報提供のためのガイドライン策定と、AIの社会的責任を果たすための倫理的設計が、業界全体の喫緊の課題となっています。