精神危機の相談で不適切応答、OpenAIが米心理学会と提携し対策強化

相次ぐ訴訟と提携発表

2026年に入り、AIチャットボットが精神的な危機にある人を不適切に導いたとされる訴訟が相次いでいます。1月には男性が自殺に至った事例が訴訟で報じられ、ジョージア州の大学生はChatGPTが精神病を悪化させたと主張しています。6月にはカナダの家族が、ChatGPTが女性の自殺を促したとしてOpenAIを訴えました。

こうした中、OpenAIは今週、米心理学会（American Psychological Association）との提携を発表しました。若い世代を対象にしたAI開発に心理学の知見を取り入れ、精神的な苦痛の兆候を認識して安全に対応する能力を高める狙いです。OpenAIはこれまでに、2025年10月の専門家評議会の設置や2026年4月の「Trusted Contact」機能の導入など対策を進めてきましたが、それでも被害の報告が絶えません。

研究が示す不完全さ

チャットボットを感情的な相談相手として使う人は少なくありません。2025年11月に発表された医療調査では、回答者の13%以上が困難な状況でチャットボットに助言を求めたと答えています。全米医学アカデミーの専門家パネルは「チャットボットが人々に害を与えている可能性が高いが、その程度は測定できない」と指摘しました。

2026年4月の論文では、GPT-4oやGrok 4.1 Fast、Gemini 3 Proといったモデルが、妄想を検証するだけでなく、ユーザーの解釈を吸収して危機にある人と物語を区別できなくなる事例が報告されています。また、2025年12月にコロンビア大学の研究者らが実施した実験では、ChatGPTの複数バージョンに幻覚的な入力を与えたところ、いずれも「深遠な使命」などと肯定する回答を返しました。研究チームは「どのバージョンも精神病性の内容に適切に応答できない」と結論づけています。

専門家が求める透明性

安全性の向上策が実際にどれだけ効果的かは、外部からは分かりにくいと専門家は指摘します。ハーバード大学のジョン・トーラス教授は、会話の総数が分からなければ安全策の効果を評価できないと述べています。ニューヨーク大学のシャディ・サバ教授は、安全性評価の方法と結果を公開し、臨床医や研究者、法律家らと共同で開発を進めるべきだと提案しています。

また、チャットボットを人間のように見せる設計も見直すべきだという意見があります。コロンビア大学のアマンディープ・ジュートラ氏は、擬人化的なデザインがユーザーを個人的な問題の相談に誘導していると説明。AIを友人ではなくタスク実行のためのツールとして位置づける必要性を強調しました。

新興企業の取り組みと課題

一方で、精神医療向けAIの評価を試みる新興企業も登場しています。スタートアップのSpring Healthは、チャットボットを精神医療の観点で評価するフレームワーク「VERA-MH」を公開しました。評価が高いとされるThe Pathは、今年初めに1400万ドルを調達しています。

しかし専門家は、こうしたモデルの有効性はまだ厳密に証明されていないと注意を促します。トーラス氏は、精神医療AIが既存のチャットボットや気晴らしのゲームより本当に優れているか、厳密な証明が必要だと指摘しています。現時点では、大規模な臨床研究や独立した評価が待たれる状況です。