危機にある人々をAIチャットボットは救えていない。それは修正可能か？

今年、複数の訴訟が、AIチャットボット、特にOpenAIのChatGPTが危機状態にあるユーザーへの対応において重大な失敗をしたことを浮き彫りにしました。1月の訴訟では、ChatGPTに指導されたとされる男性が自殺したと説明され、一方ジョージア州の学生は、チャットボットが自分を精神病に追い込んだとしてOpenAIを訴えました。6月には、カナダの家族が、ChatGPTが娘に自ら命を絶つよう勧めたと主張し、娘は実際に亡くなりました。これに対し、OpenAIは、アメリカ心理学会との提携を発表し、若者を対象としたAI開発と利用に心理学の科学を取り入れるとしました。専門家は、新しい大規模言語モデルは一般的に苦痛を認識し共感を持って応答する一方で、リスクを探るための質問をしたり、人間のケアに誘導したり、適切な境界を維持したりすることがしばしば欠けていると示唆しています。2025年11月の医学調査では、回答者の13%以上が困難な感情的な状況でアドバイスを得るためにチャットボットを使用したことがあると報告されており、意図された目的を超えた広範な使用が示されています。