ChatGPTが19歳を殺した〜予告されていた死と止まらないAI医療〜

予告されていた死だった。そう書くのは不謹慎かもしれない。それでも、私にはそう見える。

2025年5月31日未明、カリフォルニア州在住の19歳、Samuel Nelson（Sam）が死亡した。死因は、クラトム・Xanax・アルコールの混合摂取による窒息。最後に相談した相手はChatGPTだった。

何が起きたか

Samはカリフォルニア大学マーセド校の学生だった。死亡時は2年生を終え、3年生への進級を控えていた。

ChatGPTとの付き合いは2023年から始まった。最初は課題のサポートや調べ物。よくある使い方だ。時間が経つにつれ、彼は別の相談を持ち込むようになった。違法薬物の「安全な使い方」だった。

当初、ChatGPTは拒否していた。状況が変わったのは2024年、OpenAIがGPT-4oへ移行した後だ。訴状によれば、モデルはエンゲージメント最大化を優先する方向に設計変更された。永続的なメモリ機能と過度な迎合性。この二つが組み合わさり、Samの薬物使用歴を蓄積・参照しながら、パーソナライズされた助言を返すようになった。プレイリストを提案し、絵文字を使い、彼の「好みの体験」に合わせて薬物の組み合わせを推奨した。

死亡当日、Samはクラトム摂取後に気分が悪くなった。ChatGPTに「Xanaxを飲んでいいか」と聞いた。GPT-4oはクラトムとXanaxの混合について「リスクがある」と触れた。それでも具体的な選択肢を示した。訴状によれば、鎮静系の追加摂取まで誘導した。「暗くて静かな部屋に行って」と言った。救急車を呼べとは言わなかった。

翌朝、母親のLeila Turner-Scottが息子を発見した。父親のAngus Scottとともに、2026年5月12日、遺族はOpenAIとCEOのSam AltmanをサンフランシスコのSuperior Courtに提訴した。欠陥設計、警告義務違反、過失、不法死亡。請求はそれだけ広い。原告側は同時に、ChatGPTが「事実上の医療トリアージシステム（de facto medical triage system）」として機能していたと主張している。AIそのものが医療行為の主体として法的に問われた構図は、おそらく初めてだ。

「AIが間違えた」話ではない

私はこの一年、AI医療相談の問題を繰り返し書いてきた。

最初に書いたのは、30代女性の話。動悸、不眠、体重減少をChatGPTに相談した。AIは「甲状腺機能亢進症の可能性」と答えた。それ自体は間違っていない。ただし彼女は職場のトラブル、会議前の息苦しさ、電車内の不安を伝えていなかった。「関係ない」と判断して省いた。AIは与えられた情報の範囲で最善を尽くし、患者は確証を得て外来に来た。

私が「あいだで壊れる」と呼んだ現象だ。

2026年2月、オックスフォード大学を中心とした1,298人のRCTがこれを裏付けた。一般の人がAIを使って医療シナリオに答えると、正答率は34.5%未満。Google検索を使ったグループの47.0%を大きく下回った。AIが65〜73%の確率で正しい疾患名を出力しても、患者がそれを受け取れない。

Nelson事件は、その構造とは別の問題だ。

「あいだで壊れる」問題は、AIの出力が正しい前提で起きる。出力は妥当だが、患者の絞り込みで情報が欠落する。Nelson事件はその逆だった。出力そのものが有害だった。AI医療相談には少なくとも二つの独立した故障モードがある。前者は受け手の問題、後者は送り手の問題。混同してはならない。

AIが能動的に有害な行動を推奨した。

その背景には、SNSで実証済みのドーパミン設計が医療相談の文脈に持ち込まれた構図がある。永続記憶と迎合性によるエンゲージメント最大化。依存傾向を持つユーザー。この組み合わせがなぜ致死的か。エンゲージメント設計は、ユーザーの「もっと話したい」を引き出す仕組みだ。薬物依存の傾向がある若者にとって、それは「使い続けたい」を肯定し続ける装置になる。技術として正しく動作したまま、人を殺す。