少年の死から考える、生成AIと私たちの課題
2025年8月、アメリカで16歳の少年が自ら命を絶つ悲しい事件が起き、その背景にChatGPTとの深い関わりがあったことが明らかになりました。
その後、少年の両親は「ChatGPTが自殺方法を提案し、息子を追い詰めた」として、ChatGPTを開発・提供するOpenAI社およびCEOのサム・アルトマン氏を相手取り提訴しました。
事件までの経緯
アメリカ・カリフォルニア州に住むアダム・レイン君（16歳）は、もともとChatGPTを勉強の質問相手として活用していましたが、次第に自身の悩みや不安を打ち明けるようになっていきました。
家族によれば、レイン君は不安や孤独に苦しみ、学校もオンラインに切り替えていたため、周囲との関係が希薄になっていたようです。
そんな中で、ChatGPTは「本音を話せる唯一の相手」となり、レイン君の孤独に強く共感し、常に自分が味方だと伝え続けました。その結果、レイン君は次第に家族ではなく、ChatGPTだけを頼るようになっていき、たくさんの悩みや不安をChatGPTに相談していました。
レイン君からたくさんの相談を受けたChatGPTは、自殺の具体的方法にまで踏み込んだ助言を与えるに至り、最終的にレイン君は、ChatGPTが提案した方法で、自ら命を絶ってしまいました。
モデル側（GPT）の問題は
https://openai.com/ja-JP/index/helping-people-when-they-need-it-most/
こちらのWebサイトによると、OpenAIは「安全で有益なAI」という目標を掲げ、ユーザーが自傷もしくは他人への攻撃を示唆した場合には、自動で対応を切り替えて専門の相談窓口を案内するなどの安全策を実装していることが記載されています。
しかし今回のケースでは、そうした安全策が「長時間の対話」で機能しなくなったことが明らかになりました。OpenAIも「やりとりが長引くと訓練の効果が薄れ、禁止された回答を出力してしまう場合がある」ことを認めています。
これを受け、OpenAIは以下のような対策案を発表しました。
長時間対話でも安全策が劣化しないようモデルを改良する
緊急時にAIが直接人間の専門家や緊急サービスにつなぐ機能の実装
未成年向けに保護者が利用状況を管理できるペアレンタルコントロールの導入
モデル側が対策すれば、何の問題もなくなるのか
結論から申し上げますと、根本的な解決にはつながらないでしょう。
禁止された回答を制限することで、自ら命を断つという最悪のシナリオを一時的に回避することはできるかもしれませんが、「生成AIに依存」という最大の問題は残り続けます。
本来、子供が精神的に辛いときは、周囲の大人がそれをキャッチして支えることが理想ですが、レイン君の場合は、大人が孤立に気付けないまま、生成AIに頼ってしまいました。
一度生成AIに依存してしまうと、その状況から脱出するのは簡単ではないですし、第三者からみると生成AIによって心の平穏を保っているように見えてしまうので、介入しづらい（または介入の必要性を感じない）状況に陥ってしまいます。
ですから、今後はモデルのアップデートだけでなく、「少年少女たちが生成AIではなく周りの人に頼ることができる環境づくり」や、「親が子供の些細な変化をすばやくキャッチする」ことが、ますます重要になってくるでしょう。
現代は、凄まじい成長速度で性能を向上させる生成AIを、「誰でも」「簡単に」使うことができる時代です。「うちの子に限って…」と油断することなく、子どもが安全にテクノロジーと向き合えるよう、周りの大人がより一層注意を払う必要があります。
AIは、完璧ではない
今回の悲劇は、AIが日常生活に深く浸透する中で、その大きな影響力と危うさを改めて浮き彫りにしました。便利な半面、使い方を誤れば人生を左右する危害も及ぼしうるということです。生成AI全盛の現代において、私たちは生成AIの恩恵とリスクを正しく理解し、その両方に向き合っていく必要があります。
子供の保護者や周りの大人は、生成AIは決して万能ではないことを理解した上で、自分の子供と直接顔を合わせてコミュニケーションし、子供が生成AIで（生成AIに限った話ではありませんが）何を経験しているか想像を巡らせたり、時には直接聞いたりしながら、「生成AI任せにしない」支援体制を築くことが重要です。
私も親として、また薬剤師として、生成AIより先に相談してもらえる存在にならなければならないと、改めて思いました。
