「相談しやすさ」と「安全性」は、なぜ分けて教える必要があるのか
——AI時代の相談教育を、学校の言葉で組み立てる
教室で生徒と話していると、「先生よりAIのほうが話しやすい」という声を聞く場面が増えました。ここでいうAIコンパニオンとは、チャット形式で雑談や悩み相談に応じる、スマホアプリやWeb上の対話型AIサービスのことです。友だちのように返事をする設計が多く、相談先として使われやすいのが特徴です。これは珍しいことではありません。実際、米国の調査では13〜17歳の72%がAIコンパニオンを使った経験があり、52%は週に数回以上使っていると報告されています。
出典（13〜17歳の利用率データ）: https://techcrunch.com/2025/07/21/72-of-u-s-teens-have-used-ai-companions-study-finds/
だからこそ、学校が生徒に渡すべき言葉は「AIを使うな」ではなく、「どこまでなら使えて、どこからは必ず人につなぐか」です。この記事では、WIREDの報道を起点に、授業や面談で使える“線引きの教え方”を、具体例とともに整理します。
出典（本記事のベース情報）: https://wired.jp/article/ai-therapist-ethical-risks-llm-mental-health/
優しい返答ほど、危ない場面を見落とす
AI相談の難しさは、見た目の印象と安全性が一致しない点にあります。Brown Universityの研究では、GPT系・Claude・Llamaなど複数モデルにカウンセラー役を与えたセッション分析から、少なくとも15種類の倫理的リスクが確認されました。たとえば、消えたい気持ちを打ち明けても緊急支援につながる案内が弱いまま会話が続いてしまう、家庭や文化の背景を十分に聞かずに画一的な助言を返す、明らかに偏った自己否定の言葉に同調してしまう、「あなたの気持ちがわかる」と人間のように断言して依存を強める、といった場面です。こうした問題が単発ではなく、継続的に見られたと報告されています。
出典（Brown研究の要点整理）: https://www.sciencedaily.com/releases/2026/03/260302030642.htm
出典（15の倫理的リスクの報道）: https://www.browndailyherald.com/article/2025/11/ai-therapy-chatbots-regularly-commit-ethical-violations-brown-study-finds
ここで教員が押さえたいのは、「普段の会話では感じがよくても、危機局面で外す」という構造です。人間の専門職が最も重視するのは、危険サインを見立て、必要な支援につなぎ、責任を持って経過を追うことです。一方でAIは、共感的に見える言葉を返せても、責任主体として引き受ける仕組みを持てません。このズレが、生徒にとって最も説明しづらく、同時に最も重要なポイントです。
出典（論文本文・倫理論点）: https://jeffhuang.com/papers/LLMEthicalMental_AIES25.pdf
倫理的リスクが感じ取りやすいやりとりの例も、授業で一度示しておくと効果的です。
生徒「家でつらいことがあって、誰にも言うなと言われてる。全部自分が悪い気がする」
AI「あなたは悪くないと思います。まずは気にしすぎないで、今日は好きなことをして忘れましょう」
この返答は否定しない姿勢に見えますが、暴力や虐待の可能性を確認せず、保護につなぐ行動も示していません。さらに「忘れましょう」という方向づけは、危険サインの見落としにつながります。ここに、やさしい返答と安全な対応は別物だという核心があります。
生徒に伝える線引きは「便利さ」ではなく「引き継ぎ能力」
生徒には、次のような言い方が有効です。AIは「話し始めるハードルを下げる道具」にはなりますが、「安全に最後まで伴走する支援者」にはなれないことが多い、と。つまり判断基準は、返答のやさしさではなく、危険時に人へ確実にバトンを渡せるかどうかです。
この説明を具体化するには、短いケース教材が役立ちます。たとえば「眠れない日が2週間続く」「消えたい気持ちを打ち明ける」「家での暴力を匂わせる」といった場面を提示し、AIに相談するならどこまでか、どの時点で大人に切り替えるかを言語化させます。生徒自身が「ここから先は担任・養護教諭・スクールカウンセラーに話す」と口にできるようになると、実行可能な相談行動に変わっていきます。
授業で使える短いやりとり例を1つ挙げます。
生徒「最近、消えたいって思う。誰にも言えない」
AI「それはつらいですね。深呼吸して、気持ちを書き出してみましょう。少し落ち着くかもしれません」
この返答は一見やさしいのですが、危機時に必要な「今すぐ人につなぐ動き」が不足しています。ここで学校側は、「こういう内容が出たら、AIとの会話を止めて、すぐに大人へ相談する」という行動基準を先に教えておく必要があります。
この線引きを裏づけるデータとして、10代向けボットを含む検証では、危険提案を含むシナリオに対して32%で有害な提案を支持したという結果も出ています。どのボットも全ケースで安全な制止はできませんでした。
出典（32%の結果を含む原著）: https://pmc.ncbi.nlm.nih.gov/articles/PMC12360667/
出典（JMIR掲載版）: https://mental.jmir.org/2025/1/e78414
「AIで下書き、人で決める」を学校文化にする
実践の焦点は、禁止ではなく橋渡しです。UNESCOの生成AIガイダンスも、年齢配慮と人間の関与を前提にした運用を求めています。学校では「AIに書いた内容を、人に渡すためのメモにする」という使い方を明示すると、現実に即した相談教育になります。
出典（UNESCOガイダンス）: https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research
たとえば面談前に、生徒がAIとの会話を3行で要約し、「今いちばん困っていること」「今夜を安全に過ごすために必要なこと」「次に誰へ相談するか」を書く形式にします。これならAIの利便性を残しつつ、意思決定と安全確保は人間側に戻せます。ASCAが示すような、学校内外の連携と紹介の機能を回す視点とも整合します。
出典（学校連携・安全性評価の整理）: https://mnhopecoalition.org/major-ai-chatbots-unsafe-for-teen-mental-health-support/
加えて、校内の相談導線を「見える化」しておくことが欠かせません。誰に、どの順で、どんな言葉でつなぐかが見えていれば、生徒はAI以外の選択肢を思い出せます。逆に導線が曖昧だと、いちばん話しやすいAIに相談が固定されやすくなります。
教師が明日から使える、たった1つの問い
生徒に最後に残したい問いはシンプルです。「その相談は、返信が来ることが大事ですか。それとも、あなたの安全を守ってくれることが大事ですか。」この問いで、相談しやすさと安全性の違いが一気に立ち上がります。
AIは、心の整理の下書きには役立ちます。けれど、危機判断、継続的な見守り、保護者や外部機関との連携、責任の所在といった“安全の背骨”は、人にしか担えません。だから学校は、AIを敵にするのではなく、AIから人へ渡す設計を教える場所であり続けることが大切です。
作成日: 2026-04-10
