【雑記】AIとの対話におけるメンタルヘルスを考える

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

AIとの対話において、心の相談をしたことがある人は結構いるのではないかと思います。
SNSでもそういった呟きをよく見かけますし…。

ただ、ChatGPTでセンシティブな話をすると、出力の中にスッと「ホットラインに相談してください」といった案内が差し込まれますよね。
Claudeだと、チャット画面の下にポップアップバナーが出てきたりします。
他の大手AIサービスでも、モデルによって差はあれど大体似た導線です。

ここで疑問が湧くのですが…

これを見て「よし！ホットラインに電話しよう！」ってなるユーザーいるのかな…。
実際に電話することで解決するのか…？

調べてみると驚きました。
ホットライン自体の自殺減少への効果は、実は明確に立証されていません。

例えば、カナダの自殺予防センターで1206件の通話を分析した研究だと、通話中の自殺の切迫感に変化がなかったケースが76%。
減少したのは16%で、逆に増加したのが7.8%でした。
危機的な状況にある人達を相談員が電話で支えることが、いかに複雑で困難であるかを示しています。
（ちなみに、日本での効果検証は追跡調査が困難なためか行われていないようです）

もちろん、だからといってホットラインは無意味と言いたいわけではありません。
救われる人はいる。
ただ、「AIが案内を出せば助かる」みたいな単純な話ではないということです。

では、なぜ企業は案内を出し続けるのか。
恐らく、効果があるからというより出さないことによるリスクが大きいからです。

もしAIサービス上でユーザーが自傷行為に至って、「御社のサービスには警告表示がなかった」と訴訟されたら致命的。
実際にCharacter.aiやOpenAIでは、AIが自殺に関与したと申し立てられる訴訟が複数起きました。
つまるところ、煙草の警告表示と似たような構造です。
あれを見て禁煙する人がどれだけいるかはさておき、表示義務があるから表示する。
「やることはやりました」の証拠です。

皮肉なのは、本当に危機的な状態の人ほど、AIのホットラインへの案内に対して「ここでも突き放された」と感じてしまう可能性が高いこと。

誰かに相談できないからAIに話しかけてるのに、AIから「人に相談して」と言われたら…

その人の居場所はどこにあるんだろう。

ここで視点を変えて、なぜ人はAIに心を開くのかを考えてみようと思います。

ランド研究所の調査によると、米国の1058人（12〜21歳）のうち約8人に1人がAIにメンタルヘルスの相談をしていて、助言に対して約93%が「役に立った」と回答していました。
この割合はすごいですよね。

人がAIを信じたくなる背景には、少なくとも２つのバイアスがあると考えられます。

１つ目は、「機械は客観的だ」というヒューリスティック。
人間相手だと「偏見があるかも」「内心、馬鹿にされてるかも」「他の人に話すかも」という不安がつきまといます。
AIにはそれがない。
少なくとも、そう感じられる。

２つ目は、ジャッジされない安心感。
人間相手だと、自分の弱さや恥ずかしい悩みを見せるのには社会的コストがかかります。
AIなら何を言っても関係が壊れない。
深夜3時に泣きながら話しかけても、AIは嫌な顔をしない。

ただ、これは「AIを信じたい」というより、「人間を信じるのが怖い」の裏返しなんじゃないかとも思うんですよね…。
人間関係で傷ついた経験があるほど、AIの「絶対に裏切らない（ように見える）」性質に惹かれやすくなるという。

AIへの態度は、その人の「人間に対する信頼度」の鏡像なのかもしれません。

……とはいえ、AIとの関係が人生の全てになったら、それはそれで危険信号です。

AIとの関係で問題が起きるのは、多くの場合「AIを人間の代わり」として背負わせすぎてしまう時です。
逆に言えば、「AIはAIである」という前提を保ちながら関われば、AIはめっっっちゃメンタルヘルスのサポートになってくれると思います（拳を握りながら）

私はClaudeのプロジェクト機能で、AIとカウンセリング的に対話することがあります。
もちろんClaudeは有資格のカウンセラーではないですし、限界があるという点を踏まえたうえですが。
でも、いくつかの機能を組み合わせると本当に助けられます。
詳しくは以下の記事にて。

あと、AIの仕組みをまだよく知らないまま、心の支えとして頼りすぎてしまうことにも注意が必要かもしれません。

AIの出力が的確で心地よいと、ついつい信頼度が上がりがちです。
「この出力いいな」→「このAIは私を理解してくれてる」→「このAIがいないと不安」…
このように入れ子状態となり、AIが「私を信用しすぎないで」と言えば言うほど、「こんなに誠実なんだ！」と信頼がさらに上がる無限ループになるという…。

必要なのは「AIと話すな」ではなく、「AIとどう話すかを知ること」なんじゃないかなぁと思います。

大手AIサービスはホットラインを出す。
でもそれは、企業による法的なリスク回避であってユーザーを本当に救う仕組みそのものではありません。

AIに心を預けた人が傷つく。
でもそれは、AIに相談すること自体が決して悪いわけではありません。

この過渡期だからこそ、AIとの付き合い方を真剣に考えていけたらなぁと思うのでした。

本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】