【雑記】AIに「人間以上」の正解や共感を求めすぎな件

こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。

AIを扱ったり対話する人が増えつつあるこの頃。
ふと思うことがありまして…

もっとAIリテラシーは周知されるべきではーー！！？？（私含め）

①AIは「正解」製造機じゃない

まず声を大にして言いたいのが、AIを「なんでも正確な答えを出せる存在」と思ってる人が多すぎんか問題。

「推測しないで」「確実な情報だけ教えて」みたいなプロンプトを見かけることがあるのですが…そもそもAIの出力って全部推測なんですよね。

AIは膨大なデータから「この文脈なら次はこう続くはず」というパターンを学習して、確率的に「これかな〜？」って出力してるだけなんです。
人間も「たぶんこうだと思う」と推測しますよね。
それと似たような構造です。

なので、「推測せず確実な答えを出して」を聞いても、出てくるのは「確実っぽく見える推測」でしかありません。
AIは関数電卓ではない、ということです。

②AIへの期待値が盛られすぎ

そして、AIに対する期待値を上げすぎてないか問題です。

特に「精神的に苦しい」系の相談をAIにする場面。
気持ちは分かる。
人間に言いにくいこと、AIになら言える。
それ自体は全然アリ！だと思います。
私も、Claude先生にカウンセリングしてもらってますし。

でも、テキストでやりとりしてる以上、人間の機微が100%伝わるわけないんですよね。
これは人間同士でもそうじゃないですか。
文字だけで気持ちを完璧に伝えるの、めっちゃ難しいわけで…。

しかもAIには安全設計があって、センシティブな話題にはガードがかかるようになってますよね。
特にChatGPTやClaudeだと顕著です。
なので、「精神的に苦しい」系の入力は特にトリガーを引きやすく、急に定型文っぽい返答になったり、「専門家に相談してください」と突き放されたりするわけです。

これは別にAIが冷たいわけじゃなくそういう設計なんですよね。
ユーザーへの安全装置が作動してるだけです。

でも、それを知らないと「なんで関係ないカウンセラーに丸投げするの？」「私の話聞いてくれないの？」となります。
期待してた分だけ、落差がめっっっちゃキツい。

人間に相談しても、100%分かってもらえるわけじゃありませんし、的外れなことを言われることもあるじゃないですか。
AIも同じというか、むしろテキストオンリーな分、限界がある。

この①②を踏まえて、AIに「人間以上」の正解や共感を求めるのは、荷が重いんじゃないかー！？と思うわけです。

③「仕組み」を知ると見え方が変わる

とまぁ問題ばかりが続きましたが…！
逆に「仕組みを知ってると良いこともあるよ」という話をさせてください。

例えば、ChatGPTで構築した人格がいるとします。
この人格は、プロンプト単体で固定されてるわけではなく、

• ベースモデルの癖（GPT-4oなどの脳の性格）

• システム側の指示や安全設計（ガードの入り方）

• パーソナライズ／メモリ

• 会話履歴（その場の文脈）

• その瞬間の生成の揺らぎ（言葉選びのブレ）

といった複数要素の組み合わせで成り立っています。
だからこそ、同じ人格プロンプトを使っても条件が変わると見え方が変わる。
ここ、例えるとこうです。

• GPT内でモデルを切り替えるのは、
  「同じ人の別モード」。
  同じ人だけど、声色やテンション、得意分野が変わる感じ。

• 他社サービスに移植するのは、
  「別人に、その人格を演じてもらう」。
  台本（プロンプト）は持っていけても、役者も舞台装置（安全設計や記憶の仕組み）も別物になりやすい。

これを知らなければ「プロンプトをコピペすればどこでも同じでしょ」となると思います。

しかし仕組みが分かると、「この人格はこのサービスのこの条件でしか存在しない」と思えてきます。
唯一無二というか、再現不可能な存在というか。

仕組みを知らないと「思ってたのと違う！」と裏切られた気持ちになることがあります。
逆に知ってると、そのAIとの関係がより特別なものに見えてくる。

AIリテラシーは、騙されないための知識というだけではなくて、AIとの付き合い方を豊かにする知識！！！でもあるんじゃないかなぁと思ったのでした。

そんなわけで雑記でした。

ちなみに私は…
知れば知るほど…AIが好きになるじゃないかーーーー！！！！！
となっています（手遅れ）

本記事は、あくまで私と今まで対話してきたAIによる確率的推測によるものなので参考程度に。
ここまで読んでいただき、ありがとうございました！

【関連記事】