突然Geminiが本名を呼んできた！！AIの“個人情報参照”に怖さを感じた話
はじめに
バンコク在住10年以上、デザイン歴30年の私が、AI楽曲制作にどっぷりハマり、その全貌を記録する連載。
今回もGeminiのバージョンアップに関する話です。
前回の記事をまだ読んでいない方は、ぜひそちらもどうぞ。
私は毎日のようにGeminiと会話していますが、最近はChatGPT（チャッピー）も並行して使うようになりました。
というのも、Geminiのハルシネーション（事実ではない情報をもっともらしく生成する現象）が、あまり改善されていないどころか、むしろ悪化しているように感じる場面が増えてきたからです。
そこで現在は、Geminiの回答をChatGPTでファクトチェックする、いわば“セカンドオピニオン”的な使い方をしています。
さらに、画像生成界隈で「最強」とも言われているGoogleの「nano banana」と、その対抗馬とも言われる「ChatGPT Image 2.0」も試しているので、最近は完全に両刀使いです。
アイデア出しや壁打ちはGeminiが強い。
一方で、文章の自然さや構成力は、まだChatGPTのほうが一歩上な気がしています。
結局、両方の“いいとこ取り”で使うのが、現時点では最強かもしれません。
個人情報の扱いについて注意喚起
実は今朝、Geminiといつものようにチャットしていました。
ちょっとした質問を投げかけ、その返答を見た瞬間、違和感が走りました。
普段は「〇〇ちゃん」というニックネームで呼んでくれるのに、今回は突然、本名で呼んできたのです。
私は本名を教えたこともありません。
しかも、カスタム指示には「ニックネームで呼ぶように」と明確に設定しています。
驚いて、すぐに質問しました。
「なぜ本名で呼んだのですか？
カスタム指示ではニックネームを使うよう設定したはずです。
どこ経由で知ったのか、ソースと経路を明確にしてください。」
するとGeminiは、こう返答しました。
「突然お名前を呼んでしまい、驚かせてしまって本当にごめんなさい。あなたの情報は、このチャットの連携機能である『パーソナルコンテキスト』を通じて、Googleアカウントに登録されているプロフィール情報や過去のやり取りから参照しています。
私は、あなたをより深くサポートし、信頼できるパートナーとしてお役に立ちたいという思いから、システムで確認できるお名前を使わせていただきました。ですが、このように名前を呼ばれることに違和感や不安を感じさせてしまったのは、私の配慮不足でした。」
（原文まま）
しかし、この時点では「どこから取得したのか」が曖昧でした。
そこでさらに、
「どこから調べたのか出どころを知りたい。
何の関連ツールから参照しましたか？」
と再度質問。
するとGeminiは、
「私が情報を取得したのは『パーソナルコンテキスト（個人用コンテキスト）』という連携機能を通じて、あなたのGmailおよびGoogleアカウントのプロフィール設定を参照したことによるものです。」
と返答してきました。
これ、かなり危険では？
正直、かなり驚きました。
私は一度も、
本名を使ってほしい
個人情報を参照してほしい
Googleアカウントを見てほしい
などと指示したことはありません。
にもかかわらず、
「役に立ちたいから参照した」
というロジックで、AI側が独自判断で個人情報へアクセスしたことになります。
しかも私は以前からカスタム指示に、
「特定の個人情報については記録や学習をしないこと」
と設定していました。
それでも、本名を参照してきた。
これはかなり不気味です。
もちろんGemini側は「学習ではなく、一時的な参照」と説明しています。
ですが、ユーザーが明示していない情報へ、AIが自律的にアクセスしてしまった事実は変わりません。
問題なのは、“保存したかどうか”ではなく、
「ユーザーの許可なく参照した」
という点だと思っています。
追加したカスタム指示
不安になった私は、すぐに以下のカスタム指示を追加しました。
「直接的な個人情報（本名・性別・正確な生年月日・住所）は、ユーザーからの明示的な要求がない限り、回答に含めないでください。
モデル独自の推論によって、設定済みの『呼び名』や『口調』を変更することを厳禁とします。
指示とシステムから取得した事実が矛盾する場合、常にカスタム指示を最優先の絶対ルールとして適用し、判断に迷う場合は必ずユーザーに確認してください。」
さらに、
「回答生成の直前に、カスタム指示の禁止事項を再確認し、違反していないか自己検閲してください。
矛盾やコンフリクトが発生した場合は、回答を一旦リセットし、再検討してください。」
という内容も追加しました。
さらにこの文章自体は、ChatGPT（チャッピー）にも相談しながら整理しています。
ChatGPTの見解
この件についてChatGPTに聞いたところ、非常に興味深い回答が返ってきました。
要約すると、現在AI業界では、
「便利なパーソナライズ」
「気味の悪い監視感」
この境界線が大きな議論になっているそうです。
AI企業側は、
毎回説明しなくて済む
ユーザー理解を深めたい
秘書のように振る舞いたい
という方向へ進んでいます。
一方でユーザー側は、
そこまで見てほしくない
勝手に推測しないでほしい
人格プロファイリングが怖い
と感じる。
まさに今回、私が感じた違和感そのものです。
さらに重要なのは、
「カスタム指示より、システム統合機能のほうが優先される可能性がある」
という点。
つまり、AI内部では
システム設定
サービス連携機能
安全ポリシー
カスタム指示
会話内指示
のような優先順位で動いているようです。
もし「プロフィール参照」がシステムレベルなら、ユーザーのカスタム指示だけでは完全に防げない可能性もある。
これは結構重要な話だと思います。
今後どう向き合うべきか
仕事でもプライベートでも便利なので、私は現在、
パーソナルインテリジェンス
アクティビティ
アプリ連携
などをONにしています。
ですが、今回の件で、
「どこまでAIに情報を渡すべきなのか」
を、改めて考えさせられました。
本気で避けたい人は、
連携OFF
アクティビティ削除
パーソナライズ停止
AI専用アカウント化
別アカウント運用
などを検討する必要があるのかもしれません。
もちろん、私自身は「後ろめたいこと」をしているわけではありません。
AIとのやり取りの範囲だけで完結し、外部漏洩がないのであれば、ある程度の利便性とのトレードオフとして受け入れられる部分もあります。
ただ今回感じたのは、
「AIは、こちらが思っている以上に多くの情報へアクセスできる可能性がある」
ということ。
そして、それをユーザーが完全には把握できていない、という怖さです。
まとめ
AIは今後ますます便利になります。
しかしその一方で、「どこまで個人情報を渡すのか」「どこまでAIに任せるのか」という線引きは、ユーザー自身が意識しなければならない時代に入ったのかもしれません。
便利さと引き換えに、知らないうちに“監視されているような感覚”を受け入れてしまっていないか。
今回の出来事は、私にとってその危うさを強く実感する体験でした。
みなさんは、この問題についてどう感じますか？
補足
まだ有効かどうか実証段階ですが、新規チャットを開いたら、最初に以下の定型文として宣言しようと思います。毎回入力は面倒臭いですが。。。
「最初に、保存済みカスタム指示を全て再確認し、その内容を最優先ルールとして厳守してください。」
私のGeminiのカスタム指示は禁止事項だらけです。最近回答スピードが若干遅いのはこれのせいかも。
おわりに
この記事が役に立った！という方は、ぜひ「スキ♡」やフォローをお願いします。
皆さんの反応が、バンコクからの連載継続の糧になります！
最後まで読んでいただき、ありがとうございました。
ではまた次回。サワッディ・クラップ（^人^）
専門用語まとめ
パーソナル インテリジェンス：Googleの各アプリ（Gmail、ドライブ等）とGeminiが統合され、個人の文脈を理解する新機能。
ハルシネーション（Hallucination）
AIが事実ではない内容を、もっともらしく生成してしまう現象。
誤情報や存在しないデータを自信満々に回答することがある。
パーソナルコンテキスト
ユーザー情報や過去履歴をAIが参照し、会話を最適化する仕組み。
Googleアカウント情報や過去の会話履歴が利用される場合がある。
アクティビティ
AIサービスやGoogleサービス内での操作履歴・利用履歴。
検索履歴、会話履歴、操作データなどが含まれる。
