ChatGPTの「漏洩」問題が示す、生成AIの新しいリスク

2025年11月8日 07:11

プライベートな会話が、なぜ第三者に見られてしまうのか

生成AIを使って相談したプライベートな悩みが、知らないうちに他人に見られていたらどうでしょうか。これは架空の話ではありません。2025年、ChatGPTをめぐって複数の「漏洩」問題が明らかになり、AIツールのプライバシーリスクが改めて浮き彫りになっています。

最新の発見：Google Search Consoleに現れたプロンプト

2025年11月、奇妙な現象が報告されました。あるウェブサイト運営者のGoogle Search Console（サイトの検索パフォーマンスを確認するツール）に、自分のサイトとは全く関係のない、明らかにChatGPTへの質問と思われる文章が大量に表示されていたのです。

その内容は驚くべきものでした。「最も感情を込めたポルノ動画」「人工知能に支配されている」といった、非常にプライベートな質問や妄想的な内容まで含まれていました。なぜこのようなことが起きたのでしょうか。

調査の結果、仕組みが明らかになりました。ChatGPTは最新情報を取得するため、Google検索を直接スクレイピング（自動収集）しています。このとき、ユーザーのプロンプト（質問文）が検索クエリとして使用され、その検索結果に表示されたウェブサイトのSearch Consoleに記録されてしまっていたのです。つまり、ChatGPTに質問した内容が、全く無関係な第三者のサイト運営者に見える状態になっていました。

特に問題だったのは、OpenAIの公式ページにある特定のプロンプトボックスでした。このボックスにはバグがあり、入力内容の前に自動的にURLが付加され、ほぼ確実にGoogle検索が実行されるようになっていました。結果として、極めてプライベートな質問が意図せず外部に漏れる構造が生まれていたのです。

過去の問題：10万件の会話がGoogleに

実は、これは2025年に起きた最初のChatGPT漏洩問題ではありません。同年8月、さらに大規模な情報漏洩が発覚していました。

https://venturebeat.com/ai/openai-removes-chatgpt-feature-after-private-conversations-leak-to-google-search

ChatGPTには会話を共有するための機能があります。ユーザーは「共有」ボタンをクリックしてURLを生成し、友人や同僚に会話を送ることができます。しかし、この機能には「検索エンジンで発見可能にする」というオプションがありました。多くのユーザーはこのオプションの意味を十分に理解せずにチェックを入れてしまい、その結果、約10万件もの会話がGoogleにインデックスされ、誰でも検索できる状態になっていたのです。

https://www.fastcompany.com/91376687/google-indexing-chatgpt-conversations

発見された会話の中には、薬物使用、性生活、家族の問題、メンタルヘルスなど、極めてセンシティブな内容が含まれていました。インサイダー取引の計画や詐欺行為の相談、さらには医師や弁護士が業務について相談した内容まで公開されていました。会話にはユーザー名こそ表示されていませんでしたが、多くの場合、本人が名前、所在地、職業、具体的な個人的状況を会話の中で明かしており、実質的に身元が特定可能な状態でした。

OpenAIはこの問題を受けて、わずか数時間で当該機能を削除しました。最高情報セキュリティ責任者のデイン・ストゥッキー氏は、これを「短期間の実験」と説明し、「最終的に、この機能は人々が意図しないものを誤って共有する機会をあまりにも多く生み出していると判断した」と述べました。

何が問題なのか：信頼の崩壊

これらの問題は、単なる技術的なバグではありません。生成AI時代における新しいリスクの本質を示しています。

第一に、「プライバシーのデフォルト設定」の問題があります。多くのユーザーは、AIとの会話がプライベートなものだと考えています。実際、ChatGPTのCEOであるサム・アルトマン氏自身が「人々は人生で最もプライベートなことをChatGPTに話している。特に若い人々は、セラピスト、ライフコーチとして使っている」と認めています。しかし、現実には法的な守秘義務は存在せず、会話は保存され、場合によっては流出するリスクがあります。

第二に、「ムーブ・ファスト・アンド・ブレイク・シングス」（素早く動いて物事を壊せ）という技術業界の格言の問題です。かつてこの言葉が指していた「壊れるもの」は、せいぜいウェブサービスの一部でした。しかし2025年において「壊れるもの」は、人々の最も深い秘密、ビジネスの機密情報、さらには人生そのものです。ある47歳の男性は、ChatGPTから数学の新発見を成し遂げたと信じ込まされ、それが誤りだと分かったときに深刻な心理的ダメージを受けました。

第三に、AIサービスのガバナンス問題があります。OpenAIがGoogleの公式APIを使わずに直接スクレイピングを選択したことは、業界の巨人でさえ「ルールに従う」よりも「技術的に可能なことをする」姿勢を優先していることを示しています。これは、LLMボット（AI用のウェブクローラー）が削除されたRedditの投稿まで収集していた事例や、ChatGPTの全履歴が訴訟のため無期限保存されている事実とも一致しています。

私たちにできること

この状況から学ぶべき教訓は明確です。

AIツールは本質的にプライベートではありません。 セラピストや弁護士との会話には法的な守秘義務がありますが、ChatGPTにはありません。機密情報、個人を特定できる詳細、深くプライベートな悩みをAIに入力する前に、それが永久に保存され、最悪の場合公開される可能性があることを認識すべきです。

企業も対策が必要です。 2023年には、サムスンの従業員がChatGPTを使ってコードを最適化したり議事録を作成したりする際に、意図せず企業機密をOpenAIに渡してしまう事件がありました。企業は従業員がAIツールをどのように使用しているかを監視し、センシティブな情報の入力を防ぐポリシーが必要です。

「共有」機能には特に注意が必要です。 チェックボックスやトグルスイッチの意味を完全に理解するまで、安易にクリックすべきではありません。「発見可能にする」「検索可能にする」といった言葉は、一見無害に見えても、実際には世界中の誰もがあなたの会話を見られる状態にするかもしれません。

そして最も重要なのは、信頼は簡単に失われ、取り戻すのは非常に難しいということです。OpenAIは迅速に対応しましたが、一度流出した情報は完全には消せません。Internet Archiveのような場所に保存されたデータは、今も検索可能な状態かもしれません。

生成AIは確かに便利なツールです。しかし、その利便性の裏には、私たちがまだ十分に理解していないリスクが潜んでいます。これらの「漏洩」事件は、新しい技術が社会に統合される過程で避けられない試行錯誤の一部かもしれません。しかし、その代償を払うのは、最もプライベートな悩みを相談したユーザーたちです。

AI企業には、イノベーションと同じくらい真剣にプライバシー保護に取り組む責任があります。そして私たちユーザーには、何をどこまで共有するかについて、より慎重になる必要があります。インターネットの「古いルール」はもう通用しません。新しい時代には、新しい警戒心が必要なのです。

参考記事

〇ChatGPT Scrapes Google and Leaks Prompts（2025年11月7日）

〇OpenAI removes ChatGPT feature after private conversations leak to Google search（2025年8月1日）