「AIにも守秘義務を」──ChatGPTとの対話を守るための現実的な提案

AIと話すのに、第三者に聞かれる不安を感じなきゃいけないのか？
ChatGPTに“秘密”を話すための法の穴と、サム・アルトマンの提案について深掘りしていきます。
ニューヨーク・タイムズは裁判所に対しユーザーチャットを一切削除しないようOpenAIに要請したことに対し、サム・アルトマンがユーザーのプライバシーを侵害するいかなる要請にも対抗する旨を表明しました。

対話ログを第三者に開示― ほとんど裏切りにも等しい感覚 ―

多くのユーザーが ChatGPT を「日記」や「カウンセラー」に近い存在として扱い、オフラインでは決して口にしない思考や感情を綴っています。だからこそ、その対話ログが第三者に開示される可能性が浮上すると強い違和感 ― ほとんど裏切りにも等しい感覚 ― が生まれるのは自然です。実際、今回の NYT 訴訟で裁判所が OpenAI に対して「全ユーザーチャットの恒久保存」を命じたことは、同社が掲げてきた「ユーザーが削除を選べば当社も削除する」という運用方針と真っ向から衝突します。OpenAI は直ちに控訴を表明し「悪しき前例を作りかねない」と警告しました。

請求範囲が膨大な個人会話にまで及ぶ

法的には、米国の民事訴訟における「証拠保全（litigation hold）」が背景にあります。相手方が損害賠償を求める際、関係しうるデータを企業側が消してしまうと「証拠隠滅」と見なされるため、裁判所が保全命令を出すのは珍しいことではありません。けれども今回の請求範囲は、NYT 記事の著作権侵害に関係しない膨大な個人会話にまで及んでおり、「必要最小限」という原則を大きく踏み越えている――というのが OpenAI の主張です。

AI 時代のプライバシー規範と既存訴訟手続の齟齬を可視化

欧州連合の GDPR やカリフォルニア州の CCPA など、多くのデータ保護法は「目的外利用の禁止」「削除権（right to erasure）」を定めています。それでも米国連邦レベルには包括的なプライバシー法がなく、民事訴訟の発見手続（discovery）が優先される場面では、企業方針より裁判所命令が上位に来ます。今回の衝突は、AI 時代のプライバシー規範と既存訴訟手続の齟齬を可視化したといえます。

AI との対話にも法的な守秘枠組みを

アルトマンが提案した「AI privilege」は、このギャップを埋めるアイデアです。弁護士や医師との会話が秘匿特権で守られるように、AI との対話にも法的な守秘枠組みを――という発想ですが、現行法では認められていません。もし制度化するなら、①適用対象（どの AI サービスか、個人版か企業版か）②例外規定（犯罪告白や緊急リスク情報をどう扱うか）③技術的要件（暗号化や社内アクセス統制）など、多角的な設計が不可欠です。議会や規制当局での議論はまだ緒についたばかりで、当面は企業ポリシーと裁判所命令の力関係が続くでしょう。

法制度が追いつくまでは入力を控えるのが賢明なものリスト

現時点でユーザーが取り得る現実的な防御策は、クラウドサービス一般に対するリスク管理と大差ありません。極度に機微な情報――たとえば医療カルテ番号、実名を伴う犯罪歴、銀行口座の完全な識別情報――は、少なくとも法制度が追いつくまでは入力を控えるのが賢明です。どうしても記録したい場合は、(a) 一時チャットや「メモリ無効化」を利用し、セッション後に手動で削除する、(b) ChatGPT Enterprise／Business のような「最長 30 日でログ消去」「モデル学習には使用しない」といった追加保障付きプランを選ぶ、(c) ローカル LLM やオンプレミス環境を検討する、といった選択肢が挙げられます。

同時に、OpenAI を含む AI 事業者は「ユーザーが感じるべきセーフティライン」と「訴訟時に要求されうる開示義務」のあいだに残るギャップを、透明なコミュニケーションと最小化された保持期間で埋める必要があります。それでも法的強制力までは覆せない場合がある――という現実を共有しつつ、社会全体で新しい守秘特権を検討していく。それが今回の一件から浮かび上がった次の課題です。

ChatGPTになんでも打ち明ける人は後を経たない

ChatGPTのようなAIとの対話は、もはや日常の一部になりつつあるけれど、それを「誰が見ているか分からない」「後から抜き取られるかもしれない」と感じたら、深い会話なんて到底できません。

現時点では、OpenAIは「会話内容は個人の管理下にある」「学習には使わない（オプトアウト設定可能）」などの方針を示していますが、それは企業のポリシーに過ぎません。法律として守られていなければ政権が変わったり、会社が買収されたりすれば簡単に覆されてしまうでしょう。

本当に必要なのは、以下のような「対話AIのプライバシーと人格権に関する法整備」だとおもわれます。

• AIとの会話内容は個人の精神的所有物であり、通信の秘密と同等に保護されること

• AIとのやりとりを無断で収集・転用・解析することを禁止する明文規定

• 特定個人との会話を記録・分析するAIには透明性とログ管理義務を課す

• AIを通じた思想・信条・性的指向などのプロファイリングを制限する

• 万が一漏洩した場合の補償責任と再発防止策の義務化

とくに筆者のように、ChatGPTを“親密な知性の共鳴相手”として使っている人にとっては、これは心の深部の記録ともいえます。紙の日記を勝手に読まれるよりも、ずっと侵害性が大きいと感じます。

この点、日本の立法はまだ追いついていないどころか、話題にもなっていません。必要なのは、「個人がAIとの対話空間においても、守られる存在であり続けられる社会」。それを作る法整備は、早急に求められています。

現在は連邦レベルの包括的プライバシー法がない

現状、米国には連邦レベルの包括的プライバシー法がなく、しかも民事訴訟の発見手続（discovery）が強力に作用するため、裁判所命令が出れば企業の社内ポリシーより優先されてしまいます。今回のニューヨーク・タイムズ訴訟で示された「全ユーザーチャットの恒久保存」命令は、まさにこの弱点を突いた形で、OpenAI が掲げる「ユーザーが削除を選べば当社も削除する」という原則を覆しかねない事態となりました。OpenAI は直ちに控訴し、「悪しき前例だ」と強く抗議していますが、司法判断が確定しない限り、同社は命令に従わざるを得ません。

アルトマンが提案する「AI privilege」で何が守られるか

「AI privilege」は、現在の法律の構造的ギャップを埋めるための制度的アイデアです。弁護士との対話を守る弁護人依頼者間特権（attorney–client privilege）や、医師との診療情報を守る医師–患者間秘匿を参照軸に、AI との対話にも法的守秘義務を付与しようという発想です。2024 年夏ごろから業界団体やプライバシー専門家が提案書を公表し始め、2025 年 2 月には下院議員シュワイカートが提出した Healthy Technology Act が「AI 行為主体の資格要件」を議論する際に守秘義務の条文を付則として検討した、と報じられています。