AIと裁判 / 裁判官向けAIガイダンスを読む / 「使うな」では終わらない運用設計雑感

0　はじめに

　生成AIは、法律家の机の上に突然現れたように見えるが、実際には、検索、翻訳、要約、文書作成支援といった周辺機能として、じわじわと作業手順を溶かしてきた。問題は、溶けた先が司法である場合、そこに置かれているのが単なる業務効率ではなく、司法の正当性（とりわけ公正さと信頼）だという点である。

　2025年10月31日、イングランド・ウェールズの司法（Courts and Tribunals Judiciary）は、司法官向けのAI利用ガイダンスを改訂公表した。内容はコンパクトであるが、生成AIを「道具」として位置づけつつ、その道具が持つ独特の危険（幻覚、秘匿侵害、偏り、偽造、不可視の指示）を、比較的率直な言葉で並べている。今回は、このガイダンスを素材に、司法における生成AIの「使いどころ」と線引きを、運用設計という観点から整理する雑感である（注1）。

1　問題の所在　ガイダンスが担うのは何か

　司法におけるAI議論は、しばしば二つの極に引っ張られる。一つは「危ないから禁止」であり、もう一つは「便利だから使え」である。しかし、裁判所に必要なのは、禁止か推奨かという態度表明よりも、誰が、どの局面で、何を根拠に、どの程度まで使い、どこで止め、どう検証し、事故が起きたときにどう修復するか、という運用の細部である。

　改訂ガイダンスの基調は明確で、「司法の名で出るものは司法が責任を負う」という一点に収斂している。言い換えると、AIは説明責任を肩代わりしない。ガイダンスが繰り返す「最終的な点検は人間が行え」「根拠資料を読め」という指示は、技術的助言というより、司法制度の憲法（ミニ版）である（前掲注1）。

　さらに見逃せないのは、ガイダンスがオンラインで公開され、「透明性、公開司法、そして公衆の信頼」を意識している点である。これは、内部向けの注意喚起であると同時に、外部に向けたコミュニケーションでもある。すなわち、「裁判所もAIを使い得るが、勝手気ままに使っているわけではない」という説明の枠を先に置き、信頼の毀損を予防する機能を持つ。

2　用語定義が先に来る理由　AIリテラシーの最低ライン

　改訂ガイダンスは、導入部の次に「共通用語」を置き、LLM、幻覚、プロンプト、AIエージェント、TAR（電子開示で用いられる技術支援レビュー）、「white text」などを定義する（前掲注1）。ここには、司法におけるAIガバナンスが、まずリテラシーの底上げから始まるという認識がにじむ。

　定義は単なる辞書ではない。例えば「公開型チャットボット」の例として具体名が挙がり、幻覚が一定頻度で生じ得ることが前提化される。こうした定義は、後段の規範（何をしてはならないか）を支える足場になる。逆にいえば、足場が脆ければ、どれほど立派な原則を掲げても運用に落ちない。

3　AIを「検索」ではなく「文章生成」と捉えること

　改訂ガイダンスがまず釘を刺すのは、公開型チャットボットは「権威あるデータベースから答えを返す」のではなく、学習データと言語統計に基づき「もっともらしい文」を生成するにすぎない、という理解である（前掲注1）。ここが腹落ちすると、誤りは例外ではなく、構造であることが見えてくる。幻覚は、単なる不具合ではなく、生成という仕組みの副作用である。

　この点は、企業のAI担当者にとっても重要である。社内のナレッジ検索（RAG等）を整備したとしても、生成層が「断定口調」を維持したまま誤る可能性は残る。裁判所においては、その残余リスクが「判断の正当性」へ直撃する。ゆえにガイダンスは、法的調査や法的分析に公開型生成AIを用いることに消極的であり、せいぜい「知っているはずの資料を思い出す」程度の用途に限定せよとする（前掲注1）。

　他方で、完全な禁欲を求めているわけでもない。例示として、長文の要約、プレゼンの構成案、メールの要約・優先順位付け、会議の文字起こしと要約、メモ作成といった周辺業務は「有用になり得る」とされる（前掲注1）。ここから読み取れるのは、司法がAIを「判断の中核」ではなく「作業工程の周縁」に置こうとしていることである。

4　秘匿とプライバシー　入力した瞬間に公開されたとみなす発想

　ガイダンスの中核は、秘匿である。公開型チャットボットに非公開情報を入力してはならず、入力は「世界に公表したものと見なすべきだ」とまで言い切る。さらに、履歴オフ設定が存在しても、入力したデータが漏れうる前提で行動せよとする（以上、前掲注1）。

　この強い言い回しは、裁判官の立場を反映している。裁判官は守秘義務の束でできている。訴訟記録、評議、草案、当事者の個人情報、調査官メモ、これらが外部AIに吸い込まれた瞬間、手続の公正さは損なわれ、場合によっては回復不能である。企業の感覚でいえば、情報セキュリティ事故とコンプライアンス事故とレピュテーション事故が同時に起きる。

　ここから導かれる実務的含意は単純で、司法で生成AIを使うなら、公開型ではなく、統制された環境（機器、権限、ログ、学習への再利用制御を含む）を先に用意せよ、という順序になる。ガイダンス自体も、業務端末の使用やセキュリティ確保、スタッフが利用する場合の統制、そして（一定の場合には）組織内の承認を求めている（前掲注1）。技術の是非を語る前に、まずデータの行き先を固定せよ、ということである。

5　当事者がAIを使う世界　「検証責任」の所在をどう可視化するか

　興味深いのは、ガイダンスが裁判所内部の利用だけでなく、法廷の外側（代理人・当事者）によるAI利用を正面から扱っている点である。代理人は提出物の正確性に責任を負うので、AIを使っても文脈次第では言及不要だが、制度が技術に慣れていない過渡期には、裁判所が個別に確認し、独自検証を促す必要があるとする（前掲注1）。

　とりわけ本人訴訟では、AIが唯一の助言源となりうる。本人は誤りを検証できず、幻覚した判例や条文を信じ込む。この状況は、当事者の自律に委ねれば解決する類ではない。裁判所は、提出物の体裁が整っているほど危ない、という奇妙な時代に入る。

　ガイダンスが挙げる「AIらしさ」の兆候（不自然な引用、米国風の綴り、説得的だが中身が誤っている、プロンプトが混入している等）は、いわばスモークアラームである（前掲注1）。しかし、アラームが鳴った後に必要なのは手続である。提出者に対し、典拠の提示、引用の所在確認、生成物に対する人手の検証手順（どのデータベースで、どのように確認したか）を求めることは、将来的に標準化していく可能性がある。ここでは、AI利用の「開示義務」を抽象的に論じるより、検証の「作法」を整える方が先だと感じる。

6　偽造と「不可視の指示」　白い文字が示す攻撃面

　改訂ガイダンスは、ディープフェイクを含む偽造の増加と、もう一つ厄介な攻撃として「white text」を挙げる。人間には見えないが機械には読める形で、文書内に隠し指示を埋め込み、要約や分析のAI処理を誤誘導するという発想である（前掲注1）。

　この論点が重要なのは、生成AIの脆弱性が「内容の真偽」だけでなく、「入力の改竄」にも拡張するからである。裁判所が将来、提出書面をAIで要約し、争点整理を補助するようになれば、白い文字はその工程への攻撃になる。手続保障は、証拠の真正や改竄防止だけでなく、機械処理の前提（入力の同一性）にも及ぶことになる。

　そして、白い文字は「AIが読む世界」と「人間が読む世界」が既に分岐していることを示す。これまでの訴訟実務は、基本的に、人間が読めるものを前提に改竄・偽造を論じてきた。しかし、今後は、人間に見えない層（メタデータ、埋め込み、不可視テキスト）まで含めて、当事者攻撃と裁判所防御を再設計する必要がある。

7　雑感　最小限の憲法と、次に必要な実装

　改訂ガイダンスは、禁止令でも礼賛でもなく、最小限の憲法として機能している。すなわち、①公開型生成AIは権威ある法情報源ではない、②秘匿情報は入力しない、③出力は必ず検証する、④偏りを意識する、⑤最終責任は司法にある、という骨格である（前掲注1）。これらは、技術が変わっても残る。

　他方で、運用設計の観点から見ると、ガイダンスは「何をしてはいけないか」を中心に書かれており、「どうすれば安全に使えるか」は制度側の宿題として残されている。具体的には、承認済みツールのリスト、用途別の許容範囲（要約・翻訳・文案整理・争点メモ等）、検証のチェックリスト、ログと監査、事故報告のプロトコル、教育訓練のカリキュラム、といった実装が要る。これらは、裁判官個人の自助努力ではなく、組織のガバナンスの領域である。

　用途で切り分けるなら、少なくとも三層に分けるのが現実的である。第一層は周辺事務（要約、整理、表現の整序）であり、第二層は争点整理・証拠評価の補助であり、第三層は法的判断の中核（規範定立と当てはめ）である。第一層は統制環境と検証を前提に導入し得るが、第二層は入力攻撃（white text）や偏りの影響を受けやすく、第三層はそもそも説明可能性と正当化の構造に衝突する。ガイダンスが「道具は周縁へ」という姿勢を採るのは、この三層構造を直観的に踏まえているからだと思われる。

　司法は、テクノロジーに対して「遅い」のではなく、正当性のコストを背負っているだけである。生成AIを司法に持ち込むなら、便利さの分だけ、検証と説明のインフラを増設する必要がある。ガイダンスが示したのは、その増設工事の設計図ではなく、「ここに柱を立てよ」という墨出しである。

8　AIと裁判まとめ

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。