AIと裁判所 / UNESCO「裁判所におけるAI利用ガイドライン」をめぐる雑感

1　はじめに

　裁判官が判決を書く前に、まずChatGPTに「たたき台」を作らせる。 弁護士は、準備書面のドラフトと検索を同じ画面で済ませる。 裁判所のバックヤードでは、ファイルの自動振り分けや期日管理を、目に見えないアルゴリズムが静かに回している。 こうした光景は、もはやSFではなく、世界各地の裁判所や法律事務所で現実のものになりつつある。UNESCOが2025年に公表した「Guidelines for the Use of AI Systems in Courts and Tribunals」（以下、UNESCOガイドライン）は、この「AIが裁判所に入ってきた」という事態に、初めて本格的に正面から向き合った国際的な文書である［1］。 このガイドラインは、AIを司法から締め出すことを目的としてはいない。むしろ、アクセス・トゥ・ジャスティスの改善や、審理期間の短縮、事務負担の軽減といった可能性を認めたうえで、「それでも人権と法の支配を守るために、どのような条件が必要か」を問いかける構成になっている。

2　15の原則という設計図

　UNESCOガイドラインの骨格は、AIライフサイクル全体（設計・開発・導入・利用・廃棄）を通じて参照されるべき15の原則である。ざっくり整理すると、次の三層構造になっている。 第一層は、人権と手続保障に関する原則である。 非差別・平等、プライバシー・データ保護、適正手続、自由および安全など、国際人権法上の基本的な権利を、AIの導入にあたって再確認することを求める。ここには、「デジタル・リテラシーの低さゆえに司法アクセスから排除される人々を生まないこと」や、「被収容者の身柄拘束が、理解不能なアルゴリズム判定に依拠してはならないこと」など、かなり具体的な懸念が織り込まれている。 第二層は、技術的・組織的な条件に関する原則である。 安全性、情報セキュリティ、正確性・信頼性、説明可能性、監査可能性、透明性、責任・アカウンタビリティといったキーワードが並ぶ。ここで興味深いのは、「説明可能性」を、ブラックボックス・モデルの是非という抽象論ではなく、「裁判所がAIの動作原理と限界を理解し、当事者が結果を争えるだけの手がかりを持てるか」という、かなり手続寄りの要請として整理している点である。 第三層は、ガバナンスと人間中心設計に関する原則である。 人間による監督と決定、参加型・人間中心の設計、多様なステークホルダーとの協働などが含まれる。ここでは、AIを「裁判官の代わり」ではなく「裁判官を支える道具」として位置付けることが、繰り返し強調される。 この構造は、UNESCOが2021年に採択した「人工知能の倫理に関する勧告」における原則構成と強く連動している［2］。AI一般の倫理原則を、司法という特殊な文脈に「ダウンスケール」したものが、今回のガイドラインだと理解することができそうである。

3　EU AI法・国連決議との接続

　UNESCOガイドラインは、単独で空中戦をしているわけではない。EU AI法（Regulation (EU) 2024/1689）や、国連総会決議78/265など、近時の国際的な規範形成と密接に呼応している。 EU AI法は、裁判所や仲裁機関で用いられる特定のAIを、Annex IIIにおいて「高リスクAIシステム」として列挙している。とりわけ、「事実及び法の解釈や適用を支援するAI」は、高リスクと分類され、リスクマネジメント、データガバナンス、人による監督などの厳格な要件を課される［3］。 また、国連総会決議78/265は、「AIシステムのライフサイクルを通じて人権及び基本的自由を尊重・保護・促進すべきこと」をうたい、運用上人権と両立しえないAIシステムの利用を中止すべきだと明言する［4］。UNESCOガイドラインが、一定の場合にはAIシステムの利用停止や廃棄を求めるのは、この決議を背景に持つからである。 さらに、欧州評議会のCEPEJが2018年に採択した「司法制度におけるAI利用に関する倫理憲章」は、既に「人間による最終決定」や「アルゴリズム結果の再検討可能性」といった原則を提示していた［5］。UNESCOガイドラインは、この欧州発の議論をグローバルに拡張し、アフリカ、アジア、ラテンアメリカを含む160か国以上の司法関係者の意見を取り込んだ点に特徴がある。

4　「ノイズ」を減らすか、「バイアス」を増幅するか

　ガイドラインのイントロダクションで引用されているのが、Kahnemanらの『Noise: A Flaw in Human Judgment』である［6］。同書は、「同じはずの事案に対する裁判官の判断が、不要なばらつき（ノイズ）を示す」という問題を定量的に示し、「ノイズの削減」が意思決定の質を上げると主張する。 AIに期待されている機能のひとつが、まさにこの「ノイズ削減」である。例えば、量刑の相場感を提示するシステムや、審理の優先順位を決めるツールは、ある種の一貫性をもたらす可能性がある。 しかし、UNESCOガイドラインは、ノイズ削減の魅力と同時に、「構造的な差別やデータバイアスを増幅する危険」に強い警戒を示す。犯罪予測や再犯リスク評価などの予測的ツールについては、国連人権高等弁務官事務所などが、特定のマイノリティに対する過剰な不利益をもたらすおそれを繰り返し指摘しており、UNESCOも「人権との整合性が証明されるまでは慎重であるべき」とする立場に立つ。 ガイドラインが示す道筋は、単純な「人間 vs. 機械」という構図ではない。むしろ、「人間のノイズ」と「AIのバイアス」という二つのノイズ源をどう統合的に制御するか、というかなり厄介な設計問題である。そのためにこそ、アルゴリズム影響評価（algorithmic impact assessment）や、人権影響評価（human rights impact assessment）を前提としてAIを導入すべきだとする。

5　生成AIと「司法作文」

　今回のガイドラインで、多くの人が最も関心を持つのは、おそらく生成AI、なかでも大規模言語モデル（LLM）に関する部分であろう。 UNESCOガイドラインは、LLMの主な用途として、①文書ドラフト（判決書、報告書、メール等）、②要約と翻訳、③文体の調整、④アイデア出し・議論の構造化、といった「司法作文」の周辺領域を想定している。他方で、①検索エンジンの代用、②リーガル・リサーチの「最終ソース」、③専門家証言の代替として用いることは、原則として不適切であると明言する。 理由はシンプルである。LLMは意味を理解しておらず、膨大なテキストの統計的パターンをなぞっているにすぎない、という「ストキャスティック・パロット」批判が、ここでも前提とされるからである［7］。LLMが生成するテキストは、表面的にはもっともらしく、法律家が好みそうな言い回しを器用に模倣するが、その中身は誤引用や存在しない判例の創作を含みうる。 したがって、ガイドラインは次のような実務的なルールを提案する。

　実務的には、「日本語で長い文章を書くのがしんどいときに、たたき台を出してもらう」「判決要旨をわかりやすく書き直す」といった使い方がガイドラインでは想定されているのであろう。問題は、それを「どこまで自覚的に使うか」である。

6　裁判官のAIリテラシーという課題

　UNESCOガイドラインの特徴のひとつは、「人材」の章がかなり厚く取られている点である。AIの倫理や技術の話だけでなく、「司法研修所や裁判官研修にAIリテラシーを組み込め」とかなり具体的に書いている。 ここで言うAIリテラシーは、単にツールの操作方法を覚えることではない。

　といった、かなり高度なメタスキルが要求されている。 この点は、バンガロール司法行動原則が掲げる「能力・向上心（competence and diligence）」の価値とも重なっている。そこでは、裁判官が「職務に必要な知識、技能、資質を維持・向上させるために合理的な努力を払うべきこと」が強調されているが［8］、AI時代にはその中に「デジタル・リテラシー」が当然に含まれることになる。

7　日本の文脈でどう読むか

　では、このUNESCOガイドラインを、日本の司法にそのままインポートすればよいのかと言えば、話はそう単純ではない。 第一に、日本では、そもそも裁判所のITインフラの更新・統一化という、より手前の課題がなお大きい。生成AI活用の論点検討の前に、電子ファイルと紙の混在、各地裁ごとの運用のばらつき、職員の負担増など、アナログ時代からの課題も残存しているとされる。AI導入は、それらを一気にワープさせるものとは言い難い。むしろ、既存の非効率を温存したまま、その上にアルゴリズムを積み上げる危険すらある。 第二に、UNESCOガイドラインが前提とするようなマルチステークホルダーな議論の場が、日本の司法には必ずしも十分とは言えない。AIの導入が、裁判官と事務当局の間のクローズドなプロジェクトとして進み、当事者や弁護士会、市民、技術者が十分に関与できないまま動き出すとすれば、それ自体がガイドラインの精神とは齟齬をきたす。 第三に、AIリテラシーの問題は、単に研修メニューを増やせば解決する話ではなさそうである。裁判官・書記官・事務官・システム部門など、多様な職種の協働が前提になる。組織として「AIを使ってもよい領域」と「使ってはいけない領域」を定義し、違反があったときの責任の所在を明確化する、といった地味なルール整備が欠かせないのかもしれない。 その意味で、UNESCOガイドラインは、世界標準としての唯一解というよりも、自国の文脈に合わせてローカライズすべき叩き台として読むのがよいようにも見える。

8　おわりに――AIは裁判官を代替しないが、裁判所を変える

　UNESCOガイドラインの結論部は、「AIツールは、熟練した法的推論、人間の判断、個別の法的助言の代替物ではない」と明言する。これは、Benderらが指摘するように、LLMが意味を理解していない以上、自明の帰結でもあるし［7］、人権保障と司法の独立を重視する伝統的な法思想とも整合的である。 しかし、だからといってAIが単なるツールにとどまるわけでもない。判決の書き方、事案の振り分け方、審理のスケジューリング、法情報へのアクセス構造など、司法制度の設計そのものを静かに、しかし着実に変えていくだろう。 AIは裁判官を置き換えないが、裁判所という制度を再設計させる。 その再設計を、誰のどのような価値観に基づいて行うのか、UNESCOガイドラインは、その問いを突きつけるようなひとつの共通言語を提供しているとも捉えられそうである。

（マガジン）「AIと法-雑感」

　※目次は以下を参照

note総則規約3条2項前段
3.2 クリエイターが制作したデジタルコンテンツの著作権は、クリエイターに帰属します。