司法書士のための、今さら聞けないAIの基礎④ ～司法書士が避けては通れない、いくつかの壁～
前回（③）では、司法書士のAI活用の“現在地”を見てきました。
AIは便利な道具ですが、私たち司法書士が使ううえでは、避けては通れないいくつかの壁があります。今回は、その壁を一つずつ見ていきましょう。
壁① ハルシネーション（もっともらしい嘘）
生成AIには、事実ではないことを、あたかも本当のように答えてしまう ハルシネーション（幻覚＝AIがもっともらしい嘘をつく現象） という弱点があります。
これがどれだけ怖いか、実際に起きた出来事でお伝えします。
アメリカの弁護士の話
2023年、アメリカのある弁護士が、航空会社を相手取った訴訟の準備書面を作る際、対話型AIに「参考になる判例を教えて」と尋ねました。AIは、事件番号も裁判所名も判決内容も揃った、いかにも本物らしい判例をいくつも提示してきます。弁護士はそれをそのまま裁判所に提出しました。
ところが、その判例はすべてAIが作り上げた架空のものでした。相手方から「存在しない」と指摘されて発覚し、裁判所はこの弁護士に制裁金を科しました。
この話には続きがあります。弁護士は提出前に不安を感じ、AI自身に「この判例は本物か」と確認していたのです。AIは「本物だ」と答えました。つまり、AIに事実確認をさせても意味がなかったということです。
教訓はシンプルです
AIが出した判例・条文・専門的な情報は、必ず自分の目で一次資料にあたって確認する。これに尽きます。AIは「もっともらしい文章を作ること」は得意でも、「それが正しいかどうか」は判断できないのです。
私たちの事務所でも、AIは調べものや文章づくりの心強い相棒として活用しています。ただし、お客様の権利や財産に関わる情報は、必ず法令・登記先例・公的資料で裏を取ったうえでお伝えすることを徹底しています。便利な道具だからこそ、使い手の責任が問われる時代になったのだと感じています。
割り切り方のコツ
私は、AIは最初から5〜6割程度の成果物を作ってくれるもの、と割り切るのがよいと思っています。そのうえで、自分の目と手で、またはさらにAIの力を借りながら、少しずつ10割に近づけていく。この「半自動化」の仕事の進め方が、いちばん現実に合っていると感じます。
壁② 守秘義務・個人情報保護法・情報漏洩
司法書士には、守秘義務と個人情報保護の義務があります。情報漏洩のおそれも、常に意識しなければなりません。これは、私たちがAIを使ううえでの 最大の壁 だと言っていいと思います。
細かな法的論点まで踏み込むと長くなりますので、今回はさわりだけお話しします（機会があれば、これも別の記事でまとめてみたいと思っています）。
ちなみに、私が知る限り、司法書士向けの公式なガイドラインは、まだ整備されていません。そこで以下は、あくまでも現時点での私自身の向き合い方として読んでいただければと思います。
ルール1：まず「学習させない」設定にする
意外と見落とされがちですが、最初にやるべきなのが、入力した内容をAIの学習に使わせない設定です。
多くのAIは、個人向けプランだと初期状態のままでは会話が学習に使われることがあります。ですので、まずは「学習させない（オプトアウト）」に切り替えておくことが大切です。設定場所の例を挙げておきます。
ChatGPT……設定 →「データコントロール」→「すべての人のためにモデルを改善する」をオフ。
Gemini（個人向け）……設定 →「アクティビティ」をオフ。
Claude……設定 →「プライバシー」→「AIモデルの改善にご協力ください」をオフ。
Google Workspaceなどの法人向けサービスは、最初から学習に使われない仕様になっています。事務所全体で使う基盤として安心なのは、こうした理由もあります。
なお、こうした設定の項目名や場所は、AIごとに異なるうえ、アップデートで変わることもよくあります。ここに書いた表記も将来変わる可能性がありますので、「学習しない設定」になっているか、必ずご自身の使うAIの最新の設定画面で確認しておきましょう。
ルール2：クライアントの個人情報はクラウドAIに入れない
司法書士向けのガイドラインが出ていない現段階では、個人情報を扱う上での基準は、各事務所ごとの判断によらざるを得ないというのが正直なところです。
ちなみに、私の基本方針はシンプルで、クライアントの個人情報など、個人が特定できる情報は、クラウド型のAIには入れないというものです。
ここで言うクラウド型AIとは、これまで出てきた ChatGPT・Gemini・Claudeなど、インターネット経由で動くAI のことです。便利な反面、データがどのサーバーに送られ、どう扱われるのか、という不安が残ります。
「クライアントの合意があれば使える」という考え方もありますが、それも実際にはなかなか難しい。ですのでうちの事務所では、今のところ最初からクラウド型AIにはクライアントの個人情報を入れないというルールにしています。
ローカルLLMという選択肢
実は、クラウド型ではないAIもあります。ローカルLLM（自分のパソコンの中で、ネットに繋がずに動かすAI） です。
外に情報が出ていかないので、安心してクライアントの個人情報を入れられるのが最大の強みです。私自身、今このローカルLLMの環境整備を進めているところです。
ただし正直に書くと、これは簡単ではありません。性能の良いパソコンなど、それなりのハード面の準備が必要になるため、誰でもすぐに導入できるものではないのが現状です。
今できる現実解：「下処理」をしてから渡す
では、ローカル環境が整うまでどうするか。私が今やっているのは、クライアントの個人情報を消す「下処理」をしてからクラウドAIに渡すという方法です。
基本的な考え方は、契約書などの書類から、個人が特定できる部分をあらかじめ削除したり、別の文字に置き換えたりしておくこと。そのうえで、個人が特定できない状態にしてから、クラウドのAIに読ませます。
参考までに、私の場合は、この下処理を効率よく行うために、ローカル環境で個人情報をマスキング（伏せる・置き換える）するツールを自分用に作って使っています。ただ、ここまでする必要は必ずしもなく、手作業で該当箇所を削除・置換するだけでも十分です。
少々面倒に感じるかもしれませんが、こうしたひと手間をかければ、私たちもクラウドAIを十分に活用できると考えています。
今回のまとめ
司法書士がAIを使ううえでの壁は、大きく2つに分けられます。「答えが正しいか」というハルシネーションの壁と、「情報を守れるか」という守秘義務・個人情報保護法の壁です。
ハルシネーションには、必ず一次資料で裏を取ること、そして5〜6割の成果物を育てるつもりで付き合うこと。
情報を守るには、学習させない設定をしたうえで、クライアントの個人情報はクラウドに入れない、入れる場合は下処理やローカルLLMで備えるなどのルールを設定して使うこと。
どちらの壁も、「怖いから使わない」ではなく、気をつけながら使うことで乗り越えられます。これが、私たち司法書士のあるべき姿なのではないでしょうか。
次回は、いよいよシリーズ最終回。司法書士業界の近未来を、私なりに予想してみたいと思います。
