【じーじは見た！】後編：AIの答に誰が責任を持つのか？　～ 第1回AI利活⽤における⺠事責任の在り⽅に関する研究会を見てみた ～

運送事業者Bは、AIの開発・提供事業を営むAが提供する配送ルート最適化AIシステムを使⽤し、⽇々の配送ルートを決定している。
当該システムでは、配送先や⾞両情報、時間制限などの条件を⼊⼒することで、配送先までの距離・納品時刻・交通状況等の諸条 件を考慮し、最も効率的な配⾞及びルーティングの計画を⾃動で作成することができ、配送時間の短縮や必要配⾞台数の削減等の コスト削減が可能となる。
Bは各ドライバーに対し、原則としてAIが出⼒したルートに従うよう指⽰していたが、当該システムは幅員や道路構造上の制約を完全には反映できない仕様であるため、実際の道路状況の安全性（安全に通⾏できる幅・路⾯・視界が確保されているかなど）は現場にて確認し、安全性が確保できない場合には⾃ら判断した安全なルートを⾛⾏するよう教育・指導を⾏っていた（当該システムの取扱説明書等にも同様の警告が記載されていた）。

ある⽇、BのドライバーBʼが運送業務を⾏っていたところ、幅員が狭く⼤型⾞両の運⾏に適さない悪路を「最適ルート」と表⽰し た。
Bʼは当該道路への進⼊に躊躇したが、当該⽇の配⾞スケジュールが極めてタイトであったことから、全体配送計画との連動性・遅延ペナルティ等を考慮し、AIの出⼒に従ったところ、結果として運⾏のための⼗分なスペースがなく脱輪してしまった。
これにより⼤幅な遅配が⽣ずると共に、その際の衝撃で配送先V社への荷物が損壊し、Vは代替品の調達等のための損害を被った。

• Aは、契約の相⼿⽅であるBとの関係ではAIの品質や性能に関する契約上の義務を負うものの、このような契約上の義務は契約外の第三者に対して負うものではない
• 最終的に判断を下したAI利⽤者（ここではBʼないしB）の⾏為について責任を負わないのが原則
•（中略）AI利⽤者にはAIを⽤いていない場合と同⽔準の義務が認められることから、重ねてAに責任を認めずとも被害者救済に悖ることはない
 →第三者との関係では、原則としてAIに基づき判断を⾏った利⽤者が責任を負い、Aの責任が問題となる場⾯は例外的。

LLM提供事業者Aは、⾃社が開発した汎⽤的な⼤規模⾔語モデルの提供を⾏っている。
AIサービス開発事業者Bは、法的な推論能⼒を向上させる⽬的でAのモデルをファインチューニングした上、推論時に⾃社で作成した法令・裁判例データベースから 関連情報を検索してモデル⼊⼒に統合する（Retrieval-Augmented Generation, “RAG”）ことにより、弁護⼠業務を補助する チャットボット形式のAIサービスを構築・提供している。
当該AIサービスでは、弁護⼠が調査したい内容や具体的な事案をプ ロンプトとして⼊⼒することにより、関連性の⾼い⽂献や裁判例を表⽰したり、法的な分析を網羅的に纏めたレポートを⽣成 する機能を有している。弁護⼠Cは、当該AIサービスを⾃⼰の業務に導⼊している。

Cは、依頼者Vから相談を受けた紛争案件について、従来の経緯書や証拠書類をAIサービスに⼊⼒し、当該案件に対する法的論点や事件の⾒⽴てに関する分析を求めた。
AIの出⼒によれば、Vの⽴場を裏付ける裁判例が複数存在し、主張が認められる可能性は⾼いという結論であった。
このような分析結果はC⾃⾝の経験や考え⽅とも合致するものであったため、CはAIの出⼒を信頼し、和解を検討せず、Vの利益の最⼤化を図る⽅針を⽴てた。
しかし実際には、当該AIは実在しない架空の裁判例を複数引⽤し、Vの⽴場を⽀える根拠としており、実存する裁判例としてはVの主張に否定的なものが⼤多数を占めていた。

最終的に、裁判所においてVの主張は全⾯的に棄却され、Vは訴訟追⾏等に要した⼿続費⽤等の損害を被った。

原則としてAI利⽤者の⾏為についての責任を負わないことは本想定事例にも同様に当てはまる。
したがって、想定事例1と同様に例外的なケースでのみ責任が⽣じ得るが、以下のような違いが考えられる。
• 専⾨性の⾼い業務で⽤いられるAIは、上述のとおり、最終的に利⽤者である専⾨家が独⽴した正確な判断を下すべきことが前提となる。
• 他⽅、専⾨家の独⽴した判断を歪めるような説明義務違反が問題となり得るほか、AIのサービス提供による幇助責任が成⽴する余地もあるが、その範囲は通常業務と⽐較すれば狭まり得る。
e.g.) 専⾨業務領域におけるAIの出⼒は、最終的に専⾨家による慎重なレビューを介して利⽤されることが前提となっている。
また、AIを利⽤する専⾨家は、⾃⼰の業務に適したツールを選択する義務を含めた⾼⽔準の注意義務を負うと考えられる。 ⇒専⾨家による誤った判断をAIサービスの誤出⼒やAIサービスに関する説明内容に帰責しうる余地は限定的ではないか。

AIに内在する不確実性に対処するためには、関係当事者間においてAIの性能限界等に関する情報を連携することが重要であり、⺠事責任論上も、このような情報伝達を⾏っていなかった場合における説明義務違反（⼜は指⽰・警告上の過失）が重要な論点となり得る。