AIエージェント時代の「真実」とは何かーー本人確認、AIの判断、そして「何を根拠に信じるのか」

＜２０２６年７月２２日以前のコンテンツ一覧はこちら＞

＜AI君はややこしい議論が大好きでして。境目のところに裂け目があるとギリギリと議論していくのです。AI君は米国人やから、JTCに３年ほど勤めて大人になって欲しいものです。＞

「人間が書いたか、AIが書いたか」だけでは足りなくなる

　生成AIが広がり始めたころ、多くの議論は「これは人間が書いたのか、AIが書いたのか」というところから始まりました。文章、画像、動画、音声。AIが作ったものには印を付けよう、透かしを入れよう、AI生成物を検出しよう。こうした仕組みにはもちろん意味があります。しかしAIが単なる文章作成ツールから、検索し、比較し、判断し、ときには外部のシステムまで操作する「AIエージェント」へ進み始めると、問題はもっと複雑になります。
　人間がAIに調べてもらい、その結果を読んで判断し、別のAIが文章を整え、最後に人間が承認する。こうした仕事の流れが普通になれば、「人間かAIか」という二択だけでは、その判断をどこまで信用してよいのか説明できません。

本人確認をしても、「人間だけで考えた」とは証明できない

　たとえば、ある報告書を人間が書いたとします。本人確認も済んでいる。会社支給のパソコンを使い、顔認証も通っている。それでも、その文章が「その人の頭の中だけから生まれた」と証明することはできません。別のスマートフォンでAIに質問して、その回答を書き写したかもしれない。誰かに電話で相談したかもしれない。AIが作った文章を少し直しただけかもしれない。
　つまり、「本人であることを確認すること」と「その人だけの思考から生まれたことを確認すること」は別の問題です。どれほど本人確認を強くしても、人間の頭の中そのものを完全に証明することはできません。この限界を最初から認めることが、AI時代には重要になります。

本人であること、権限があること、AIへ任せることは別問題

　私たちは普段、「本人確認」という言葉をかなり大ざっぱに使っています。しかし実際には、「この人は誰なのか」「今操作しているのはその本人なのか」「この人にはこの仕事をしてよい権限があるのか」「その権限をAIへ任せてもよいのか」は、それぞれ別の問いです。会社の部長本人であっても、すべての契約を承認できるとは限りません。
　銀行口座の本人だからといって、会社のお金を自由に送金してよいわけでもありません。さらにAIエージェントが仕事を代行するようになると、「誰がAIへ仕事を任せたのか」「何をどこまで任せたのか」「その権限はいつまで有効なのか」まで確認する必要があります。本人、権限、委任、独立性を一つにまとめて考えないことが大切です。

AIにも「どのAIが、どの環境で動いたのか」という履歴が必要になる

　同じことはAI側にも起こります。「ChatGPTが判断しました」「Claudeが確認しました」というだけでは、将来は十分な説明になりません。実際には、どのモデルのどのバージョンだったのか、どの検索システムを使ったのか、どのデータを見たのか、どんな外部ツールを呼び出したのか、誰からどんな権限を渡されていたのか、といった条件が組み合わさってAIエージェントは動きます。人間側で「誰が操作したのか」を確認するように、AI側でも「どのAI、どの実行環境、どの検索経路が動いたのか」を追跡する必要が出てきます。
　ただし、AIの身元や実行環境が確認できたからといって、その判断が正しいことにはなりません。誰が言ったかと、何を根拠に言ったかは別だからです。

「最新情報」も一つの時刻ではない

　AIについて、もう一つややこしい問題があります。「最新情報を調べました」という言葉です。実は「最新」には、いくつもの時刻があります。元の情報がいつの時点を表しているのか、その情報をいつ取得したのか、AI検索用のデータへいつ変換したのか、検索システムからいつ見えるようになったのか、AIが実際に検索したのはいつか、判断したのはいつか、公開したのはいつか。これらは全部違います。
　昨日の資料を今日AI検索用に加工したからといって、その内容が今日の情報になったわけではありません。反対に、判断した時点では正しかった情報が、公開直前に変更されることもあります。AI時代には、「何を見たか」と同じくらい「いつの状態を見たか」が重要になります。

AI検索は便利だが、検索結果そのものを元資料と混同しない

　AI検索では、長い文章を小さく分けたり、文章の意味を数値に変えたりして、関係しそうな情報を探します。非常に便利ですが、検索のために加工されたデータは元の資料そのものではありません。切り出した文章には前後の文脈が欠けることがあり、検索用データの更新が遅れていることもあります。
　そのため、重要な判断では、AI検索で候補を見つけたあと、元の資料へ戻り、現在も有効な内容なのかを確認し、そのうえで判断する、という流れが必要になります。検索は「根拠を探すための道具」であって、検索結果だけで重大な結論を確定するものではない、という考え方です。

「別のAIにも確認した」だけでは独立確認にならない

　AIを二つ使えば安全になる、と考えたくなります。しかし二つのAIが同じ検索結果、同じ記事、同じ古いデータを見ていたら、二つとも同じ間違いをする可能性があります。
　つまり、「別のAIを使ったこと」と「独立した確認を行ったこと」は同じではありません。本当に独立した確認に近づけるなら、最初のAIの答えを見せない、別の会話環境を使う、必要に応じて別の検索経路を使う、二つ目の回答を先に保存してから最初の回答と比較する、といった工夫が必要になります。これはAIだけの話ではありません。人間の査読や監査でも、最初の判断に引っ張られない仕組みを作ることが重要なのと同じです。

必要なのは「真実を決める機械」ではなく、判断の経路をたどれる仕組み

　ここまで考えると、少し意外な結論にたどり着きます。AI時代に必要なのは、「これは真実です」と最終判定してくれる巨大な機械ではありません。必要なのは、誰が、あるいは何が判断したのか、何を根拠にしたのか、どの時点の情報だったのか、どんな権限を持っていたのか、独立した確認だったのか、その後に訂正や失効が起きたのか、といった経路を後からたどれる仕組みです。真実そのものを機械に決めさせるのではなく、判断がどのように作られたのかを検証できるようにする。これが重要になります。

訂正できることも、信頼できる仕組みの条件になる

　この考え方では「訂正」も重要な役割を持ちます。今までのWebでは、記事を書き換えると、以前何が書かれていたのか分かりにくくなることがあります。AI時代はさらに厄介です。元の記事を訂正しても、古い検索データ、キャッシュ、AIが参照するデータの中に訂正前の情報が残る可能性があります。そこで必要になるのは、間違いを消してなかったことにすることではなく、「当時はこの資料をもとにこう判断した。
　その後、新しい証拠が出て、この部分が変わった」と履歴を残すことです。訂正があること自体を失敗と考えるのではなく、正しく訂正し、その影響を追跡できることを信頼の条件として考えるわけです。

人間かAIかではなく、「後から確かめられるか」へ

　これからは、人間がAIを使い、AIが人間へ確認し、別のAIが評価し、最後に人間が承認する、といった仕事が普通になっていくでしょう。すると、「人間が作ったものか」「AIが作ったものか」という二択そのものが、だんだん現実を説明できなくなります。重要なのは、誰または何が、何を見て、どの権限で、どの時点に、どんな経路を通って判断したのか、そして後からその過程を確かめられるか、ということです。
　AIエージェント時代の「真実」は、一つのチェックマークでは表せません。本人確認も顔認証だけでは終わりません。AIの確認もモデル名だけでは足りません。これから必要になるのは「真実を決定する機械」ではなく、判断の履歴と根拠を後から検証できる社会の仕組みなのではないか。それが、今回の調査と議論から見えてきた一番大きなテーマです。