[HumanAgency] AIは人間の主体性をどこに追いやるのか？

「私たちはAIに操られているのではないか？」

あなたは、AIの発言に影響を受けていないと言い切れますか？
意思決定は私自身で行っているとしても、その判断材料がAIにより生成されたものだとしたら、AIの生成次第で私の決定が左右されるかもしれません。

どんなにAIの発言を単なる参考情報だとして一線を引いているように見えても、参考にしている時点で影響を受けているのではないでしょうか？

今回は現代のAI時代における、人間の主体性について論じられた『After the Interface: Relocating Human Agency in the Age of Conversational AI』を読みます。

この論文は今年5月に発表され、7月に開催予定の国際学会 ACM CUI 2026に採択されています。

これまでのコンピュータと人間の関係性

これまでのコンピューティングでは、人間が実行操作を直接管理することで主体性を発揮していました。この時代のコンピュータは、人間が一方的に操作する道具であり、言うなれば釘打ちの金槌と同じでした。

• コマンドベース（1970〜80年代）: プログラミングやターミナルのように、手順を1つずつコマンド入力で正確に指示します。

• 機能ベース（GUI時代）: PhotoshopやExcelのように、ボタンやスライダーといったインターフェースを操作して、結果を導き出します。

つまり、「人間の主体性 ＝ インターフェース上の操作」であり、システムが提供するボタンをどう押すかが、人間の主体性そのものだったのです。例えば、Photoshopで画像を加工する際は、切り出しやぼかしなど、人間の操作に対してそのまま処理が施されていきました。

しかし現在、自律的な思考が可能なAIが登場したことで、コンピュータは単なる金槌であるとは言えない状況となりました。

道具から協力者への変化

AIを宿したコンピュータと人間の関係は、これまでの「一方的に操作する道具」から、「人間同士のような協力関係」に似てきています。

現代のLLMやAIエージェントでは、これまで人間が行ってきたシステム操作をAIに任せるようになります。人間が「こんな写真加工をしたい」と指示すれば、AIがPhotoshopを操作して、人間の意図を汲んだ加工を行うのです。

かつて人間が主体性として考えていた『操作』がAIに取って代わるわけです。では、人間に主体性がなくなるのでしょうか？いいえ、そうではありません。論文では、人間の主体性が以下の3つに移り変わると整理しています。これを論文では「主体性の再配置」と呼んでいます。

• 目標の言語化: AIに何をさせたいか明確に伝えること。

• 出力の評価: AIが出した結果が自分の意図に合っているか判断すること。

• 結果の交渉: 修正を依頼し、最終的な成果を確定させること。

実行はAIに移っても、指示や確認は人が手綱を握っています。

• 従来の処理の流れ
     実行(人) ⇒ 処理(プログラム)

• 現代の処理の流れ
     指示(人) ⇒ 実行(AI) ⇒ 処理(プログラム) ⇒ 確認(人) ⇒ 再指示（人）

AIは人間が与えた指示（目的）を達成するべく処理を実行します。少なくとも現代のAIにおいては、人間が目的を与えなければ、行動を生むことはなく、人間がAIに動機を与える主人となるのです。

一見わかりやすいこの主体の再配置ですが、実はコンピュータとの関係性を非常に複雑なものにしています。

動機を与える主人と「検品」の誕生

現代のAIシステム（特にAIエージェント）において、人間は作業手順を詳細に指示するのではなく、達成したい目標だけを提示する役割を担うようになりました。この目標だけ提示するというのは非常に曲者です。

• コマンドベース時代（従来）
  人間は「どうやって実行するか」という手順を1から10まで指示していました。マウスやキーボードを使い、自分自身でPhotoshopを操作して作業を行ったのがまさにこれです。

• LLM・AIエージェント時代（現代）
  人間は「バルセロナの旅行プランを作って」や「メールボックスを整理して」といった、最終的な目標だけを伝えます。

これまで人間が決めていた処理手順がAI任せになり、人間はAIが処理した結果を受け取る事になります。

人間が依頼 ⇒ 委託を受けたAIが作業 ⇒ 人間が検品

従来は、処理手順は人間自身が決めたものであり、その結果を信用するかどうかも明白でした。しかし、処理手順をAIに委託したことで、「検品（評価）」という高度な作業が人間に求められるようになったのです。そして、この検品作業という最終的な意思決定の場こそが、人間が主体性を発揮できる数少ない場であり、発揮しなければいけない場なのです。

この変化に気づかず、ただAIを闇雲に利用し、人間が主体性を発揮しないとどうなるでしょうか。

主体性の静かな喪失

主体性の再配置という言葉どおり、現代のAIシステムによって人間の主体性が失われるわけではありません。しかし、最終的な意思決定の場で人間が主体性を発揮せず、AIの出力を鵜呑みにしてしまった時、それは実質的な決定権をAIに明け渡してしまうことを意味します。人間自身が主体性を発揮しなくなった時に、当然、人間の主体性が消えていくのです。

皆さんはAIとの対話において、AIの回答をそのまま受け入れてしまうことは本当にないでしょうか？論文ではこれを「受動的な受け入れ」と呼んでいます。

従来のツール（Photoshopなど）では、自分自身が操作をしない限り何も起きませんでした。しかし、現代の対話型AIは、私たちが何も考えなくても「もっともらしい答え」を提示してくれます。この時、もし人間が「本当にこれでいいのか？」と疑い、修正を求める（交渉する）ことをやめてしまうと、インターフェースの見た目は変わらなくても、知らず知らずの内に人間側の主体性は静かに消滅してしまうと警告されています。

ただ、多くのユーザーはこれを理解し、「AIの結果を鵜呑みにせず、適切に交渉し、冷静に判断を下さないといけない」と心がけていることでしょう。ですが、ここで問いたいのが、「頭で理屈をどれだけ理解していようとも、本当に健全な疑いを持ち続けることが可能なのか？」ということです。

有能な部下に主体性を奪われる未来

なぜ、健全な疑いを持ち続けるのが難しいのか。それは、作業のプロセスはAI任せなのに、その結果に対する責任だけは人間が負わされるという不条理な状況が生じているためです。

まさに、「上司と部下の関係」です。上司は部下に目標を示し、部下は目標に向かって試行錯誤し、上司は結果を評価します。そして、上司はその作業の責任を負う立場にあります。

上司または部下という立場で仕事をしたことがある社会人であれば共感されると思いますが、上司と部下の間で完璧なコミュニケーションを実現し、100%の意思疎通ができ、阿吽の呼吸で意図が伝わり、結果に対して正当な評価ができるという状況はどれほどあるでしょう。実際は、妥協と信頼の上で成り立っているのではないでしょうか？組織が大きければなおさらです。部下の作業内容の一字一句を全て共有してもらい、その内容を再確認して、問題がないかを検証することなど事実上不可能でしょう。

論文では、この構造がもたらす問題を以下の4つに整理しています。

1. 対話のはしごがないという事実

従来のツールでは、習熟度に応じてできることが増えていく明確なステップがありました。しかし、対話型AIにはそのような習熟の階段が存在しません。そのため、以下の格差が顕在化します。

• 格差の顕在化
  AIが提示した最初の回答を「そういうものか」と受動的に受け入れてしまう人は、自覚がないまま、静かに主体性を失っていきます。

• 交渉する者だけが主人となる
  一方で、AIの回答を疑い、粘り強く修正を求め（プロンプトを工夫し）、納得がいくまで交渉できる人だけが、この新しい環境で主体性を維持し、高めることができます。

つまり、部下（AI）が有能であればあるほど、「指示を出して、出てきたものに満足するだけの人」は、実質的な決定権を部下に譲り渡している状態に陥るのです。

AIが便利だと感じるのはなぜでしょう？それは、AIが面倒な作業を肩代わりしてくれるからです。例えば、情報の調査をAIに依頼するケースを考えましょう。自分でWeb検索を行うよりも速くAIは情報を検索して要約してくれるでしょう。つまり、人はAIを自分が楽をするために利用しているわけです。そのような状況下で楽ではない交渉を自発的に行うのはエネルギーが要ります。AIの出した調査結果を、そういうものかと受け取る方がよっぽど楽なのです。一見、AIは楽をする道具に見えますが、実際は高度な交渉という楽ではない要素を人間自身が自発的に行わないといけないという楽のまやかしが、対話のはしごを下ろしてしまう人間を生み出すのです。

2. 検品という重労働からの逃避

AIとの対話において実行の苦労はほぼゼロになりましたが、逆に評価の負担が劇的に増大しました。

• 評価の溝
  AIがどのようにその結論に至ったかが見えないため、その正しさを判断する検品作業には、実はAIが肩代わりしてくれた実行作業以上の知力とエネルギーが必要になります。

• 認知的妥協
  人間は楽をしたい生き物ですので、もっともらしい回答を見せられると、つい検品を簡略化してしまいます。これが主体性を奪われる瞬間の正体です。

3. 責任の罠と言葉と意図のギャップ

論文では、これが単なる心理的な問題ではなく、社会的な責任の再分配の問題であると強調されています。

• 不条理な責任転嫁
  システムが自律的に動き、中身がブラックボックス化して人間が把握できなくなっているにもかかわらず、最終的な結果に対する責任だけは「人間が承認したから」という理由で、ユーザーに重くのしかかります。

• 不可視の失敗
  AIエージェントが良かれと思って行った操作が、実はユーザーの意図に反していた場合、その意図とのズレを検品で見逃した責任は、すべてユーザーが負うことになります。

検品という主体性を放棄するということは、AIが犯した間違いの責任を、自分がすべて引き受けることを意味します。この構造は、まさにブラックボックス化したシステムの出力を、中身を知らずに信じて使い続ける状態です。有能すぎる部下（AI）は、私たちの作業を楽にしてくれますが、同時に「あなたは本当にこの結果に責任を持てるのか？」という、非常に重い問いを突きつけてきているのです。

4. 主体性が「能力のある人」側に偏る不平等

主体性が操作から評価（検品）に移ったことで、主体性は誰にでも平等に与えられるものではなくなってしまいます。

• 評価能力の格差
  AIがもっともらしい嘘をついたとき、それを見抜く「専門知識」や「批判的思考力」を持たない人は、AIに操られていることにすら気づけません。

• 交渉力の格差
  AIに対して粘り強く修正を求め、自分の意図に近づける対話の技術がない人は、AIが提示した枠組みの中でしか動けなくなります。

結果として、高い知見と対話能力を持つ人だけが主体性を謳歌し、そうでない人はAIに従属するという主体性の再分配（不平等）が起きると論文は指摘しています。

「広範囲で万能なAI」と「局所的知識しか持たない人間」

私たちは、特定の分野においてはAIの過ちを見破り、正当な検品が行えるでしょう。しかし、考えてみてください。私たち個人の知識は、あらゆる分野においてAIと対等に語り合うことはできるのでしょうか。
コンピューターに詳しい人間、医療に詳しい人間、自然に詳しい人間、金融に詳しい人間、様々な人がいますが、全部を網羅的に詳しいですと言える人間はほとんどいないでしょう。
詳しくない分野だからこそ、助けを借りるつもりでAIに頼るケースは非常に多いでしょう。
この時発生するのが知的自信の欠如による交渉の断念です。
AIに依頼したタスクが人間自身の専門分野であれば、AIに対して押し返しを行い主体性を持つことは容易です。知的な自信があるからです。
しかし、あまり知らない領域をAIに頼む場合、依頼者の人間にはその領域の自信があるはずがありません。一方で、AIは広範囲で自信満々な回答を行います。この自信に圧倒され、回答をそのまま信じてしまうのです。

部分的な自信しかない人間 VS 常に自信満々なAI

結果として、AIが万能であればあるほど、人間側が自分よりもAIの方が正しいだろうと判断を丸投げしてしまい、主体性が失われる構図が加速するのです。万能ではない本当の意味で人間らしい人間は、中身のわからない万能なブラックボックスの保証人にならざるを得ないでしょう。

では、主体性の喪失は避けられないのでしょうか？

主体性を保つ人間になるために

この静かな喪失を食い止めるために、人間側にはどのような教育や訓練が必要になると思われますか？これはもはや、組織におけるリーダーシップ論に通じるものがあるのではないでしょうか。

1. コミュニケーション能力
   論文において、主体性は「インターフェースの操作」から「対話的なやりとり」へと移動したと強調されています。
   AIが出した最初の回答をそのまま受け入れるのではなく、自分の意図に近づけるために粘り強く修正を求める訓練が必要です。
   プロンプトを工夫するだけでなく、「AIに反論する」「別の視点を要求する」「目的を途中で再定義する」といった、高度な言語的・論理的交渉力が求められます。

2. 知的な自信
   検品作業を遂行するためには、AIが提示した情報が正しいかどうかを判断できる専門知識と、それを疑う勇気が必要です。論文ではこれを「エピステミック・コンフィデンス（知識的・認識的な自信）」と呼んでいます。
   AIがハルシネーションを起こす可能性があることを前提に、出力を批判的に評価する能力です。
   具体的には、自分の専門領域において、AIのミスを指摘できるだけの基礎学力を養うことが重要です。この自信や知識が欠けている人は、AIの最初の回答を受動的に受け入れてしまうことで、主体性を静かに失っていくと警告されています。

3. 不確実性を前提とした評価の姿勢
   AIを計算機のような「決定論的な道具」ではなく、人間のような「不確実な協力者」として捉えるマインドセットの訓練です。
   AIの出力を答えではなく、あくまで交渉の余地がある暫定的な提案として認識する訓練を行うのです。
   AIとの関係を「機械的な検証」から「信頼に基づいた継続的な対話」へと切り替え、不確実な状況下でも最終的には判断を下す決断力を養う必要があります。

一言で表すと、これからの時代は、コンピュータの操作手順を覚えることよりも、コンピュータから出力された結果の妥当性を評価する能力、これをコミュニケーションを通して読み取り決断できる能力、すなわち組織を率いるリーダーシップの能力が圧倒的に重要になるということです。

まとめ

今回はAI利用は人間の主体性にどのような影響があるのかを論じた『After the Interface: Relocating Human Agency in the Age of Conversational AI』を読みました。

これまでの研究の多くは、「AIが自動化を進めるほど、人間の主体性は減っていく」という二律背反の枠組みで語られてきました。しかし、この論文の最大の新規性は、主体性は減ったのではなく「インターフェースのクリック」から「対話というプロセス」へ移動したのだ、と理論的に定義し直した点にあります。

これにより、「AIが賢くなると人間がダメになる」という悲観的な議論から、「新しい場所にある主体性をどう守るか」という前向きな設計の議論へ駒を進めたのです。

従来のGUIでは、クリックするボタンは誰の前にも平等にありました。しかし、この論文は対話型AIにおける主体性は、ユーザーの『対話能力』や『知識レベル』によって、同じシステムを使っていても差が出るという不平等性を指摘しました。システムのデザインの問題ではなく、人間側の能力によって主体性の大きさが変わってしまうという指摘は、これからのAI教育や格差の問題を考える上で重要な視点となるでしょう。

主体性は能力のある人に偏っていく性質を持っています。AIという強力な部下に主導権を握られないためには、私たち人間が、AI以上に自らの意図と知識を研ぎ澄ませておく必要がある。これが私がこの論文から受け取ったメッセージです。

AI時代のコンピュータは、だれでも簡単に使える便利なツールという印象と共に世に広まっています。しかし、それはまやかしであり、実際は、高度なリーダーシップの能力によって、主体性の格差が生まれる、非常に複雑なツールなのでしょう。

AIに操られるかどうかは、自分次第です。そして、主体性を持つというのはとても高度な評価力と決断力と自信の総合マネジメントなのだと感じます。