考察ノート：convivial なAI、生成AI時代の人と機械(AI)の新たな関係性
この考察は、生成AI時代の人とAIとがどのように付き合えばよいかを考察したものである。イヴァン・イリイチの「コンヴィヴィアリティ」や、ハナ・アーレントの「判断のプラクティス」をキーワードとしてひも解く。
はじめに
ボン大学文学部、スタンフォード大学での教務経験もある、Dr. Ana Ilieskaの著作、
Frankenstein is about ChatGPT: Thinking and the Future of Literary Study in the Age of Generative AI (資料1)
や講演を聞いて、生成AI時代の、人間の在り方、AIの在り方について考察する。資料自体は、生成AIがあるなら、何を学生に教えればよいのか？という問いから始まる。
私の、「解像度」のポストでも、あったように、生成AIを使いこなすためには、人も変わらなければならない。どう変わらなければいけないか。
ここで、キーとなるのは、イヴァン・イリイチの「コンヴィヴィアリティのための道具」で提唱された「コンヴィヴィアリティ(自立共生)」、ハナ・アーレントの「判断のプラクティス」、主体性の表現であり、個人が世界を解釈し、新しい意味を付与していくための重要な手段であるとされたもの。そして、「クリティカルシンキング/批判的思考」である。
本文
生成AIとその限界、批判的思考の大切さ
(資料1)では、生成AIが人間の思考に与える影響について、アーレントの視点から以下の考察がなされている。
生成AIは、大量のデータに基づいて文章を生成することで、人間の思考の負担を軽減することを目指しています。
しかし、これは同時に、人間が自分自身と向き合う機会を奪い、アーレントが重視した内省的な思考を阻害する可能性も孕んでいます。
生成AIは、思考のツールとして有用である一方、思考そのものを代替することはできません。
アーレントの視点から考えると、生成AIとの共存においては、人間が自ら思考することの重要性を再認識する必要があります。
生成AIは、大量のデータに基づいてテキストや画像を生成することで、人間の認知的な負荷を軽減することを目指しているが、このことは、人間の思考の自律性と批判的思考能力の低下につながる可能性があるという懸念があるという。
生成AIは、大量のテキストデータを学習し、人間が作成したような文章を生成することができる。一見すると、AIが人間の思考を代替しているように見えるかもしれない。しかし、生成AIは、統計的な確率に基づいて文章を生成しているに過ぎず、真の意味での思考や批判的思考能力を持っているわけではないという。
思考に必要なもの：孤独と対話
(資料1)ではさらに、人間が自ら思考することを可能とするのは以下であるという。
真の思考には、孤独と内省が必要です。
ソクラテスやハンナ・アーレントは、思考とは自分自身との対話であると述べています。
現代社会においては、ソーシャルメディアなどの普及により、常に他者とつながっている状態が常態化しており、孤独な時間を確保することが難しくなっています。
孤独な時間を確保し、自分自身と向き合うことなしに、真の思考は生まれません。
主体性の表現、「判断のプラクティス」
また別の文献、アーレントの未完の著「判断のプラクティス」(practice of judgement)では、判断の核心には、人間の能力である「コペルニクス的革命」が存在すると主張した。それは、判断とは単に事実に基づくものではなく、経験から生まれるものであり、新しい現実の解釈を生み出すものだという考え方であるという。アーレントは、判断は普遍的な法則や原理に基づくものではなく、状況や時代によって変化し、常に新しい解釈を求めるものであると主張する。つまり、判断は主体性の表現であり、個人が世界を解釈し、新しい意味を付与していくための重要な手段というのが「判断のプラクティス」におけるアーレントの主張となる。
何を人文教育で育成すべきか、自己省察、対人交流→判断力
今度は、アメリカの哲学者、芸術家、キュレーターであるデイヴィッド・ノーマン・ロドウィックの、"An Education in Judgement"から、アーレントの思想を継承し、人文教育のなすべきことについて引用する。
An Education in Judgment: Hannah Arendt and the Humanities
ロドウィックは、ハンナ・アーレントの思想を継承し、思考を、自分自身と他者との相互作用を通じて実践される芸術であると捉えています。ロドウィックは、自己省察と対人交流を通じて導かれる人生を育む哲学的な人文教育こそが、倫理的な判断力を育成するための教育だと主張しています。つまり、自分自身で結論を導き出し、他者との交流を通して判断を深め、他者の判断に責任を負うことができるようになることが、人文教育の目的であるということです。
イヴァン イリイチ、「コンヴィヴィアリティのための道具」
いままでは個人の在り方あるいは教育の在り方についてみてきたが、人とAIの間の関係性に視点を動かし、新しい概念「コンヴィヴィアリティ」が登場する。
デザインエンジニアでイリイチ関連の訳書のある緒方さんへのインタビュー記事（「道具としてのテクノロジーから人と共に生きるコンヴィヴィアル・テクノロジーへ」）によると、
思想家イヴァン・イリイチが提唱した概念に「コンヴィヴィアリティ」（＊編注：con-viviality。共にいきいきすること。日本語では「自立共生」とも訳される）があります。
<略>
私はプロジェクトの議論の中で、テクノロジーの存在が可視化され「自律」したものとして捉えられる、つまり、単なる道具ではなく他者のような存在になっていくのではないかと考えるようになりました。そこでイリイチの「コンヴィヴィアリティ」、つまり「ともに生きる」ことがテクノロジーの未来にとって重要なキーワードではないかと考えるようになったわけです。
インタビュー記事より
つまり、生成AIの自律性は、リスクや恐怖と捉えるよりも、他者なような存在として「ともに生きる」すなわち「コンヴィヴィアリティ」を目指すということなのではないか。
コンヴィヴィアルのニュアンスは、対談で、イリイチに直接従事した山本哲士からの伝聞を示す。
ある山村に異質な人（他所からの宣教師など）が訪れて話をしました。その話は、村にはない異質なものでありながら村人の生活の役に立ち、その人たちと村人の時間が楽しくいきいきとしたものであることをイリイチは「コンヴィヴィアルであった」と表現するそうです。つまり、外部という他律的なものと出会い、そこで相反するものが時間を共有する中で、内部のものにとっても自律的に良い作用が働くことを意味し、単に「共に生きる」だけではない複雑なニュアンスを持つものなのです。
インタビュー記事より
そして、「コンヴィヴィアル」においては２つの分水嶺があり、その間にとどまることが重要であるとする。
人間の能力を拡張し生産性を拡大させる道具としての「第１の分水嶺」を超えると、どんどん、人間を操作し依存させ主体性を奪ってしまう道具としての「第２の分水嶺」に近づいていくというもので、ある道具がコンヴィヴィアルなものになるかどうかは、その２つの分水嶺の間に留まれるかにかかっているというものです。
インタビュー記事より
つまり生成AIを使って生産性が拡大し始める第１の分水嶺と、依存しすぎて、主体性が奪われる第２の分水嶺がありこの間にとどまることが、生成AIがコンヴィヴィアルなものになるかを決めるのである。
そして、「コンヴィヴィアルなAI」とはどのようなものか、NECデザインの山崎氏のnoteから、
「AI」を介した関係性を掘り下げていくことで、 人間の可能性を広げていきたい。とお話しましたが、人・物・事との関係性。 それぞれに先ほどのようなConvivialな活き活きする関係があると考えています
まず１つ目は、身の回りのあらゆる物との関係性についてです。 この関係性に「AI」を介すことで、 聞こえなかった声を聴くことによる「新たな知見の獲得」ができるのではないかと考えます。
２つ目は、ライバルなど高めあう人との関係性についてです。 この関係性に「AI」を介すことで「自分の個性を見つけ、伸ばす」ことができると考えます。AIを介してライバルや周りの人との対話を重ね、共に壁を乗り越えていくことで、 自分の個性を見つけて、可能性を広げられると考えます。
３つ目は、自分との関係性についてです。 自分自身に「AI」を介すことで「自分の気持ちに気づき、目指したい方向を見つける」ことができると考えます。自分自身と向き合うことで、自分のことをよく理解し、 自分の意思による行動ができるようになると考えます
まとめ
生成AIは、思考そのものを代替することはできないが、その能力に依存しすぎて内省的な思考を阻害する可能性ある。これに抗い、人間が自ら思考することを可能にするのは、孤独と内省、それと自分自身と向き合うことであるという。
一方、AIと人間の関係性では、生成AIをツールとして、「ともに生きる」すなわち「コンヴィヴィアリティ」の可能性がある、そしてAIを使うことにより、その人と、人・物・事との関係性において、人間の可能性を広げる可能性がある。
そのためには、人間も、アーレントのいうように、人間が自ら思考するように、孤独と内省により自分自身と向き合いつつ、「判断のプラクティス」にあるように、個人が世界を解釈し、新しい意味を付与していくための重要な手段としての「判断」の実践や、批判的思考を継続する必要がある。
一方、AIの側も、人間の能力をいたずらに超え、人間の主体性を奪う超AIを目指すのではなく、「コンヴィヴィアルなAI」、第１分水嶺と第２分水嶺の間にとどまり、人間とAIのやり取りの中で、その時間が楽しくいきいきとしたもので、お互いが、「コンヴィヴィアルであった」と言えるようなそういうAIであるべきなのだ。
「解像度」のポストであったように、「コンヴィヴィアルなAI」とのやり取りを通じて、きっと人間側の解像度も上がってゆき、結果、「コンヴィヴィアルであった」と言えるようになるのではないか？
