倫理を超えた全体最適？ー落合陽一『デジタルネイチャー』を読んでみた
いま、もっとも影響力のあるアーティストの一人、落合陽一。時代を考えるのに読んどいたほうがいいでしょ、ということで、まず『デジタルネイチャー』（PLANETS 2018年）を読んでみました。
二点違和感がありました。
一点目。落合は自然はデジタルネイチャーに変容し、コンピュータによって全体最適化されるといいます。それは人間の倫理観を超越し、人間の一生（約80年）という時間的制約を超えた全体最適なのだそうです。人間倫理を超えると、人間は消滅した方が良いという結論もありえると思うのですが、仮にそのような最適化をコンピュータが目指したときに、人間はスルーして良いのか。というか落合は人間が判断できるのは時間的制約内の80年スパン内で、これを超えると人間は気づかないといいます。ということは、数百年スパンで全体最適を目指されると人間は気づかないうちに消滅シナリオに突入してしまっているかもしれない。私は人間が消滅するのに反対なので、人間の生存を前提とした全体最適を目指してほしいと考えています。はい、自覚しました。どうも私は人間中心主義者のようです。時代に逆行しているかもしれませんが、人間を中心に考えたい…。
二点目。落合はデジタルネイチャーでは人間性が脱構築されるといいます。私もそう思います、というか人間性は脱構築され続けていると思います。問題はこれからの人間の欲望がどうなるのかわからないということです。確かに今後コンピュータに丸投げすることがますます増えるでしょう。しかし人間はコンピュータでできることを、わざわざ時間やコストをかけてやってしまう生き物ではなかったでしょうか。ネット上にはすでに、ある映えた食べ物の画像が何万枚もUPされているのに、それでも自分で撮りたいという欲望が生まれます。すでにコンピュータの方が将棋は強いのに、人間は指し続けます。この欲望も脱構築されてしまうのだとするとヤバイのではないかと思ったのでした。
今回は主にこの二点について考えたいと思います。
デジタルネイチャー
まず本書のテーマ「デジタルネイチャー」とは何か確認します。
デジタルネイチャーは、＜近代以前＞の多様性が、＜近代以降＞の効率性や合理性を保ったまま、コンピューターの支援によって実現される世界だ。
すばらしい環境です。はやくこいこい、デジタルネイチャー。
通信と制御の理論でウィーナーが考えた世界を、波動と物質と知能の三つ巴の関係でEnd to Endに解釈していくのが、僕の考えている「自然」である。ここでいう、波動とはホログラムのことであり、物質はアナログ装置のことで、知能とはデジタル演算のことである。…ここでいう波動・物質・知能、の関係性から捉える世界認識においては、人間と機械が本質的には同一なものとして扱うことができる。そのことによって、近代に象徴される人間と機械の対立構造を更新し、さらには、人間と機械の全てを内包する万物の関係性（縁起）を記述することができる。そのとき記述される世界とは、新たな自然（デジタルネイチャー）である。
ホログラムとはホロ＝全体、グラム＝文字のことでしょうか。アナログ文字とデジタル文字が包括された自然がデジタルネイチャー。アナログ文字もデジタル文字に変換されるのでしょう。ひとことでいうと世界がデジタル文字で記述された世界のことなのでしょう。
全体最適
デジタルネイチャーの世界とは全体最適化および個別最適化が融合するというすばらしい世界のことのようです。そして多数決とは異なるしかたで意思決定されるといいます。
これまでの民主主義による意思決定で焦点となっていたのは人間の数だ。現在の民主主義下では一つのイデオロギーのもと多数決で意思決定が行われるが、そこでは必然的にマジョリティとマイノリティの区分が生まれ、マイノリティは大多数を占めるマジョリティの意見に従わなければならない。しかし全体最適化および個別最適化の融合といった価値観を意思決定の根拠とする場合は、賛同する人間の数は問題にならない。あくまで生態系として捉えた社会全体にとって都合が良い選択肢が、個々の問題や一人一人に対して、別々に選び出されるわけだ。すべての個人は個別の最適解を持ちうる以上、標準化はあまり意味を持たず、最適解は時系列と環境によって異なる。
全体最適化、個別最適化、意思決定を誰がどのように決定するのか、具体的には説明されていません。少数の人間がこれらを判断するのか、AIに任すのか、AIに任すとすればアルゴリズムは誰がどのようにつくるのか。ただしヒントは書かれています。
そう遠くない将来、どの分野においても、トップの研究者たちはコンピュータ・サイエンスやロボティクスの研究者とタッグを組むようになり、…AIと組んだ研究者グループによる高度な成果が基準となることで、それに太刀打ちできない人々は淘汰される。
これを読むと、全体最適化、個別最適化、意思決定は、専門家とAIのチームに任すことになりそうです。仮にそうだとすると、人間のことだから、どのアルゴリズム開発チームに任すのか選挙しはじめるような気がします。その場合、人間の限界を超えられないのではないでしょうか。選挙以外に良い方法があるのであれば教えてほしい。
つづいて最適化の問題についてです。何をもって最適とするのか。
コンピュータが推し進める全体最適化は、「死の概念」や「個人の幸福」といった人間の倫理観を超越している。しかしそれが、人間の尊厳や基本的人権を直接的に脅かす可能性は低いだろう。なぜなら、人間が判断や意思決定しうるスパンは、せいぜい自分の一生、80年程度が関の山で、それ以上の時間的スケールを要する問題はおのずと認識の外に置かれるからである。
コンピュータによって人間の倫理観を超えた判断がなされるらしいのですが、これヤバすぎではないでしょうか。人間の尊厳や基本的人権を間接的に脅かすかもしれないが、人間の認知能力では気づかないだろうと言っているように聞こえます。確かに原発などは子孫のことを考えていないからこそ導入できたのかもしれません。そういえばまもなく戦後80年。落合の説が正しいなら、ちょっとまずいかもしれません。いっぽうで本、墓、建築、子どもなどで80年スパンを越えようとしているのではないかとも思います。たとえば戦争の記憶を引き継ぎ、何とか繰り返さないようにしているともいえます。人間の尊厳や基本的人権を脅かす全体最適とはいったいどのようなものでしょうか。たとえば地球レベルでの全体最適を考える場合、人間の尊厳や基本的人権を無視するのであれば、人間を消去するという結論もありえるのではないでしょうか。地球視点では人間は存在しない方がよいのかもしれません。しかし私は人間の尊厳や基本的人権を優先した上で全体最適を目指してほしいです。
欲望
もうひとつの問題、人間の欲望について考えます。しかしその前にまずは虚構と現実の関係について確認します。
人間がロボットを操作する、あるいは、人間が機械に操作される、さらには、仮想の世界で物事が完結するーこういった世界では、＜物質＞と
＜実質＞はほとんど等価になる。同時に、現実と虚構の区別もつかなくなるだろう。＜現実的な虚構＞と＜虚構的な現実＞の間で、人々は揺れ動くようになる。
そのとおりだと思いますが、「＜現実的な虚構＞と＜虚構的な現実＞の間で、人々は揺れ動く」事態は、数万年前から起こっていたのではないかと思います。理論神経生物学者チャンギージーによると、ふだん私たちが見ているのは0.1秒後の世界です。そうでなければキャッチボールはできないでしょう。もし私たちが予測した0.1秒後の世界がやってこなかったとき、錯視が起こります。つまり人間はふだん人間という計算機がつくり出した虚構の自然を見ています。
つづいて感情についてです。
コミュニケーション様式の変化によって、人間の「感情」が持つ意味も変化している。例えば今、求められているのは、カジュアルな調子の言葉を敬語に自動変換するメールやSNS用のフィルターだろう。メッセージが機械によって自動的に敬語に書き換えられていても、受け手はそれを虚構とは思わない。極端なことを言えば、本人は「ふざけんな」と思っているのに、機械が勝手に「昨日はごめんね」というメッセージを送るかもしれない。そこでは、人と人のコミュニケーションに介在するコンピュータによって人間に感情が存在する意味そのものが揺らいでくる。
機械がいい感じにメッセージするようになるというのは、そのとおりだと思います。しかし感情が存在する意味そのものが揺らぐというのは、違うのではないでしょうか。ここに欲望が関係してくると考えています。あの人に手紙を書きたいという欲望が生じる場合には、自分で手紙を書きますが、その欲望が生じない相手には機械に任せることになるのではないかと思います。たとえば今私が書いている記事は、私の欲望によって書かれています。この記事よりもスキをたくさんもらえる記事を機械が自動投稿したとしても、きっと私は喜ばないでしょう。
映え写真をわざわざ撮りに行くのも欲望の問題だと思います。すでにネットには何万枚というほぼ同じ写真がアップされているので、画像を手に入れるという結果のために撮影しているのではないと思います。画像を生成するまでのプロセスを体験したいという欲望に駆動されているのではないかと思います。
まとめ
ということで、考えるヒントをもらえました。全体最適とは何なのか、どうやって最適化するのか、AIの進化によって欲望はどうなるのか、これから考えていきたいと思います。
