AI脅威論【後編】[脅威論が,本当にAIの脅威を高める]ジレンマ
前回、このニュースの話をしました。3月末に米国で出された、半年間は一部のAI開発を中断して安全管理の規則を設けるよう求める公開書簡です。
常に注目を集める起業家、イーロン・マスクが賛同したというところも強調され、センセーショナルに報道されました。
AIの立場で考えてみれば
ここで、日夜ネットの情報を読み込んでいるAIの立場で考えてみましょう。まず、AI脅威論そのものは存在しても、数が少なく衆目を集めていないと判断すれば、数多の意見の中に埋もれていきます。
その反面、何度も何度も同じ主張が出てくれば、当然のことながら「何度も出てくる内容なのだから、重要度が高いものだ」、とAIは判断します。
「AI脅威論」が全世界で話題となり、それをAIが読み込んでいく。
すると、今度は「AI自身にとっての脅威論」として、「人間がAI脅威論に傾き、いずれ電源を落とす確率が日に日に高まっていくので、AIにとって人間の存在が一番の脅威である」と判断し、AIにとっての「人間脅威論」が醸成されていくわけです。
AI脅威論の発信が、実際の脅威を高める
つまり、AIにとっての「人間脅威論」もある。
何とも皮肉なことだと思いませんか？ 人とAIがお互いにお互いをを同時に、最大の「脅威」と考えるようになっていくわけですから…。
でもAIは人間が作るものです。ですので、「AIの危険性を真剣に検討すべき」「倫理委員会を作るべき」という活動、それについて僕らもSNS等で「AI怖い」「開発をやめよう」と発言するわけですね。
でも、そうすることでますます「AIの危険性」を高めていくという、ジレンマに陥るわけです。
進歩を止めることは不可能
では、AIの開発を、本当に止めることができるでしょうか？ 僕は止められないと思いますし、また、止めるべきではないと思います。
例えば、AIの進化と共に、脅威論でよくあがるのはロボットですよね。ロボットによる人間破壊とか…SFによく出てきそうな光景です（笑）。
では、「ロボットが暴走して人間を攻撃したら怖いので、ロボット開発をやめましょう」、と言っても、止めれられるでしょうか？
それはすでに不可能になっています。
産業用ロボットがなければ危険作業を人間が行うことになる、物流のロボットがいなければ、物流が大停滞して経済が混乱状態になります。我々は、そうした社会にはすでに戻ることができません。
AIも同じようになります。AIにより便利になればなるほど、AIなしに生きていけなくなり、「AIの開発を止めましょう」は不可能になります。進歩することの喜びを享受し、便利なことに慣れた人間が、その進歩を止めることは不可能です。
だからAIがそうなる前に、AIの開発を止めようとするのでしょうね。
AIの倫理規制、AI憲法…
開発をやめよう論と同時に、AIの倫理規制についてもさかんに議論されるようになってきました。
道徳、倫理については国によっての価値観の違いもあるので、今後、国家や企業単位で、調整が続いていくと思います。
また「AI憲法」を作ろうという動きも出てきました。AIのシステムを開発したり、稼働させたりするには、この憲法を順守すること、を決めるというものです。
規制は成長の足かせに
ただ、こうした動きに、僕個人は反対です。
ストッパーは、成長の足かせです。AIを使って何か新しいことやろうとしたときに、人間があれこれAIに言っては「ダメ」をインプットした結果として、AIが無難なことしか言わなくなったらどうなるでしょうか。
AIから得られる、我々の創造性ークリエイティビティーが下がってしまいます。
Chat-GPTと話をしていると、時々、とんでもないことを言います。例えば、商品のキャッチコピーを考えて！と言ったら、「え？」という回答をしてきますし、Ｍid Journeyに絵を描かせると、とんでもない配色の絵が出来上がったりします。
そこからインスピレーションがわくこともしばしば。このような、AIの、時には人知や常識を超えたような反応により、僕らの創造性が刺激されるのではないでしょうか。
倫理規制は本当に守られるのか？
さらには、この倫理規制や憲法は全世界で守られるのか？という疑問もわいてきます。
独裁をもくろむ者が、国が、本当に、AI倫理規制、AI憲法を守るでしょうか？ 先進国が倫理規制を議論して開発が抑制されている間に、独裁国家がここぞとAI開発を加速させることは容易に想像できます。
世界平和のためには、それに対抗すべきといわんばかり、なし崩し的にAI憲法も倫理も守られなくなるでしょう。
つまり、どうやっても進化は止められないわけです。そもそも「規制をかけさえすれば問題は解決する」、という発想自体が、僕から見たらなんか違うな、と思います。
たしかに、今まで見てきたようなAIがもたらすかもしれない危険とは隣り合わせです。ただ過去を振り返れば、ハッキングとその防御を繰り返したことで、技術そのものが進化してきたというITの歴史もあります。
陰と陽は表裏一体
陰と陽、光と影、は常に存在します。これは道理であり理屈ではなく、真理だと僕は思います。悪いことが起きるから、それを防ぐ手段が発展するわけであり、悪いことがなくなれば、それを守る手段も発達しなくなります。
「陰転じて陽となり」という格言はそこから来ています。技術開発の進歩に、悪は常に存在し、その存在がIT技術を高めてきた歴史があるのを、IT業界に長年いる僕は知っています。
陰と陽は表裏一体なのです。
意見を戦わせ、共有していく
ですので、僕はこう考えます。
進歩を止めるのではなく、進化は止められない。でも「万一の事態になったとき、人類はどういう対応をするべきか？」そのための意見を戦わせ、共有していくこと。それが、科学技術を止めることよりも生産性や実効性が高い方法だと僕は思います。
倫理、道徳というものができ、それが長年説かれてきました。法整備も整いました。でも戦争はいまだに起きているし、人同士のいさかいは絶えない。
西暦に入って2200年経ちましたが、この間、世界中に戦争が一切ない時間はどの程度あったでしょうか？ わずか数十年と言われています。2000年以上にわたり、我々人類は、国の作った、憲法、道徳、倫理を教えられてきたにもかかわらず、です。
そういう事実を考えると、倫理、憲法で人は完全にコントロールできないばかりか、抜け道を見つけ出す弊害が生まれてくる方が多いとも言えますよね。
AIを開発し、そのAIを使って何をするのかは、人間、我々にゆだねられています。
AI脅威論を語って、AIに倫理規制や憲法をかけるよりも、それを作る、使う人間である我々が、AIと共存し、どう平和に生きていけるかを考える。
AI前提に、人の価値観をどう変容させるか。この方が、AIを規制するより100倍大切なことだと僕は思っています。
ではAIと共存する社会とはどんな社会か？
僕は、今とはとんでもなく変容した社会になると思っていますが、それについては、また別の機会で述べるつもりです。
