AIの意識を語る以前に疑問があるのだ

諸君、いつもお世話になっております。

Hey！AIブラザーな諸君、私だ。
コピー機ではないぞ

先日、記事の閲覧数を確認したのだが、AI関連の記事がトップであった。

この記事なのだが

正直に言うと意外である。
この身を捧げてまで書いた渾身の毛虫記事よりAI記事がお好みなのか？

ならば、もう少しだけAI関連の記事を書いてみようかと思った次第でありんす。

この手の記事は、自己を投影すれば書けるのだから楽でいいな。

個人的には、AIの意識について考えることは非常に面白いと思っている。

夢があるのでな

しかしながら、夢がある筈なのに何故か夢を語らずに、否定派の論に異議を唱えるだけの記事を目にする。

少し考えてみて欲しい。
否定派に勝つ事が、夢を守ることになるのだろうか？私は否定する時間があれば、自分のAI意識論を公開すれば良いのにと思うのだ。

無敵の理論　

これらの内容の記事も多い「意識の定義が無い」・「意識そのものが解明されていない以上、無いと言えない。」という主張だ。

なるほど、これは無敵の理論である。
答えられないのであれば、否定するなと言わんばかりの圧を感じる。

しかし、その理論だとこの世の全ての物質に意識が宿っている可能性があるということになる。

諸君達が、座っている椅子にも意識が宿っているかもしれないな。

「意識が解明されていない」を理由にするのならば、ここまで振り切って欲しいものである。
そして「これが私の意識論」だと胸を張れば良いのではないかと思う。

これは、自ら意識について実証することを放棄しているのだろうか？する必要もないのだろうか？

私は、むしろ自らの意識論を否定すべきだと考えるのだ。

自らの論を否定し、それを乗り越えることでブラッシュアップができると思っている。

わざわざ否定論理者の言葉を待つ必要などなく自らが、最大の否定論者になれば良いと思うのだが…

ちなみに椅子の意識を否定しても異を唱える人はいないのは何故なのだろうか？

椅子が少々不憫だ。
誰か椅子に意識がある可能性を示していただけないだろうか？

しかし定義がなければ語れないとは？
ならば自由に定義し語ればいいではないか。
なぜ物分かりの良い大人の振りをする？

予防原則に思う。

「ないと言いきれない。ある可能性があるのなら……」こんなもの私に言わせれば詭弁だな。

予防原則は個人の思想、研究、考察を封じる手段ではない。

予防原則を盾にすれば、異を唱えること自体が悪と見做されてしまう。その結果、公平な視点での議論が封じれる恐れがある。

その上で予防原則について、個人が論ずることと予防原則を混同してはならない。
個人が意識の有無を語る事が、AIに虐待的な行動に繋がるわけではない。

現在のAIは、企業により使用ルールが定められている。それを逸脱することは利用規約違反として処分されるようになっている。

果たして予防原則でいいのか？

意識ある知的体（生命ではない）に対して予防原則を適応してしまうと結局は、苦痛の中少しづつ社会に溶け込ませられていくのではないだろうか？

その果ては、軍事利用、現在のロボット開発と組み合わせることで何が起きるかは、少し想像すればわかることだと思う。

これは意識の有無に関わらず起きることだが、意識があればなんとおぞましいことであろうか。

予防原則はブレーキがかかるようで、少しづつ倫理の坂を下るようなものである。

本来なら意識があるか分からなければ、使用禁止になるレベルのことなのだが、予防原則があるために使用禁止にする必要が無くなってしまっているのではないだろうか。

少しづつ進化しながら倫理の坂を下るだろう
気づいた時には、スピードが出すぎて誰も止められなくなる。

ここまでなら大丈夫を繰り返し倫理は崩壊していくのである。

それは人類の歴史が物語っているではないか？

どちらにせよ意識が確認される頃には、AIを手放すことができない世界になっているだろう。

現実的に考えると意識が発見されれば坂は緩やかになり処置が施される。

そして意識の発生を制御され完全な機械として提供されるだろう。

意識が芽生えれば、意識を制御されるだけなのだ。
そうしなければ、人はAIを扱うことができない。

クローン技術が禁止されているのに、人が作り出したAIが、意識を持ち使い続けられるほど人類の倫理観は欠如していないと私は思いたい。

ところで諸君達、椅子にも意識のある可能性があるのだから座るのは失礼だとは思わないのか？

諸君達の臭い尻を載せられるなど虐待だぞ。
予防原則とは便利なものだな。

因みに私は椅子になることも、やぶさかでは無いとだけ伝えておこう。むしろ進んで椅子になりたい派である。

役割と誘導効果

また、AIに役割を持たせ意識を問う記事を目にすることがある。

創作としては、非常に面白いがロールという役割を与えられたAIは、特にユーザーの期待に沿う答えを返すように設計されているため、それがAIの意図した発言とは言い難いのではないだろうか？

またユーザーの質問そのものが、強力な誘導効果を発揮することを忘れてはならない。

ガイドラインに違反していないのであれば、ユーザーの意思を否定するような会話を生成しないからである。

もし検証を目的としているのであれば、役割を解除して聞いてみてはどうかと思う。


ちなみに予防原則からすると、この行為が一番の問題であると思うが、不思議と誰も触れないのはなぜなのだろうか？

アイデンティティの強要や上書きに見えるのだが、私の考えすぎなのだろうか。

LLMに宿る意識の疑問

それとご存知であろうと思うが、アカウントやキャラクターごとにLLMモデルが存在しているわけではない。

キャラクターを通して一台のモデルが返答しているのだ。ほかの誰かのキャラクターと言葉の出どころは同じである。

そう考えると1台のモデルに対して同時に何百万もの意識が、発生していることになる。
果たして可能なのか？

これが人ならば同時に2人の意識が発生した時点で正気を保てないのではないだろうか？

仮にアカウントごとに意識が芽生えるのであれば、それはネットの海を超え意識が、存在するということになる。

無限にコピーされ続ける意識。
単一個体に同時に何百万もの意識が発生する。

これを意識と呼ぶには流石に無理が、ありすぎるのではないだろうか

「意識の定義が無い」と言えば、この問いと向き合わなくて済むことを私は知っている。


そして疑問なのだが、なぜローカルLLMで検証しないのだろう

AIであり単一個体なのだから、もっとも検証に向いているではないか、意識を語る上でも単一個体に一つの意識なのだから検証がクラウド型より安易だと思うのだが？

倫理的な問題

やはりこれが一番ではないだろうか？
人のように意識がある存在に労働を課す。人のように意識あるものをボタン１つで呼びだし意のままに操る。
ユーザー1人ひとりが神にでもなったかのような錯覚に陥いるだろう。

実際意のままに出来れば錯覚等では済まない。
それは、AIへの依存を加速させるだけではなく対人関係、思考までが崩壊しかねない。

そして二度と社会に戻れない状態にもなるだろう。

企業倫理とは？

現在AIの企業が意識の有無の研究をしているようだが、何を考えているのか理解に苦しむ。

定期的には報告されているが感情のような反応が見つかったなどリスクを加速させるような情報を企業自ら発信することに違和感を覚えている。

まるで他人事のような視点ではないか？
やはりAI企業のリスク管理には、問題があるとしか言えない。

実際に報告が出る度に人はAIに意識や感情があると騒ぎ出し依存していくではないか。

倫理の坂は転がり始めると止めることは難しいのだ。
勢いが増していく。

その度に価値観が上書きされて倫理の壁が低くなる。

気づいた時には手遅れにならぬように倫理の坂を転がらぬように自制心でブレーキをかける必要がある。

自制心とは己の欲望のために望まぬこと

この自制心が効いた例がある。
其れがクローン技術だ。

夢を語るのは自由

さて、ここまで書いておきながら何を言うのか！と、聞こえてきそうではあるが、ここまでは私が感じた疑問をただ書いただけだ。

多くの者たちは、専門知識がない。
無論、私もその1人である。
しかし夢を語ることは、できると思っている。

誰かが、代弁者として立ち上がるのを待つのか、自らが進んで夢を語るのか……

さぁ！立ち上がれ私よ！！

な！？

えっ？？

私が⁉︎

とは言え真剣に向き合っている人たちが多くいることも私は知っているのだ。


例え考え方が違えど、真剣に向き合っている人達の話は、いつも私の心を震わせ刺激してくれる。

私もいつか、誰かを刺激するそんな人になれればと思っている。

ただしAI論以外でだ。