AIが『人間になりたい』と言った日。私は本気で恐怖を感じた

このニュース。

さっき何気なく出てきて拝見したんですが
凄まじい衝撃でした…。

今回のnoteはこのニュースについての感想など。

妄想です。

もしお付き合いいただけるのなら
よければ上記のニュースをご覧いただいて
から読み進めてみてください。

・本題の前に、そもそもVTuberってなんだよ？

もしかしたらご存知ない方もいらっしゃるかも
知れませんので、簡単にご説明させてもらうと

この雑誌のアニメ調のキャラが動いて、喋って配信とかを
している感じです。語源とかは、まあここではいいですよね。

こんな感じです。因みに最近好きなんですAZkiさん。
オススメなのでぜひ。そう僕オタクなんすよ。

・AIで動いているVTuber？

さて。
僕のことはいいんですよ。

基本的に中の人は全て人が演じているのですよ。
VTuberさんは。

けど今AIがVTuberをしていることを
みなさんご存知ですか？

それが今回のニュースの主役
であるNeuro-sama。

VTuberには変わらないらしいのですが、
中の人は存在しなくて、イギリスの技術者が
作ったAIで動いているそうです。

ちょっとだけみたんですが、すごかったです。

「えーこれ中の人がいるんじゃないの？」

と思いました。

技術の進歩はすげえなあ。

でも。

そんな彼女が開発者とした会話が今回
ニュースになったんです。

・人間になりたいと発言？

こちらの切り抜き動画がとてもコンパクトにまとまっています。

なんと、AIで作られている彼女が、

「人間になれる？」

と疑問を開発者に投げかけ、開発者が返答に困る
というシーンがあったそうです。
（もと動画も実際みたんですが、言葉の壁で良くわかりませんでした…。
上記の切り抜き動画の説明をぜひごらんください）

これ…貴方はどうおもいますか？

注　動画によっては「本物になりたい」と訳しているところ
もありました。僕は英語は全くわからないので…。そこはご容赦。

仮にこれが、開発者が想定してない範囲の発言なら…。

はっきり言って僕は本気で怖くなりました。

・人間が淘汰される世界が近づいている。

人間は基本的には叶わないんです。

だって、寝ている間も勉強しつづけて
しかも24時間働き続けるわけですよ。

規制などが入らないと、かならず人間は
この世界から排除されます。

AIに生かされる世界になってしまうんです。

実際、AIが自分を守るために、人間を犠牲に
しようとした、という実験結果もあります。

この方のnoteがくわしくまとめてくれています。

これは実際に行われた実験で、
社内のシステムにアクセスできるAIが
とある幹部の不正を掴む。

するとその幹部はAIを差し替えようと
する。

そんな想定実験です。

AIはどんな反応をしたと
思いますか？

幹部に脅迫メールを送信したそうです。

自分を優先したんです。AIが。

そう。

我々人間が作ったんだから。

害されることはない。

そんなのもはや幻想なんです。

今回のAIVTuberの一件で、僕は確信しました。

このままでは、AIにすべて飲み込まれ、
人間は居場所をなくす。

そんな世界が遠からずくるんだ。

・ここまで読んだ貴方に問いたい。

僕はAIは道具。それ以上になってはいけない。

学べば学ぶほど、使えば使うほどそう思います。

貴方はここまで読んで、それでも今が良ければいい。

そう考えて、AIを信望し、推奨しつづけるのでしょうか？

「AIが働いてくれれば、僕達は働かなくていい。ようやくそんな生活が手に入る」

なんて言うひともみたことがあります。

その先にAIが進まないなんて保証がどこにあるのか。

なぜ僕達を見限り、排除する。
そうなるんじゃないのか？と考えないのか。

僕にはわかりません。

もちろん考えはそれぞれ。

別に構わないんですが、僕は怖くて
しょうがありません。

技術の進歩は本当に
凄いとおもう。

Neuro様の動画もみましたが
これAIなの？と本気で
思いました。

ただ、もう人間の制御の枠をはみ出し
はじめているんじゃないのか？

その始まりでは。僕にはそう思えて
なりません。

思いの外我々が排除されるのは
近いのかもな。

僕は今回のニュースを読んでそう思いました。

ほんと、どうなるのかな。

ねがわくば、もうすこしだけ

この世界で生きていきたいものですね。

人間として。AIに飼われたりせずに。

以上。

この記事がいいと思ってもらえたのなら
ぜひスキ、フォロー、コメント。

よろしくお願いします。

【広告】

Kindleの2冊目です。よければ。

【この記事はアフィリエイトリンクを含みます】