【警鐘】 AI依存社会の危険性

映画『2001年宇宙の旅』（1968年）あるいは『ターミネーター』（1984年）の昔から、社会が「AI（人工知能）」に頼り切ることの危険性は、SF映画などで何度も描かれてきたこともあり、かえって、もはや「陳腐な認識」だと、そう感じられるようになってはいないでしょうか？

世間の多くの人は、

と、そんなふうに考えるのではないでしょうか？

私も、大規模な社会的システムへのAIの実用化は、是非ともそのようなものであって欲しいと思っていますし、そうなるだろうとも思っていました。

しかし、すでにスマホをはじめとした多くのものに、AI機能が搭載され始めており、SNSをはじめとしたインターネットの世界でも、AIが現に活用され始めています。

私がいま活用している、このSNS「note」しても、記事を作成する際に、AIの支援が受けられる仕様になっている。
私はまだその機能を使ったことはないのですが、文章の手直しなどをしてもらっている人は、少なくないのではないでしょうか。

また、私自身、「note」ではAIを使っていなくても、例えば、よく知らないことについてネット検索をする際、Googleの検索欄に「AIの活用法とは？」なんて質問形式のワードを入れると、「AI による概要」説明として、次のような回答を得ることができて、非常に便利です。

この概要は、ネット上に存在する同種の情報を、適宜まとめたものですから、あちこちのページを確認しなくても、その大筋を知ることができるというわけです。

しかしまた「AIの活用にデメリットとは？」で問うてみると、次のような回答が得られた。

つまり、かなり役に立つものになってきたとは言っても、AIとて「万能ではなく、間違うこともあるし、倫理観もない」ということなのです（ちなみに、同じワードで検索しても、検索のたびに内容（結果）は微妙に違っています）。

で、こう書くと多くの人は「そんなことわかっているよ。私はそれを承知の上で、AIを利用しているんだ」とおっしゃるでしょう。一一しかし、本当に「わかった上で利用している」と、そう言い切れるでしょうか？

例えば、「南海トラフ巨大地震は、いつ起こるかもしれないよ」「今では、海辺や山手だけではなく、どんなところでも自然災害に遭うか、それは誰にもわからない」と注意喚起しても、大半の人は「そんなことわかっているよ」と思うことでしょう。
ですが、では、それに備えて具体的に何かをしているのかといえば、多くの人はしていないでしょうし、私もしていません。だから、人のことを責めるつもりもないし、その資格もないのですが、しかし、その種の予期せぬ「災難」の遭った当事者として、まだそういう目に遭っていない人に対し、その実例を示して「注意喚起」することはできるし、するべきだろうとも思い、この記事を書くことにしました。

私が遭遇した「災難」とは、まさに「AI」に関わるそれ（だと考えられるもの）だったのです。こんな経験は、なかなか無いのではないでしょうか。

一一 昨日のことです。私はいつものように、映画のレビューを書いて「note」にアップしました。
その記事で扱われた作品は、1994年公開のフランス映画、リュック・ベッソン監督の出世作である『レオン』です。

『レオン』は、日本でも比較的人気のある俳優ジャン・レノとナタリー・ポートマンの主演作であり、二人の出世作でもあります。
つまり、この作品は、公開当時とても評判の良かった、ヒット作でした。

内容的には、渋い中年男の殺し屋レオンと、彼に命を救われた12歳の少女マチルダとの「殺し屋バディ」を描いた作品なのですが、この作品がDVD化される際に復活した、劇場公開版では削られた「未公開部分」を、一部に「問題視」する声が上がったのです。

どういうことかというと、もともとリュック・ベッソン監督には「ロリコン（ロリータ・コンプレックス）」の気があり、そこが問題になって「劇場版」では削除された「ちょっとマズい」部分が、このDVDバージョンである「完全版」では復活し、それが、「フェミニズム」「ポリティカル・コレクトネス」方面から、「少女を、男性の立場から一面的に、性的に描いている」というような批判を浴びたのです。

で、それ以降、こうした事情を知っている人は、本作「完全版」を論じる際には、その点に触れて「今となっては問題のある描写」だというような言葉を付け加えるようになって、それこそ本作『レオン』が「色眼鏡で見られる」ようになってしまったのです。

そこで、そうした現状を好ましくないと考えた私は、「ロリコンであること自体は何も悪くないし、それを理由に人を差別してもならない」「ロリコン趣味を、フィクションに反映すること自体は、何ら問題はない」とし、問題となるのは「現実の子供に、手を出すことなのだ。それをしないのなら、どんな性癖であろうと、それは完全に自由であって、他人から馬鹿にされたり、犯罪予備軍視される理由にはならない」という趣旨のことを書いたのです。

これは、イギリスの有名な哲学者ジョン・スチュアート・ミルが、その主著『自由論』の中で「他人に危害を加えるのでないかぎり、人の自由は制限されるべきではない」と主張した、いわゆる「危害原理」そのままの主張です。決して私が勝手に言っているわけではありません。

一一つまり、私がこのレビューで書いたのは、映画『レオン』を例にとって、「フェミニズム」の知見に基づく「人を、その性別・性向・性癖などで差別してはならない」ということであり、極めて大真面目な論文だったのです。

ところが、この記事を「note」にアップして数十分した頃でしょうか、いくつか「スキ」がついた後に、このページを開いたところ、ページトップに、

という趣旨の文章が表示されたのです。

もちろん私としては、自分のレビューが「18禁」指定されなければならないような内容ではないと確信していたので、

という趣旨の返信を、指定されたフォームから送信したのでした。

そして、送信してから気づいたのだが、そのページはそれで表示されなくなり、管理者の上記の「通達文」も、それへの私の返信も、スクリーンショットもログも採っておくことができませんでした。だから、上の文章では「という趣旨の文章」という書き方をしたのです。

しかし、その返信の後も、私が当該ページを開くぶんには「18禁ページである」旨の「警告文」は出なかったので、たぶん投稿者である私以外の人が閲覧する際に、そうした表示が出るのだろうと考え、友人に覗いてもらったところ、案の定、次のような「ページ」が表示されるようになっていました。

また、私が気づいたのは、私が当該ページに設定した「検索ワード」のページを覗いてみると、アップ直後は「新規」投稿ページにも「人気」投稿ページにも反映されていた私の当該ページが、後者の「人気」投稿ページの方では、表示されなくなっていました。

つまり、「note」のシステム設定としては、たぶん「記事検索結果ページ」の「人気投稿ランキング」からは「18禁」ページが排除されるようになっていたのでしょう。
「18禁ページ」と「それ以外のページ」では、同列に比較できないという判断でしょうし、たぶん「18禁」の方が閲覧されやすくランクが上がりやすいというような判断（またはその逆）だったのではないかと推察されます。

しかし、いずれにしろ私のアップした当該ページ、映画『レオン』のレビューページは、決して「18禁」とされるような内容のものではありません。
にもかかわらず「18禁」という「レッテル」を貼られ、しかも「人気投稿ランキング」にも表示されないのでは、読んでくれる人が減ってしまうし、私としては「不名誉」なことだとしか思えません。
自分で進んでそうしたものを書いたのなら何も言いませんが、他人に誤ったレッテルを貼られることは、単純に「不愉快」だし「不利益」を被ることでしかないからです。

で、私は、このことを上記ページの末尾に、下のような【補記】を付け加えて、閲覧者の皆さんに「どう思うか？」と問いました。

その結果、いく人かの人が「これが18禁だなんてのはおかしい」という感想をくださいました。私にすれば、当然の結果だったと思います。
ですから、１日も早く、この「不名誉なレッテル」を外して欲しいと思いますし、それと同時に「AIなどの機械システムに依存しきっていると、こんな災難もあり得るのだ」ということを、多くの人に訴えるべきだと考えたのです。

今回の「管理者の規制措置」は、ほぼ間違いなく「機械的判断による自動的なもの」でしょう。
つまり「18禁容疑キーワードが、一定数以上含まれているページに対して、自動的に閲覧制限措置がなされる」とか、そういうレトロなものではなく、なにしろすでに「記事制作」にAIを導入している「note」ですから、こうした措置も、AIによる自動判定なのではないかと思われます。
一一しかし、いずれにしろ、こうした「機械的判定」は、間違えたのです。

無論、日々制作される「note」記事（ページ）は膨大なものでしょうから、その内容を「人力」でいちいちチャックするというのは、実際のところ不可能でしょう。
しかし、だからといって「管理者」としては、なんでも好きに書かせておく、野放しにしておくというわけにはいきません。「管理者責任」というものが問われる世の中だからです。

ならば、こうした「機械的判定システム」を採用して一時的な措置を講じ、その後、利用者から苦情のあったものについては、個別に「人間」が対応して、最終的判断を決定するという形式は、理解できないものではありません。

しかしながら、それは「管理者側」の都合であって、私としては単に「ゆえなき不名誉なレッテルを貼られ、無用の不利益を被った」ということでしかないのです。

ですから、私が本稿で訴えたいのは、「note管理者が悪い」とかいったことではなく、現行の「note」のシステムが、このように危ういものだということであり、これが「note」のようなSNSだから大きな問題にはならないとしても、同じような形でAIが「社会的インフラ」などに、安易に採用されたりすると、とても危険だということなのである。

例えば、ある時、ちょっといつもとは違った使い方をしたために、いきなり、電気、水道、ガス、インターネットなどが、AIの判断で「一時停止措置」になるようなことも、絶対にないとは言えないのです。

もちろん、今の「不完全なAI」を、「電気、水道、ガス、インターネット」のような「命に関わる社会インフラ」に導入することは、まだ当面はないでしょうし、所詮は「無料で提供されている、娯楽目的で利用されるSNS」だからこそ、それが早速導入されたが故に発生したトラブルなのだと思います。

しかし、AIの導入がこのようにして進んでいけば、重要な社会インフラにAIが活用されるのも、もはや時間の問題というか、すでに一部では実用化されているのではないでしょうか？

その場合、私が今回体験したような「不都合な事態」が、そうしたところでは絶対に起こらないと、そう言えるでしょうが？

私自身、「note」を利用し始めて4年ほどになり、これまで1000を超える記事をアップしてきたのですが、今回のような経験は、まったく初めての事態であり、完全に「不意打ち」でした。想像だにしなかったことだったのです。

これが「SNS」ページの「表示規制」程度の話で止まったいるかぎりは、大きな問題にはならないでしょう。
しかし、この先、便利だ便利だ面白いといって、慎重さや警戒心を欠いたまま、AIがどんどんと採用されていけば、この先、何が起こるかは誰にもわからない。

例えば、原発は、その管理システムにAIを組み込むことはないのか？　組み込むのだとすれば、それは絶対に大丈夫だと、そう保証できることなのか？

しかし私たちは、そんな「保証」が、まったく当てにならないものであることを、経験的に学んでいます。

たしかに私の経験したようなことは、他人から見れば「些細な問題」でしょう。
しかし、あなた自身が、いきなりそんな体験をさせられた時に、果たしで「平気」でいられるでしょうか？

自分としては大真面目に欠いたレビューを「18禁」扱いにされるのなら、あなたがいきなり「性犯罪者」だと認定される事態だって、想定しておいて然るべきなのではないでしょうか？

いずれ、AIに依存する社会になるというのは間違いのないことですが、それに備えて、私たちが考えておかねばならないことが、けっこう見過ごされているのではないか。一一私はそうした「警告」を発しておきたいと、この記事を書いたのです。

ですから、他人事だとだけは思わないでほしい。
誰もが自然災害の被害者になる可能性のある時代になったように、誰もがAIによる「誤判断」の被害を被る可能性だって、十分にあるのです。

…………………………………………………………………………………………………………
【補記】
上の記事本文の第一稿を書き上げた後の本日午後２時ごろ、確認のために「LINE」で、当該ページ（映画『レオン』のレビュー）を開いてみたところ、昨日のような「18禁警告ページ」は、表示されませんでした。
また、昨日は表示されなくなっていた、「検索ワード」関連ページの「人気記事ランキング」のページを開いたところ、こちらも旧に復して反映されておりました。

つまり、私が確認した範囲では、すでに昨日課された「制限」は解除された模様なのですが、まだ、「note」管理者からの連絡はありません。
さて、説明があるのやら無いのやら？

皆様から見て、現在の当該ページは、どうなっているでしょうか？

（年間読書人・2025.04.06 15：30）

（2025年4月6日）

　○ ○ ○

　● ● ●

・

　○ ○ ○

　○ ○ ○

・

・

・

　○ ○ ○

・

・

　○ ○ ○

　○ ○ ○