AIエリートはシリコンバレーの流儀を封印せよ。──バグは直せても人生は直せない。俺たちの人生をお前の実験台にするな。

結論

AIを社会に実装する人たちは、シリコンバレーで成功してきた「まずやってみて、問題が起きたら後で修正すればいい」という発想を、そのまま日本社会に持ち込んではならない。

ソフトウェアのバグは修正できる。

しかし、人間の人生は、アップデートできない。

「Move Fast」の成功体験

シリコンバレーは、挑戦を繰り返しながら世界を変えてきた。

完成を待つよりも、まず世に出す。
ユーザーの反応を見ながら改善する。
失敗したら修正する。

この考え方は、インターネットやスマートフォンの時代には大きな成功を収めた。

確かに、それはソフトウェア開発としては合理的な面もある。

プログラムは書き換えられる。
サーバーは更新できる。
アプリはアップデートできる。

多少の不具合があっても、後から修正できる。

しかしAIはアプリではない

AIは、単なる便利なソフトウェアではない。

人間の仕事そのものを置き換える力を持っている。

営業。
事務。
翻訳。
デザイン。
プログラミング。
ライティング。
コールセンター。
経理。

そして今後は、さらに多くの職種へ広がっていく可能性がある。

ここで起こる「バグ」は、画面にエラーメッセージが表示されることではない。

人間が職を失うことである。

AIを作る側と、AIに人生を壊される側

AI開発者は、新しいモデルを公開する。

投資家は株価が上がる。

企業は人件費を削減できる。

経営者は利益が増える。

しかし、その裏側では何が起きるのか。

ある人は失業する。

ある人は住宅ローンが払えなくなる。

ある人は家族を養えなくなる。

ある人は自分の存在価値を見失う。

何十年も積み重ねた経験が「AIで十分」と言われる。

努力して身につけた技能が、一瞬で価値を失う。

これは「技術革新だから仕方ない」の一言で片付けられる問題ではない。

バグは直せても人生は直せない

ソフトウェアなら、

「申し訳ありません。不具合を修正しました。」

で済む。

しかし人生は違う。

会社を解雇された人は、その数年間を取り戻せない。

失われた信用は戻らない。

壊れた家庭は簡単には元へ戻らない。

心を病んだ人は、「最新版」に更新できない。

失われた時間も、青春も、キャリアも、健康も、元には戻らない。

人間はGitHubのリポジトリではない。

人生に「Undo」ボタンはないのである。

「より創造的な仕事をすればいい」という言葉の残酷さ

AIによって仕事を失った人に向かって、

「もっと創造的な仕事をしてください。」

「AIを使いこなしてください。」

「リスキリングしてください。」

そう語る人は多い。

しかし、その言葉を口にする前に考えてほしい。

生活費は誰が払うのか。

学び直す時間は誰が保証するのか。

地方で仕事がない人はどうするのか。

年齢を重ねた人はどうするのか。

介護や育児を抱えている人はどうするのか。

「努力が足りない」という話ではない。

現実の条件は、人それぞれ異なる。

AIを開発して得をする人と、すべてを失う人

AIによって利益を得る人たちは、

「生産性が向上した。」

「社会全体ではプラスだ。」

「GDPが伸びる。」

と語る。

しかし、その「社会全体」の数字の中に埋もれてしまう人がいる。

一人ひとりには人生がある。

名前がある。

家族がある。

夢がある。

思い出がある。

統計では見えない。

グラフには表れない。

しかし、その一人の人生にとっては、それが世界のすべてなのである。

「俺たちの命をお前の実験台にするな」

AI業界には、「まず社会に投入して、問題があれば改善する」という発想が今なお残っているように見える場面がある。

しかし、その「問題」とは何なのか。

それは、

誰かの失業かもしれない。

誰かの破産かもしれない。

誰かの絶望かもしれない。

誰かの人生そのものかもしれない。

だから私は言いたい。

俺たちの命をお前の実験台にするな。

AIモデルの性能評価のために、

企業の競争のために、

投資家の利益のために、

人間の人生を「社会実験」のコストとして扱ってはならない。

技術には責任が伴う

AIそのものが悪なのではない。

医療を支え、

災害対応を助け、

教育を補い、

行政の負担を減らす。

そうした使い方には大きな可能性がある。

だからこそ必要なのは、「何ができるか」だけではない。

「誰に、どのような影響を与えるのか」を考える姿勢である。

技術力だけでは社会は成り立たない。

倫理、制度、そして人への想像力が欠かせない。

人間は部品ではない

企業から見れば、一人の社員は人件費かもしれない。

AIから見れば、一つのタスクかもしれない。

しかし本人にとっては、

その仕事が人生であり、

誇りであり、

家族を支える手段であり、

社会とのつながりである。

人間は交換可能な部品ではない。

仕事を失うということは、単に収入を失うことではない。

生きる意味や居場所まで揺らぐことがある。

だから雇用を語るときは、数字だけではなく、人間そのものを見なければならない。

日本には日本のやり方がある

日本は、長い歴史の中で「急ぎすぎること」の危うさも学んできた。

橋を架けるにも、安全を確認する。

薬を使うにも、治験を重ねる。

ダムを造るにも、環境影響を調査する。

なぜか。

失敗したときの被害が、人命に及ぶからである。

AIも同じではないだろうか。

社会全体に影響を及ぼす技術である以上、「早さ」だけを競うのではなく、「安全性」や「移行期間」、「影響を受ける人への支援」も含めて設計する必要がある。

おわりに

AIの時代だからこそ、私は開発者にお願いしたい。

コードを書く前に、人間を見てほしい。

性能指標を見る前に、現場を見てほしい。

成功事例を語る前に、失業した人の声を聞いてほしい。

バグは修正できる。

サーバーは再起動できる。

モデルは学習し直せる。

しかし、人間の人生は、一度壊れてしまえば簡単には元へ戻らない。

だからAIエリートには、シリコンバレーの成功体験をそのまま社会へ持ち込むのではなく、その力に見合うだけの責任と想像力を持ってほしい。

技術の進歩は、人間の尊厳を踏み台にして成り立つものであってはならない。

AIは人類の未来を豊かにするための道具であるべきだ。

決して、人間の人生を「後で修正すればいい」と扱う実験装置であってはならない。