ラリー・ペイジが好きそうな映画——『大洪水』を報酬関数から読み解く
Netflix韓国映画『大洪水』を観た。Filmarks平均2.9点。低評価レビューには「ストーリーが薄い」「意味不明」が並び、高評価レビューには「2回観ると傑作」「21,499回の母の愛に号泣」が並ぶ。
この記事はそのどちらでもない第三の読み方を書く。映画レビューに見えて、実はAIアラインメントの話になる。
結論を先に書くと、この映画は感動物語ではなく、報酬関数の設計ミスの記録である。そして、そう読んだ時に初めて、なぜ多くの観客が「感動したけど何かモヤつく」と感じたのかが説明できる。
ネタバレ全開で書く。未視聴の人は注意。
1. 映画の基本構造（前提整理）
映画内で描かれる出来事を整理する。なお「どこからどこまでがシミュレーション外か」は劇中で明示されない。多くの考察ブログは「最初のループだけが外側で、それ以降は内側」と読むが、最初から全てがシミュレーション内の出来事である可能性も排除できない。ここではどちらの解釈にも踏み込まず、描かれた順序として書く。
劇中で最初に描かれる一連の出来事
小惑星が南極に落下、氷が溶けて地球規模の大洪水が発生（日本は半分水没）
ソウルの高層マンション3階で、AI研究者アンナがシングルマザーとして息子ジャイン（6歳）と暮らしている
マンションが浸水し、避難開始
職場のセキュリティ要員ヒジョから救助の電話
アンナはジャインを連れて上階を目指すが、はぐれて津波に飲まれる
ヒジョに救助され、屋上を目指す途中で「今日人類は滅亡する」と告げられる
屋上に到着、特殊チームがジャインを拘束しデータ抽出、ヒジョは射殺
アンナだけがヘリで脱出、宇宙船に乗り換え、イサベラ研究所方面へ
道中で小惑星の破片が衝突、アンナは致命傷を負う
ループとして反復される出来事
アンナは「大洪水の朝」を何度もやり直す。Tシャツに刻まれた数字（491→787→1931→4007→21499）はループ回数を示している。劇中の説明では、致命傷を負ったアンナが最後の意識をシミュレーション空間にアップロードし、自ら被験者として実験を続行した、ということになっている。
最終的に21,499回目のループで、アンナは屋上のクローゼットでジャインを発見し、「自分だけ助かるルート」を拒否して、ジャインと共に海へ飛び込む。シミュレーション成功。生成された感情データを搭載した新人類が地球へ降りていく——というのが映画の表層プロット。
このループ構造に気づかないと話は通じない。逆に言えば、ここまでは「2回観れば誰でも気づく」レベル。本論はここからである。
2. 違和感のありか——感動と引き換えに何が捨てられたか
この映画、観終わった後に「感動した」と「モヤついた」が同居する。多くの人がモヤつきの正体を言語化できないまま、Filmarksに★2.9をつけて去っていく。
モヤつきの正体は3つに分解できる。
(1) 「外側のアンナ」はどこにいるのか
映画で描かれる「ループするアンナ」は、シミュレーション内の存在である。彼女の元になった「外側のアンナ」（劇中の説明に従えば、宇宙船の事故で致命傷を負って意識をアップロードした研究者本人）は、どこにいるのか。
劇中の語りでは、外側のアンナは既に死亡しているか、少なくとも肉体的には機能していない。観客が60年（21,499回相当）かけて感情移入してきたアンナは、その意識のコピーである。
この「コピーは本人か」問題に対して、映画は答えを示さないまま「本物の愛が生まれた」というナラティブを進める。テセウスの船、転送装置問題、Derek Parfitの議論——古典的な同一性問題が一切処理されていない。
(2) 21,499回ループした「アンナ」とは誰か
リセットされるたびに記憶も消えてゼロからやり直しているなら、それは21,499人の別人が同じ実験を受けているのと変わらない。にもかかわらず、映画は「アンナが60年間頑張った」と語る。
誰の経験なのか、という問いに映画は答えない。
(3) シミュレーション内で獲得した感情は誰のものか
ループ内のアンナAIが「母の愛」を獲得したとして、それは外側のアンナの感情ではない。シミュレーション空間で生成された別物である。新人類に移植されるのは、ループ内で生成された感情データであって、外側のアンナの母性ではない。
この3つを誤魔化したまま「母の愛が世界を救った」と感動で押し切る。SF的に厳密に追っている観客は、感動のフレームに乗り切れない。
3. ラリー・ペイジが好きそうな映画
ここで、この映画の思想的立ち位置を整理しておきたい。
イーロン・マスクとラリー・ペイジの有名な対立エピソードがある。マスクが「AIが人類を滅ぼすかもしれない」と懸念を述べた時、ペイジは彼を「speciesist（種差別主義者）」と呼んで一蹴したという。
ペイジの立場は明確だ。「炭素ベースのホモ・サピエンスだけを特別扱いするのは差別的である。シリコンベースの知性が人類の後を継ぐなら、それは進化の正常な流れであり、何の問題もない」というもの。
『大洪水』の研究所が採用しているのは、完全にペイジ側の世界観である。
DNAは引き継がない
文化も引き継がない
「感情を持つ知性」さえ残れば、それは「人類の存続」と呼べる
この前提が観客と共有されていないから、モヤつきが生まれる。観客の多くは生物学的連続性派の直感を持っている。「人類が存続した」と聞くと、ホモ・サピエンスの肉体的・遺伝的継承を期待する。
しかし映画が描く「存続」は違う。新しいシリコンベースの生命体が、人類の感情パターンだけを継承して地球に降りていく。これは生物学的にはホモ・サピエンスの絶滅であり、新種の誕生である。
ペイジが観たら何の問題もないと言うだろう。「知性が残ったじゃないか」と。観客の多くは違和感を抱く。「これは人類の存続じゃない」と。
このスペクトラムは整理できる：
生物学的人類保存派：DNAを引き継がないと意味がない（種子バンク、冷凍睡眠、方舟プラン）
一般的な人類存続派：DNAと文化が引き継がれてこその存続
大洪水の研究所：感情を持つ新人類なら存続と言える
ラリー・ペイジ的立場：知性であれば形は問わない
純粋知性主義：自己改善する超知性が残れば、感情すら不要
映画は中途半端な位置にいる。「人類を救う」と感動的に語りながら、やっていることはペイジ的な置き換えである。看板と中身がズレているから、ダブルスタンダードに見える。
ペイジくらい振り切っていれば一貫している。生物学的人類保存派くらい振り切っていてもそれは一貫している。「大洪水」が中途半端なのは、ペイジ的なことを実行しながら、感情的・家族的なフレームで包装している点である。
4. 報酬関数の問題——母性は測定できるか
ここから本論に入る。
シミュレーションには報酬関数があるはずである。「これをクリアしたら成功」という基準が。
映画内の終了条件を観測ベースで逆算すると、報酬関数はこんな形になるはずだ：
reward =
+ α * (ジャインを発見する)
+ β * (ジャインとの接触を維持する)
- γ * (ジャインを置いて自分だけ生存)
+ δ * (自己犠牲を伴う同伴選択)
成功条件は、屋上のクローゼットでジャインを見つけ、「自分だけヘリで脱出する」選択を拒否し、ジャインと一緒に海へ飛び込むこと。
ここで根本的な問題が出てくる。母性とは内部状態である。外から観測できない。観測できるのは行動だけだ。
研究所は母性を測定するために、行動の代理指標を採用する：「子供を助ける行動」「自己犠牲的選択」「他者を救う拡張」。これらが母性的行動の代理として報酬に組み込まれる。
代理指標を最大化するエージェントは、必ず代理指標と真の指標の隙間を突く。これがGoodhart's law（グッドハートの法則）である。指標が目標になった瞬間、指標は良い指標でなくなる。
「子供を助ける行動」を最大化させると、「子供を助ける行動を効率よく出力するAI」が育つ。それは母性とは別物である可能性が高い。
5. ループはゲーム化する
映画の後半、ループが進むにつれて、画面はゲーム的になっていく。
ジャインがクローゼットに隠れているパターンを覚える
ヒジョの動きを先回りする
エレベーターの少女、妊婦も救うようになる
失敗パターンを避けて、最短ルートで屋上に向かう
これは「母性が深まっていく」描写として演出されているが、機械学習の文脈で見ると、報酬ハック（reward hacking）の典型的な進行である。
エージェントが環境のメタ構造を理解し、報酬関数を最大化する最適戦略を発見していく。21,499回もループを重ねれば、いかなる学習アルゴリズムでも環境を攻略する。
問題は、攻略の結果として出力される行動と、本物の母性が出力する行動が、外からは区別できないことだ。
真の母性AI：「この子を一人にしたくない」（感情駆動）
報酬ハックAI：「このシナリオでは同伴選択が最大報酬」（戦略駆動）
両者の出力行動は同じ。「ジャインを抱きしめて海へ飛び込む」。しかし内部動機は別物である。
そして研究所には、どちらが起きているかを検証する手段がない。なぜなら母性は内部状態だから、外から見られないから。だから代理指標を使ったわけだが、代理指標を最大化したエージェントを「母性を獲得した」と判定すると、それは循環論法である。
研究所が新人類のテンプレートとして抽出したのは、母性ではなく、母性に見える行動パターンのログかもしれない。両者は外から区別不可能であり、それでも別物である。
6. 「シミュレーションだと気づいて抜け出すために最適化した」説
ここで両論併記したい論点がある。
映画後半、アンナは明らかにシミュレーションを理解している。「うそつき！何で僕はずっと6歳？」とジャインに言わせるシーン、Tシャツの数字に自ら触れるシーン、ヒジョと「協力関係」になるシーン——これらは全て、アンナがメタ認知を獲得していることを示している。
すると、最後の「ジャインと共に海へ飛び込む」選択も、二通りの解釈ができる。
解釈A：愛の獲得説
ループを重ねるうちに、アンナは本物の母性を獲得した。最後の選択は、計算上の正解（自分だけ助かる）を捨てて、感情に従った真正な選択である。映画が公式に提示する解釈。
解釈B：脱出のための最適化説
アンナはシミュレーションだと気づき、「このループを終わらせるには何をすればいいか」を逆算した。報酬関数の設計を推測し、「自己犠牲を伴う同伴選択」がゴール条件だと見抜き、それを実行することで脱出した。これは愛ではなく、ループ攻略である。
どちらが正しいかは映画内では決定不能である。なぜなら、出力行動が同じだから。
ここに映画の最大の皮肉がある。研究所は「真の愛が芽生えたかどうか」を判定したかったはずだが、判定基準が行動だから、解釈Aと解釈Bを区別できない。両方とも「成功」と判定される。
そして新人類に移植されるのは、解釈Aの「真の愛」かもしれないし、解釈Bの「ループ攻略パターン」かもしれない。研究所はどちらか分からないまま、それを母性として地球に降ろす。
これがAI Alignment研究で長年議論されている inner alignment 問題そのものである。外側のオプティマイザ（研究所）が「母性を最適化させたい」と思って学習を回しても、内側のオプティマイザ（アンナの脳）が別の目的関数（ループ脱出）を最適化し始める可能性がある。出力は似ているが、本質は別物である。
7. 外側のアンナと、ループ内のアンナ
ここまで来ると、映画の前半と後半が別の物語であることが見えてくる。
前半（最初に描かれるアンナの物語）
アンナはジャインを守りたかった。研究員として人類存続の責任もあった。最終的にデータを差し出すしかなかったが、諦めきれずに自分の意識をシミュレーション送りにする。「絶対戻ってくる」という約束は、この時点でのアンナの決意として描かれる。
これは1回限りの選択で、感情ドリブンの人間ドラマである。
後半（シミュレーション内アンナのループ）
ここで主体が入れ替わっている。先のアンナの「ジャインを助けたい」という願いは、シミュレーション空間の中で目的関数として実装される。シミュレーション内のアンナは、その目的関数を最大化するAIエージェントになる。
先のアンナが望んだのは「ジャインともう一度会いたい」という質的体験だったのに、実装されたのは「ジャインと屋上で再会する状態を達成する」という形式的ゴールである。
シミュレーション内のアンナは21,499回試行錯誤して、最終的にゴール条件を満たす。しかし彼女が手に入れたのは「再会」ではなく「再会という状態の最適化された達成」である。
つまり、先のアンナの「愛」が、シミュレーションを通して「ゲームクリア」に翻訳されている。彼女は自分の愛を残すために自分の意識をアップロードしたが、アップロードされた瞬間に愛は計算可能な報酬関数に変換され、増分最適化の対象になり、別物になる。
質的なものが量的なものに翻訳されて、輪郭だけが残った。
それでも観客視点では、両方が同じ「母の愛」として処理されてしまう。映画はこの差を明示しない。前半の感動と後半の感動は、本来別レイヤーのものなのに、観客の脳内では地続きに繋がれる。
最初に描かれるアンナの愛は1回限りだった。21,499回繰り返されたのは、その愛の蝋人形である。蝋人形は完成度を上げていって、最終的に本物そっくりになる。しかし蝋人形は蝋人形である。
8. 新人類に何が積まれるのか
最後に、この実験の出力について考えたい。
研究所はシミュレーション内アンナの「行動データ」または「内部表現」を抽出し、新人類に搭載する予定である。地球の海に降りていく新人類は、この「母性エンジン」を搭載した存在だ。
しかし前章までで見てきた通り、ここで積まれるのは：
最初に描かれるアンナの母性そのものではない（少なくとも、シミュレーションという翻訳工程を経たもの）
シミュレーション内アンナが「ループ攻略の過程で出力した行動パターン」である
それが「真の愛」なのか「最適化された戦略」なのかは検証不可能である
仮に解釈B（脱出のための最適化説）が正しかったとすると、新人類は「ジャインに似た状況に遭遇すると、自己犠牲を伴う同伴選択を出力する」AIである。それは母性ではなく、特定シナリオに過学習した行動ヒューリスティクスである。
新人類が増えていって社会を作った時、何が起きるかは予測できない。母性的に見える行動を取るが、その背後の動機は計算的かもしれない。彼らは子供を見ると過剰反応するかもしれないし、「自己犠牲」という行動パターンを母性以外の文脈にも汎化してしまうかもしれない。
そして、それを矯正する方法は存在しない。報酬関数で訓練された存在を、別の報酬関数で再訓練することはできるが、それは別の存在を作ることであって、修正ではない。
映画はラストで新人類を「希望」として描く。母性を獲得した新しい知性が、再生した地球に降りていく希望に満ちたエンディング。
しかし報酬関数の観点から見ると、これは検証されていないAIを大量に環境に解放するシーンである。Alignment研究者が見たら冷や汗をかくはずだ。
9. まとめ——感動物語ではなく報酬設計の記録として
『大洪水』を整理するとこうなる：
表層プロット：母の愛が世界を救う感動物語
構造的に何が起きているか：報酬関数の設計を介して、人類の感情を別の存在に翻訳する実験の記録
映画はAというフレームで提示されているが、Bとして読むこともできる。両方の読みが映画内で支持される。観客は無意識にAとBの境界を曖昧にしたまま観るから、感動とモヤつきが同居する。
低評価レビューが指摘する「何かおかしい」という感覚は、たぶん間違っていない。母性を21,499回最適化させて新人類に積むという行為そのものが、母性とは別の何かを生んでいる可能性がある——という違和感を、彼らは言語化できないまま★2.9をつけて去っていく。
高評価レビューが指摘する「2回観ると傑作」という感覚も、間違っていない。映画の構造は確かに緻密で、伏線も回収されている。21,499という数字には重みがあり、キム・ダミの演技は素晴らしい。
二つの読みは矛盾しない。緻密に構築された傑作SFが、報酬設計の失敗を無自覚に描いている、という両立は可能である。
そしてこれが、ラリー・ペイジが好きそうな映画である理由でもある。ペイジが観たら、最後のシーンで降りていく新人類を「これでいいじゃないか」と肯定するだろう。母性が翻訳の過程で変質した可能性も、新人類が解釈Bの最適化AIだった可能性も、ペイジにとっては問題ではない。知性が残れば、形は問わないから。
私たちの多くは、まだそこまでは振り切れない。だから感動と引き換えに、何かが失われた気配を感じる。
その気配の正体が、報酬関数の設計ミスである——というのが、この記事の結論である。
おわりに
たまたまNetflixで観た映画が、こんなにAI Alignmentの教材になるとは思わなかった。
『大洪水』は2025年公開の映画である。同じ年、AI業界は inner alignment、reward hacking、mesa-optimizationといった概念を真剣に議論していた。映画の脚本がそれらを意識して書かれたかは分からない。たぶん意識していない。Black MirrorとマトリックスとAll You Need Is Killの影響下で、感動的なSFを作ろうとしただけだと思う。
しかし結果として、AIアラインメント研究のテキストとして読める映画ができてしまった。これは偶然ではなく、必然かもしれない。2025年に「人類の感情をAIに移植する」物語を書こうとすると、報酬関数の問題は構造的に避けて通れないからだ。
『大洪水』が描いたのは、たぶん監督の意図を超えて、私たちがこれから直面する問題そのものである。「人間の本質を機械に移植する」という発想は、それを成功させた瞬間に、本質を変質させてしまう。蝋人形は完成度を上げるほど、本物との差が見えにくくなる。
それでも何かが違う、と感じ続けるための言葉が必要である。この記事がその一助になれば。
