AIコラム：AIが「空気を読めない」理由｜フレーム問題をやさしく解説
AIは「考えすぎ」ても「考えなさすぎ」ても失敗する
― フレーム問題という“知能の難問” ―
「AIはもう人間より賢いのでは？」
そんな声をよく聞くようになりました。
文章も書けるし、絵も描けるし、質問にも答えてくれる。
でも実は、AIには人間なら当たり前にできることが、まだとても苦手な分野があります。
その代表例として、以前の記事でとりあげたフレーム問題を、ダニエル・デネットが1987年に発表した“Cognitive Wheels: The Frame Problem of AI”という論文に書かれたロボットと爆弾の寓話を基に掘り下げてみましょう。
ロボットが爆弾と一緒に出てきた話
あるロボットが、「爆発寸前の部屋から貴重なエネルギー源であるバッテリーを救い出す」という任務を与えられました。
部屋の中には、バッテリー、爆弾、そして両方が乗ったワゴンがありました。
ロボットはこう考えます。
「ワゴンを引き出せば、バッテリーは助かる」
そして実行。
――ところが、爆弾も一緒に出てきて爆発。
人間なら「ワゴンを引けば爆弾も一緒に出てくる」と一瞬で気づきます。
でもロボットは、「ワゴンを引くと爆弾も一緒に移動する」という副作用を考慮するようプログラムされていなかったのです。
じゃあ全部考えさせればいい？
次のロボットは、「行動の影響をすべて考える」ように設計されました。
すると今度は、「ワゴンを引き出しても壁の色は変わらない」「天井の高さは変わらない」「車輪の回転数は何回になるか」など、関連性の低い事実まですべて列挙し続けて結局、行動する前に爆発してしまいました。
重要なことだけ考えさせたら？
次のロボットは、さらに改良して、「関係あることだけ考えて、関係ないことは無視」するよう設計されました。
するとこのロボットは、「これは関係があるか？ないか？」と一つ一つ判定する作業に時間を使いすぎてやっぱり間に合いませんでした。
これが「フレーム問題」です
AIは、
考えなさすぎると → 失敗
考えすぎると → 行動できない
このちょうどいい判断が苦手です。
人間は自然に瞬時に、「これは重要」「これは無視していい」という判断をしています。
AIはうまくできません。これをフレーム問題と呼びます。
人間はなぜうまくできるのか？
夜中に冷蔵庫からビールを取るとき、私たちは「冷蔵庫のドアを開けると室温が何度変化するか」「床にかかる重量配分はどう変わるか」「ビールの分子構造がどうなっているか」なんて考えません。
この「必要な情報だけを無意識に選び出す力」こそが、人間の知能のすごさなのです。
AIはルールの世界で生きている
AIは基本的に、ルール、条件、明示された知識、で世界を理解します。
でも現実世界は、例外だらけ、文脈だらけ、曖昧だらけです。
「何を無視していいか」を完璧なルールで書くことは、ほぼ不可能なのです。
フレーム問題は“哲学”の問題でもある
この問題は、
知能とは何か
常識とは何か
人間の思考はどう動いているのか
という、深い問いにつながっています。
AI研究は、「人間はどうやってこんなに賢く振る舞っているのか？」という疑問を、私たちに突きつけたのです。
生成AI時代だからこそ知っておきたい
自動運転、ロボット、AIアシスタント。
これからAIは現実世界で行動する存在になります。
そのとき、
何を考え
何を無視し
どう判断するのか
は、安全性と直結します。
フレーム問題は、未来のAI設計の核心にあるテーマなのです。
フレーム問題を紹介した記事はこちらから
おすすめマガジンです。
ここまでお読み頂きありがとうございます。
AIって何？ AIの歴史から最新情報まで、わかりやすく説明した、
これまでの記事（マガジン）の一覧をプロフィールページにまとめています。
AIの全体像をつかむヒントになると思いますので、ぜひご覧ください。
＜前へ
AIは経営を代替できるのか 検証詳細｜【検証】AIは中小企業診断士2次試験で何点取れるのか？全答案と採点結果を公開
次へ＞
AIコラム｜AIは感情を持つのか？― ELIZA（イライザ）が教えてくれた人間とAIの境界線
免責事項
・本記事は生成AI（ChatGPT等）を活用して執筆しています。内容の正確性・最新性には十分配慮しておりますが、誤りや古い情報が含まれる場合があります。ご利用・ご判断はご自身の責任でお願いいたします。万一、著作権等に問題がある場合はご連絡ください。
