AIはなぜ自信満々に嘘をつくのか？― AIが苦手なこと、そして、大学ができること

こんにちは、京都大学成長戦略本部です。

生成AIにドヤ顔で嘘を言われて、指摘したら「そうでした」と言いながらさらに間違った答えが返ってきた——そんな経験、ありませんか？

空前のAIブームの中、ビジネスの現場では競争に乗り遅れまいと、凄まじい勢いでAIの導入が進んでいます。
一方で、東京大学FoundXのスタートアップメディア「FoundX Review Startup IdeaCast」では、AIの誤答を外部ツールで検証・補正する「検証インフラ」こそ、AI活用の次なる巨大市場になる可能性が示唆されており、最先端の現場もAIの「弱点」と現実的に向き合い、AI活用の次のフェーズに進み始めています。 
🎥 参考動画：【Axiomatic AI】AIの答えを検証するインフラは次の巨大市場になるのか

AIの弱点とは何か。それを補う技術や思考はどこから来るのか。そしてAI時代に私たちが本当に問うべきことは？

今回は、成長戦略本部で直近携わった講演と発信を題材に、京都大学のAI・アルゴリズムの研究者と産業界のリーダーの視点を交えながら、この問いを深掘りしてみます。

1. 「33匹の猫」が描けないAI ―読み書きの天才が数えられない理由

京都大学情報学研究科の湊真一教授が、2026年2月の京都大学－稲盛財団合同京都賞シンポジウムで行った講演「AIはどんな計算が得意でどんな計算が苦手なのか？」では、AIの弱点をアルゴリズムの専門家の視点で鮮やかに解き明かしています。

🎥 「AIはどんな計算が得意でどんな計算が苦手なのか？」 − 第12回 京都大学ー稲盛財団合同京都賞シンポジウム 湊 真一 2026年2月15日

（AIの仕組みや進化の変遷をわかりやすく説明されており、本当におもしろい講演なのでぜひ見てほしいです！）

生成AIに「3匹の可愛い子猫を描いて」と頼むと完璧に出力してくれますが、「33匹の猫を描いて」と頼むと45匹など適当な数を描いてしまいます。何度「正確に33匹に」と指示しても直りません。
湊先生が試した際も、「白い紙に黒い点を32個並べた画像を作って」と頼んでも全然違う数の点を生成し、「32個あります」と主張し続けたといいます。
画像生成AIは世の中の好みに合う出力は得意でも、個数の厳密な制御が根本的に苦手なのです。
ちなみに本記事のヘッダ画像は「京都大学と33匹の猫」を生成AIに依頼したもの。数えると41匹います。

ChatGPTのような文章生成AI（LLM）にも、別の弱点がありました。
2023年時点のChatGPT（GPT-3.5）では4桁の掛け算がほぼ不正解。0が29個並んだ文字列に「0は何個あるか？」と聞くと、「27個」「30個」と間違い続け、一度正解しても「本当か？」と念押しすると再び間違えました。「なぜ小学生でもできることが難しいのか？」と、湊先生自身が興味をもって調べたほどです。
LLMは、言葉をトークンと呼ばれるユニットに分け、「次に来る言葉として何が自然か」を確率的に予測する仕組みで動いています。一文字ずつ数えたり、筆算のように計算したりする処理は、構造上持ち合わせていないのです。

2. 「お姉さんが25万年かけた計算」を、数秒で解くアルゴリズム

では、AIの弱点を補うカギはどこにあるのか。その一つとして登場するのが「アルゴリズム技術」の力です。

湊先生が例として挙げるのが、格子のマス目でスタートからゴールまでの全経路を数え上げる問題。単純そうに見えて、格子の数が少し増えるだけでパターンが爆発的に増える「組み合わせ爆発」が起きます。

2012年公開の動画「フカシギの数え方」では、「おねえさん」が1×1のマス（2通り）、2×2のマス（12通り）…と計算を続け、8×8ではスーパーコンピューターで4時間（約3,266兆通り）、9×9では6年半（約4,104京通り）、10×10のマスでは25万年（！）もかけて計算し続けるユーモラスな演出でこれを表現しています。
🎥 参考動画：『フカシギの数え方』おねえさんといっしょ！みんなで数えてみよう！ 
（累計300万回超再生、日本科学未来館公式チャンネルの不動のトップ！シュールな演出が絶妙で、子どもと一緒に見ても楽しめる一本です）

ところが、湊先生が1993年に考案し命名した「ZDD」というデータ構造を使うと、同じ計算がたったの数秒で完了します。26×26（n=26）の計算も完了しており、湊先生の研究グループが世界記録を保持しています。
この技術は、電力網の制御・解析や疫学のホットスポット解析、化学反応の経路解析などの複雑な問題にも応用されています。

ここでおもしろいのが、最新のAIとの関係です。
湊先生がこの問題をChatGPTに解かせてみると、「Graphillion（湊先生らが開発したオープンソースツール）でZDDを使って解ける」と提案し、さらに、同等レベルのプログラムのコードまで生成してきました。
つまり、お手本があればという条件付きですが、既存のアルゴリズムや外部のツールを応用することで、その構造上「数えること」が苦手だったAIが、瞬時に正確な答えを出せるようになっています。

先ほどの掛け算にしても、状況はこの2～3年で大きく変わりました。今では外部の計算プログラムを自動的に呼び出すことで、掛け算はほぼ正確に。0の個数の問題もGeminiやClaudeは一発で正解します。
「今間違った答えを出していても、2カ月後には正答できる可能性がある」と、湊先生自身、講演資料を直前に大幅に書き直したと語っています。

いまAIができることの背後には、今日のAIの基盤となった深層学習から、ZDDのような個別のアルゴリズム技術まで、大学の研究者が長年積み上げてきた基礎研究があります。
冒頭の事例のAxiomatic AIも、大学の研究者と連携し、AIの出力を数学的に検証する技術を取り入れています。

これらはほんの一例ですが、そうした土台があるからこそ、今度はもう一つの本質的な問いが浮かび上がってきます。
AIが弱点を補ってより高性能に動けるようになったとき、「何をめざして動かすのか？」

3. 「正しい目標」をどう設計するか

ここで、産業界のリーダーによるもう一つの視点を紹介します。

株式会社日立製作所 副会長（寄稿時）／現・株式会社Shinka Tech Partners 代表取締役CEOの小島啓二氏（京都大学理学研究科修了）は、『京大広報』（2026年1月）への寄稿「AI時代の企業と大学」で、企業社会におけるAIの本質的な危うさを次のように指摘しています。
（広報誌の1コーナーに収めておくには惜しすぎる内容なので、ここで改めてご紹介します！）

📄 小島啓二氏「AI時代の企業と大学」全文（京大広報 No.786、PDF20ページ目）

今、多くの企業がAIを利益成長のための競争手段として導入しています。
AIが優秀になればなるほど、その目標に向かって完璧に、合理的に動く。
問題は、目標そのもの（目的関数）です。社会や環境への悪影響を無視した「経済価値の短期最大化」をAIが目的化すると、誰よりも冷徹に、社会に不利益をもたらす最適解を実行する可能性があります。

小島氏が問うのはそこで、「AI時代の最大のリスクは、企業が賢くなりすぎることではない。不適切な目標のもとで、あまりにも合理的に行動できるようになること」。
そして求めるのは、不正や逸脱を監視・抑止するこれまでのガバナンスの延長ではなく、「何を最適化させるか自体を事前に設計する」ガバナンスへの転換です。

4. 「知的インフラ」としての大学

では、その設計を誰が担えるのか。小島氏も文中で指摘するのが、大学の役割です。

大学は一つには、例えば湊先生のアルゴリズムのように、技術的土台そのものを支える基礎研究の場です。
AIは過去の膨大なデータのまとめ役としては卓越していますが、自ら問いを立て、未知の原理を独力で発見・体系化することは、現時点では難しいとされています。
こうした発見にしても、AIのさらなるブレイクスルーを支えるイノベーションの源泉にしても、その一端は、研究者の純粋な探求にあるのかもしれません。
（📄関連記事：AIがある時代に大学で何を学ぶ？ 京大で語られた、正解なき時代の「知性」と「衝動」）

もう一つは、大学には「AIに何をめざさせるか」といった問い自体を、市場の論理から独立した立場で考え続けられる固有の役割があります。
加速する競争の渦中にいる企業には、そのスピードを落とすことや、経済的価値の最大化という目標自体を問い直すことは難しい。
だからこそ、長期的・多角的な視点と知見から「何を目標にすべきか」を問い直し、検証するインフラとなることは、大学だからこそ担える役割の一つではないでしょうか。
技術だけでなく、人文学の知が活きる領域でもあります。

知と技術を生み出すエンジンであると同時に、その技術と社会の調和を問い続けるハンドルでもあること。AIという新たな装置を前に、大学にそんな役割が期待されているのではないでしょうか。

5. おわりに：AIと哲学と人間が交わる対話を、京都から

AIが急速に進化を遂げ、予測不能な未来が訪れようとしている今、私たちは一体何をめざし、どうあればいいのか？
こうした問いを、技術・哲学・ビジネスという三つの視点から語り合う場が、この秋に京都大学で開催されます。

2026年11月7日（土）第21回「京都大学ホームカミングデイ」のメイン企画として、NTT株式会社の澤田純取締役会長（京都大学工学部卒）、人と社会の未来研究院で哲学の立場から人間のあり方を問い続ける出口康夫教授（元・文学研究科長）、そして本記事でもご紹介した情報学研究科の湊真一教授の３名による鼎談が行われます。

テーマは、「AI時代における哲学」。AIに何を任せ、人間に何を残すのか。

詳細は、以下のホームカミングデイ特設サイトでご案内します。
同窓生の皆様はもちろん、広く一般の方々のご参加もお待ちしています！