【推論（Inference）】知識があっても、使うのは別の話
137【推論（Inference）】知識があっても、使うのは別の話
推論とは、学習済みのAIが入力を受け取り、その場で答えを計算して出力する処理のこと。
「企画書のたたき台、すぐ出てきたのに……」——正直、ちょっと驚いた。でもその直後、条件を追加して頼んだら、今度はなかなか返ってこない。同じAIなのに、なんでこんなに差があるんだろう。
今日はそんな、誰もが一度は感じたことのある「あの違和感」を、ほんの少しだけ掘ってみましょう。
大丈夫。一緒に、ほんの少しだけその言葉の雰囲気をつかみましょう。
なるほどわかる！【超要約】
AIが学習済みの知識を使って、質問に対する答えをその場で計算して出す処理のことを「推論」と呼びます。推論は「学習」と違い、AIが何かを学んだ知識を一度きり積み上げる段階ではなく、使われるたびに毎回その場で走る処理という点が特徴です。完全に理解する必要なんてありません。なんとなく「答えを出す瞬間の作業」というイメージだけつかめたら、それで十分です。
今日から使える！【たとえ話】
消防士さんは、普段は厳しい訓練を重ねています。走り込み、ホースの扱い、レスキューの手順……何ヶ月も、何年もかけて、あらゆる状況に対応できるよう体に叩き込みます。これがAIでいう「学習」にあたります。
でも、訓練がどれだけ完璧でも、実際に119番が鳴って火災現場に駆けつけたら、そこからが本当の勝負です。風向き、建物の構造、逃げ遅れた人の位置……、現場ごとにすべて違うので、その場で判断するしかありません。この「出動して、その場で判断して対処する」作業こそが、AIの「推論」です。
私たちが生成AIに質問するたび、AIは学習で身につけた知識を引っ張り出して、「この質問にはどう答えるのが最適か」をゼロから計算しています。簡単な質問なら軽い出動で済みますが、複雑な指示を出すと、消防士が小さなたき火ではなく5階建てのビル火災に出動するのと同じで、計算量がぐっと増えます。これが、AIの返事が速い時と遅い時がある理由です。
さらに、消防士の出動には毎回燃料代や人件費がかかるように、AIの推論にも毎回電気代や計算資源がかかります。実は、私たちが払っているAPI利用料やサブスクの月額の大部分は、この推論コストなのです。学習はAIを作る会社が最初に一度だけ投資するものですが、世界中の人が毎日何億回と質問するわけですから、積み重なる推論コストのほうが、実はとんでもなく大きいのです。
高橋部長とミサキの「ながら聞き」会話例
部長：「あいつらもう、世界中の知識を頭に詰め込んでるんだろ？だったら、聞かれた瞬間パッと出せばいいじゃないか」
ミサキ：「実は、知識を持っていることと、それを使って答えを出すことは、まったく別の作業なんですよ」
部長：「……別？同じことじゃないのかい？」
ミサキ：「消防士さんも、マニュアルを暗記してるだけじゃ現場では動けないですよね。それと同じで、AIも毎回その場で考えてるんです」
部長：「いやあ……、今までAIに『早く答えろよ』って思ってたけど、あいつ毎回全力で出動してたんだな」
ミサキ：「今回の推論をたった５分で耳で学べる私ミサキと高橋部長の掛け合いが楽しいポッドキャスト版「こっそりAI教室」は以下のリンクからどうぞ！」
今回のまとめ
「出動」という言葉を覚えておくだけで、次にAIの返事が遅いと感じたときも、「今、大きな現場に出動中なんだな」と少し違った見方ができるはずです。だからこそ大丈夫。僕が、アラフィフ以上のみんなをちゃんと連れて行きます。焦らず、なんとなくの雰囲気だけでもつかんでいきましょう。一緒に、少しずつ、AIの波に乗っていきましょう。
あわせて読みたい
他のキーワードはこちらから
