【第44回】AIはズレをどう小さくする?最小二乗法とは
予測した値と実際の値には、どうしてもズレが生まれます。
そのズレをできるだけ小さくしようとする方法が「最小二乗法」です。
この記事では、回帰分析の基本となる考え方をやさしく解説します。
1. 読み方
最小二乗法 = さいしょうにじょうほう
2. 意味(定義)
一言で言うと、「バラバラにある点の間を、一番うまく通る『一本の直線』を引く方法」のことです。
🎯 イメージで理解しよう!「勉強時間とテスト点数の関係」 例えば、クラスのみんなに「勉強した時間」と「テストの点数」を聞いて、グラフに点を打ってみたとします。
Aさんは 1時間勉強して 40点
Bさんは 3時間勉強して 60点
Cさんは 5時間勉強して 90点
点をつなげると、だいたい「右肩上がり」の直線になりそうですよね。でも、ぴったり一本の線で結べるほど綺麗に並んでいることはまずありません。少し上下にズレているはずです。
ここで、「このバラバラな点たちの真ん中を、一番いい感じに突き抜ける直線を引きたい!」と思ったとき、どうやってその「一番いい感じ」を決めればいいでしょうか?
そこで登場するのが最小二乗法です。
① まず、適当に直線を一本引いてみます。
② 「実際の点」と「直線の位置」のズレ(差)を測ります。
③ そのズレを2乗して、全部足し合わせます(※2乗するのは、マイナスをなくして正の数にするためです)。
④ この「2乗して足した合計」が、世界で一番小さくなるような直線を探し出します。
これが「最小(一番小さくする)」+「二乗(ズレを2乗する)」+「法(やり方)」= 最小二乗法 というわけです!

3. 歴史・背景
この方法は、数学の天才ガウスさんなどが確立した非常に伝統的な手法です。
なぜこれがAIにとって重要なのかというと、AI(特に機械学習の基本である「回帰」)の目的は、結局のところ「予測のズレを最小限にすること」だからです。
AIに「明日の株価」や「商品の売上」を予測させるとき、AIは内部で「データに最もフィットする線(関数)」を探しています。
「今の予測線だと、実際のデータとここだけ大きくズレているな。じゃあ、線を少し上にずらして、全体のズレを小さくしよう」
このように、「ズレの合計を最小にする」という考え方は、現代の高度なディープラーニングにおける「誤差逆伝播法」などの基礎となっています。最小二乗法は、いわばAIが「学習」するための原点のような手法なのです。
4. 比較・対比(似た用語との違い)
前回の「最尤法(さいゆうほう)」と混同しやすいので、違いを整理しておきましょう。
【最小二乗法】(「距離」で考える!)
視点: 「データと直線の『距離(ズレ)』を最小にしよう」
アプローチ: 幾何学的(図形的)な考え方です。
目的: 最もデータにフィットする「線」を引きたいときに使います。
【最尤法】(「確率」で考える!)
視点: 「このデータが得られる『確率』を最大にしよう」
アプローチ: 統計学的な確率の考え方です。
目的: 最ももっともらしい「設定(パラメータ)」を決めたいときに使います。
どちらも「最適な正解を探す」という点では同じですが、「ズレ(距離)を減らすか」か、「もっともらしさ(確率)を増やすか」というアプローチの違いがあります。
5. 活用シーン(実社会のどこで、どんな問題に使うか)
① 売上予測や需要予測(回帰分析) 「気温が1度上がると、アイスの売上が何個増えるか」という予測モデルを作るときに、過去のデータに最もフィットする直線を最小二乗法で引きます。これにより、「明日は30度だから、だいたい◯個売れるだろう」という予測が可能になります。
② 健康診断の基準値の策定 「身長が高い人は、体重も重くなる傾向がある」という関係性を分析し、標準的な体重のライン(回帰直線)を引くことで、個々の人が標準からどれくらい離れているかを判定する基準として利用されます。
6. G検定での出題傾向
最小二乗法は、数式を計算させる問題よりも、「何のために何を最小にするのか」という概念を問う問題が出ます。
キーワードの結びつけ: 「最小二乗法」=「残差(ズレ)の2乗和を最小にする」というセットで覚えましょう。
目的の理解: 「回帰直線(データを代表する直線)を求めるための手法である」ことを理解しておく必要があります。
2乗する理由: 「ズレを単純に足すとプラスとマイナスで打ち消し合ってしまうため、2乗して正にする」という理屈が問われることがあります。
7. G検定の例題
【問題1:最頻出(基礎的な定義)】
散布図上のデータ点と回帰直線との差(残差)の2乗和を最小にするように直線を決定する手法を何と呼ぶか?
A. 最尤法
B. 最小二乗法
C. 勾配降下法
D. 主成分分析
【問題2:頻出(特徴に関する問題)】
最小二乗法において、データ点と直線の差をそのまま足さず、「2乗」して合計する主な理由として、最も適切なものはどれか?
A. 計算速度を速めるため
B. データの個数を減らすため
C. プラスのズレとマイナスのズレが打ち消し合うのを防ぐため
D. 確率分布を正規分布に変換するため
【問題3:ひっかけ(勘違いしやすいポイント)】
最小二乗法を用いて求められた直線(回帰直線)について、正しい記述はどれか?
A. すべてのデータ点を通る直線である。
B. データ点からの距離の合計を最小にする直線である。
C. データ点と直線の「差の2乗の合計」を最小にする直線である。
D. 常にデータの最小値と最大値を結んだ直線になる。
8. 7の例題の回答と解説
【問題1:回答】 B
【解説】 定義そのものです。「差(残差)の2乗」を「最小」にする方法なので、最小二乗法が正解です。
【問題2:回答】 C
【解説】 例えば、ある点は直線より「+10」ズレていて、別の点は「-10」ズレていたとします。そのまま足すと 10+(−10)=0 となり、まるで「ズレがない」ことになってしまいます。これを防ぐために2乗して 100+100=200 とすることで、正しく「ズレの大きさ」を評価できるのです。
【問題3:回答】 C
【解説】
A:すべての点を通る直線は、データが完全に一直線に並んでいない限り不可能です。
B:「距離の合計」ではなく「距離の2乗の合計」です。ここが試験でよく狙われるひっかけポイントです。
C:正解です。
D:最小値と最大値を結ぶのではなく、全体のズレが最小になる「平均的なライン」を探します。
9. Ankiアプリ用(CSV形式)
最小二乗法を一言で言うと?,データ点と直線の差(残差)の2乗和を最小にするように直線を引く方法。
最小二乗法で「2乗」して足し合わせる理由は?,プラスのズレとマイナスのズレが打ち消し合って合計が0になるのを防ぐため。
最小二乗法で求められる直線のことを何と呼ぶ?,回帰直線。
最小二乗法と最尤法の視点の違いは?,最小二乗法は「ズレ(距離)」を最小にしようとし、最尤法は「確率(尤度)」を最大にしようとする。
AIの学習において最小二乗法的な考え方はどう役立つ?,予測値と正解値の誤差(ズレ)を最小にするようにパラメータを調整するため。
📝 総評・まとめ
お疲れ様でした!今回は、AIが「最もふさわしい線」を見つけるためのルール「最小二乗法」について学びました。
「全部の点を通るのは無理だけど、全体として一番ズレが少ないところを通ろう」という妥協点を探る考え方は、非常に効率的で合理的です。この「誤差を最小にする」というシンプルな思想が、今の複雑なAIを支えていると思うと、面白いですよね。
✅ 絶対に覚えて!
最小二乗法 = 「残差(ズレ)の2乗和」を最小にする方法。
目的は、データを代表する「回帰直線」を引くこと。
2乗する理由は、プラスとマイナスの打ち消し合いを防ぐため。
🚀 次回予告 直線が引けたら、次はその「直線の傾き」に注目してみましょう。その傾きが、AIにとっての「影響力」になります。
【第45回】AIは「どれだけ影響するか」をどう表す?回帰係数とは
✅ この記事が役に立ったら「スキ」で応援してください!
あなたの応援が、次の解説を作るエネルギーになります!🚀
