【第71回】AIは覚えすぎをどう防ぐ？正則化（L1/L2, ドロップアウト等）とは
過学習を防ぐには、モデルが複雑になりすぎない工夫が必要です。
その代表的な考え方が正則化で、L1・L2やドロップアウトなどがあります。
この記事では、正則化の目的と代表的な手法をやさしく解説します。
1. 読み方
せいそくか (Regularization)
2. 意味（定義）
「モデルが学習データに過剰に適合（丸暗記）しないように、あえて『制約』や『邪魔』を加える手法」のことです。
正則化の目的: モデルの複雑さを抑え、「汎化性能（未知のデータへの強さ）」を高めること。
仕組み: 「重みが大きくなりすぎないように罰を与える」あるいは「わざと一部の情報を隠す」といった、モデルにとって少し「不自由」なルールを課します。
【試験勉強における『暗記』と『理解』の戦いの例え】
あなたが数学のテストに向けて勉強しているとします。
過学習（丸暗記）の状態: 「この問題の答えは5、次は12…」と、数字だけを暗記しています。これは非常に「複雑なルール（重みの巨大化）」を持っている状態です。
正則化（理解への強制）: 先生が「単なる数字の暗記は禁止！ 公式を使って解くプロセスに点数を与えるよ！」というルール（制約）を課したとします。
結果: あなたは、数字を覚えることよりも、「公式の使い方（本質的な特徴）」を学ぶことに集中せざるを得なくなります。これにより、問題の数字が変わっても対応できる「理解力（汎化性能）」が身につきます。
この「あえて不自由なルールを課して、本質を学ばせる」プロセスこそが正則化です。
3. 歴史・背景
統計学の分野では、古くから「モデルが複雑になりすぎて、ノイズに反応してしまう問題（過適合）」を解決するために研究されてきました。ディープラーニングが登場し、モデルのパラメータ数が数億個という「超巨大で複雑なモデル」が一般化したことで、この正則化技術（L1, L2, ドロップアウトなど）は、AIを実用的なレベルに引き上げるための不可欠な技術として、現代のディープラーニングの基礎となりました。
辿り着いた「武器」たちの内訳
正則化には、いくつかの代表的な手法があります。
L1正則化 (L1 Regularization / Lasso) ★重要
仕組み: 重みの「絶対値」の合計を損失関数に加える。
効果: 不要な重みを「完全にゼロ」にする性質がある。これにより、重要な特徴量だけが残る（特徴量選択の効果）。
L2正則化 (L2 Regularization / Ridge) ★重要
仕組み: 重みの「2乗」の合計を損失関数に加える。
効果: 重みが極端に大きくなるのを防ぎ、全体的に「滑らかな（控えめな）」モデルにする。
ドロップアウト (Dropout) ★超重要
仕組み: 学習のたびに、ランダムにいくつかのニューロンを「お休み」させる。
効果: 特定のニューロン（特定のパターン）への依存を防ぎ、ネットワーク全体で協力して学習するように促す。
4. 比較・対比（似た用語との違い）
ここが試験で狙われる「整理」ポイントです！
L1正則化 vs L2正則化
L1: 「スパース（スカスカ）」にする。不要なものをバッサリ切り捨てる、ストイックな手法。
L2: 「滑らか」にする。全体的に重みを小さく抑え、極端な値を防ぐ、マイルドな手法。
正則化 vs データ拡張 (Data Augmentation)
正則化: モデルの「仕組み（数式）」に制約をかける。
データ拡張: 入力される「データそのもの」を加工してバリエーションを増やす。
共通点: どちらも「過学習を防ぎ、汎化性能を高める」という目的は同じです。
5. 活用シーン（どんな問題に使うか）
画像認識・自然言語処理などのディープラーニング全般: モデルが巨大すぎて、訓練データに対してだけ完璧になってしまうのを防ぐために、ほぼ必ずと言っていいほど組み込まれています。
特徴量選択が必要な場面: 膨大な変数の中から、どれが重要かを見極めたいときは L1正則化が使われます。
6. G検定での出題傾向
G検定では、以下のポイントが狙われます！
「過学習の対策」としての位置づけ: 「過学習を防ぐための手法はどれか？」という問いに対する正解として。
L1正則化の「スパース性（Sparsity）」: 「重みをゼロにする」「特徴量選択ができる」というキーワード。
L2正則化の性質: 「重みの肥大化を防ぐ」「滑らかなモデルを作る」という点。
ドロップアウトの仕組みと効果: 「ニューロンをランダムに無効化する」「特定のパターンへの依存（過学習）を防ぐ」という文脈。
7. G検定の例題
【問題1：L1正則化の特徴】
L1正則化（Lasso回帰など）を用いた学習において、モデルに与える影響として最も適切なものはどれですか？
A. 重みの値を一様に小さくし、モデルを滑らかにする。
B. 不要な特徴量の重みをゼロにし、モデルをスパース（疎）な状態にする。
C. 学習データをランダムに削除することで、計算速度を向上させる。
D. ニューロンをランダムに無効化し、ネットワークの依存関係を断ち切る。
【問題2：ドロップアウトの仕組み】
ディープラーニングにおける「ドロップアウト（Dropout）」に関する記述として、正しいものはどれですか？
A. 学習時に、入力データに対して回転や反転などの加工を加える手法である。
B. 損失関数に重みの2乗の和を加えることで、過学習を抑制する手法である。
C. 学習の各ステップにおいて、ランダムに選んだ一部のニューロンを無視することで、特定のパターンへの過度な依存を防ぐ手法である。
D. モデルのパラメータ数を減らすことで、計算コストを削減し、学習速度を向上させる手法である。
8. 例題の回答と解説
【問題1 の回答】
正解：B
【解説】 L1正則化の最大の特徴は「重みをゼロにする」ことです。これにより、重要でない変数が無視され、モデルがスカスカ（スパース）な状態になります。A は L2正則化の説明、C はデータサンプリング、D はドロップアウトの説明です。
【問題2 の回答】
正解：C
【解説】 ドロップアウトは、学習中にニューロンを「お休み」させることで、特定のニューロンに頼り切った学習（過学習）を防ぐ手法です。A はデータ拡張、B は L2正則化、D はモデル圧縮（Pruningなど）の説明に近い内容です。
