【第56回】AIは1本の木より森のほうが強い?ランダムフォレストとは
1つの決定木だけでは、判断が偏ってしまうことがあります。
そこで複数の木を組み合わせて精度を高める方法がランダムフォレストです。
この記事では、決定木をたくさん使う理由をやさしく解説します。
1. 読み方
らんだむふぉれすと (Random Forest)
2. 意味(定義)
「たくさんの決定木を作り、それらの予測結果を多数決(または平均)によって統合する学習手法」のことです。
「ランダム」という名前には、2つの「偶然性(ランダムさ)」が組み込まれています。これが、単なる決定木の集まりではない、この手法の魔法の正体です。
仕組みのポイント:
データのランダム化(ブートストラップ法): 元のデータから、重複を許してランダムに一部のデータを取り出し、それぞれの決定木に「別々の教材」を与えます。
特徴量のランダム化: 枝分かれを作る際、使える「質問項目(特徴量)」もランダムに制限します。これにより、一つ一つの決定木が「似たような意見」にならないように工夫されています。
最終的に、バラバラな視点を持つたくさんの木たちが、それぞれの予測を出し合い、その多数決で最終的な答えを決定します。
3. 歴史・背景
ランダムフォレストは、2001年にレオ・ブライマン(Leo Breiman)という研究者によって提案されました。
それまでの単一の「決定木」は、学習データに非常に敏感で、少しデータが変わるだけで予測が大きく変わってしまう「過学習」という弱点がありました。ブライマンは、「個々の木は多少間違えても、多様な視点を持つ大量の木を集めて多数決をとれば、全体として非常に安定した(頑健な)予測ができるはずだ」というアイデアを形にしました。これが、現代の機械学習における「アンサンブル学習」の代表格として爆発的に普及するきっかけとなりました。
4. 比較・対比(似た用語との違い)
ここが試験で狙われる「整理」ポイントです!
決定木 vs ランダムフォレスト ★超重要
決定木: 「一人の専門家」。鋭い判断ができるが、偏った意見(過学習)になりやすい。
ランダムフォレスト: 「専門家たちの会議」。個々の意見はバラバラでも、集団の結論は安定しており、精度が高い。
ランダムフォレスト vs ブースティング (Boosting) ★重要
ランダムフォレスト(バギングの一種): 木を「並列」に作っていく。各木は独立している。
ブースティング (例: XGBoost, LightGBM): 木を「直列」に作る。前の木の失敗を、次の木がカバーするように順番に学習していく(より強力だが、計算が複雑)。
5. 活用シーン(どんな問題に使うか)
金融・不正検知: クレジットカードの不正利用判定(膨大な特徴量から、安定した予測を行う)。
製造業の故障予測: 機械のセンサーデータ(振動、温度、圧力など)から、故障の兆候を捉える。
医療データの解析: 患者の多くの検査項目に基づき、疾患のリスクを判定する。
6. G検定での出題傾向
G検定では、以下のポイントが狙われます!
「アンサンブル学習」の一種であること: 「複数のモデルを組み合わせる手法」という文脈での理解。
「バギング (Bagging)」の代表例: データのランダムな抽出(ブートストラップ法)を用いる手法の名称として。
「過学習」への強さ: 単一の決定木に比べて、過学習を抑制し、汎化性能(未知のデータへの強さ)が高いという性質。
特徴量のランダム選択: 枝分かれの際に、あえて一部の特徴量しか使わないことが、「多様性」を生むために重要であるという仕組みの理解。
7. G検定の例題
【問題1:手法の分類】
「複数の決定木を並列に学習させ、その予測結果を多数決や平均によって統合することで、単一のモデルよりも高い精度と安定性を実現する手法」として、最も適切なものはどれですか?
A. 決定木 (Decision Tree)
B. ロジスティック回帰 (Logistic Regression)
C. ランダムフォレスト (Random Forest)
D. サポートベクターマシン (Support Vector Machine)
【問題2:仕組みの理解】
ランダムフォレストにおいて、モデルの多様性を高め、過学習を防ぐために行われる「ランダムな操作」として、誤っているものはどれですか?
A. 学習データから重複を許してランダムにデータを抽出する(ブートストラップ法)。
B. 枝分かれの際の分割ルールを決める際、使用できる特徴量の数をランダムに制限する。
C. 各決定木が全く同じデータと全く同じ特徴量のみを使用して学習するように制御する。
D. 個々の決定木の予測を独立させることで、集団としての予測の分散を減少させる。
8. 例題の回答と解説
【問題1 の回答】
正解:C
【解説】 「複数の決定木」「統合」「多数決」というキーワードがあれば、それはランダムフォレスト(またはアンサンブル学習)を指しています。A は単一のモデル、B は分類タスクの手法、D は境界線を引く手法です。
【問題2 の回答】
正解:C
【解説】 ランダムフォレストの肝は「バラバラな視点(多様性)」を作ることです。もし、すべての木が「全く同じデータ」と「全く同じ特徴量」を使って学習してしまったら、それは単なる「同じ決定木のコピー」になってしまい、多数決の意味がなくなってしまいます(過学習も防げません)。したがって、C の「同じものを使うように制御する」という説明は、ランダムフォレストの仕組みとして誤りです。
