自由度とは何か― 幾何学と代数学から紐解く統計学の基礎概念 ―
＜４５年ぶりにすっきりとした気分になりました＞
＜８月１９日改訂版に差し替え＞
要旨（改訂前旧版）
「自由度」は、統計学で最も誤解されやすい概念のひとつである。本資料が一貫して示すのは、自由度とは「n から差し引かれる失われた数」ではなく、「推定や制約のあとに残された空間の次元」である、という一点である。この見方を、二つの柱で統一的に解説する。ひとつは「拘束条件による次元の減少」という代数的な視点、もうひとつは「多次元ベクトル空間における直交射影」という幾何学的な視点である。標本分散を n-1 で割る理由（ベッセルの補正）、回帰分析でパラメータ数だけ自由度が減る理由、そしてカイ二乗分布の自由度が部分空間の次元と一致する理由――これらがすべて、同一の幾何学的原理から導かれることを示す。
目 次
1. はじめに ― なぜ「自由度」は理解しづらいのか................................ 4
2. 直感的な理解 ― 拘束条件と次元の減少......................................... 4
2.1. 実数の決定と拘束条件........................................................... 4
2.2. 寓話による視覚化 ― 次元減算子としての方程式................. 5
3. 幾何学的解釈 ― ベクトル空間における次元.................................. 5
3.1. データのベクトル表現と n 次元空間.................................... 6
3.2. ベクトルの分解 ― 標本平均ベクトルと残差ベクトル............ 6
3.3. 残差ベクトルの「和が0になる」制約と直交空間................... 6
4. 統計学における自由度の具体例...................................................... 7
4.1. 標本分散と不偏分散 ― なぜ n-1 で割るのか(ベッセルの補正)...... 7
4.2. 単回帰分析における自由度................................................... 7
4.3. 重回帰分析における自由度........................................... 8
4.4. カイ二乗分布における自由度と幾何学............................. 8
5. 歴史的背景 ― 力学と統計学における自由度.................................. 9
6. 発展的な話題 ― 幾何学的次元と一致しなくなる「自由度」......... 9
7. まとめ.......................................................................... 10
参考文献................................................................................. 10
1. はじめに ― なぜ「自由度」は理解しづらいのか
統計学を学び始めた多くの人が最初につまずき、最も混乱を覚える概念のひとつが「自由度(Degrees of Freedom)」である。t分布・カイ二乗分布・F分布といった確率分布を扱うとき、あるいは標本分散を「データの個数 n ではなく n-1 で割る」といった場面で頻繁に登場する。しかし初学者にとっては、「なぜここで 1 を引くのか」「なぜ回帰分析では 2 を引くのか」という理由が不透明なまま、公式として暗記を強いられることが少なくない。「自由度とは、自由に変化できる値の数である」という言葉だけの説明では実感が湧きにくく、煙に巻かれたように感じる人も多いだろう。本資料では、この「自由度」の正体を二つの視点から解き明かす。ひとつは連立方程式における「拘束条件」という代数的な視点、もうひとつは多次元ベクトル空間における直交射影と「次元」という幾何学的な視点である。二つの視点は最終的に、「空間の次元の縮小」という一つの原理へと収束する。
先に結論の核心を述べておく。自由度とは「n から差し引かれる謎の数」ではなく、推定や制約のあとに残差がなお動き回れる空間の次元――いわば「残された自由の大きさ」である。したがって自由度は、単なるデータの個数や「情報量」そのものとも異なる。制約や推定を差し引いたうえで、なお独立に変動できる成分の数、と捉えるのが正確である。この一点さえ押さえれば、本資料の残りはすべてその具体化にすぎない。
＜５部に拡張しました＞
