📝 相関係数と回帰係数がつながる！

日常に統計・データ分析を取り入れてみませんか？

イントロ

統計検定２級と統計モデルを結ぶ 完全一致シリーズ の第３話は 相関係数と単回帰分析 です。
テスト勉強の思い出を振り返りながら、相関係数と単回帰分析がつながる様子をご堪能ください！

トピック

1. 今日の一言

相関係数 $${r}$$ は、単回帰の 標準化回帰係数 $${\beta}$$ と完全に一致する！

👉 検定統計量（t値・p値）も同じ、さらに $${R^2 = r^2}$$ も一致します。

📝📝📝

2. 導入ストーリー

テスト勉強のとき、友だちが言いました。

• A君：たくさん勉強すれば点数が上がるはず！

• B君：いや、そんなに関係ある？

「勉強時間とテスト得点の関係」を調べるにはどうしたらよいでしょう？

そこで登場するのが 相関係数。
でも実は同じことを 回帰分析 でも確認できるのです。

3. データ例

30人の生徒から、勉強時間とテストの得点を聞き取りしました。
※データはフィクションです。

👉 実装では乱数で30人分のデータを生成します。

# インポート
import numpy as np

# データの作成
n = 30
rng = np.random.default_rng(seed=0)
study_time = rng.normal(5, 2, n).round(1)  # 勉強時間（平均5, 分散2）
score = (50 + 5*study_time + rng.normal(0, 5, n)).round(0)  # テスト得点

# データの表示
print('【勉強時間】')
print(study_time)
print('【得点】')
print(score)

【作成した仮想データの内容】

勉強時間と得点のデータをデータフレームにまとめます。

# インポート
import pandas as pd

# データフレーム化
df = pd.DataFrame({'勉強時間': study_time, '得点': score})

# 結果の表示
print('df.shape:', df.shape)
df.head()

【実行結果】

勉強時間と得点を散布図で可視化します。

# インポート
import matplotlib.pyplot as plt
import japanize_matplotlib

# 可視化（散布図）
df.plot.scatter(x='勉強時間', y='得点')
plt.title('勉強時間と得点の関係')
plt.ylabel('得点')
plt.show()

【実行結果】

「勉強時間が長いほど点数が高い」という正の相関が見られます。

📝📝📝

4. 確かめる

4.1 相関係数で関係を調べる
勉強時間と得点の相関係数を計算しましょう。
scipy ライブラリの pearsonr（ピアソンの積率相関係数）を利用して、相関係数の計算と「無相関の検定」を同時に行います。

# インポート
from scipy.stats import pearsonr

# 相関係数の計算
r, pval = pearsonr(df['勉強時間'], df['得点'])

# 結果の表示
print(f"相関係数 r={r:.5f}, p値={pval:.5f}")

【実行結果】

相関係数は 0.83。
勉強時間と得点には 強い正の相関 が見られます。
無相関の検定の p 値は 0.00。
有意水準 5% で 勉強時間と得点の間の相関は有意 と言えます。

📝

4.2 単回帰分析で同じ問いを表す
単回帰モデルを立てます。

• $${Y_i}$$：得点

• $${X_i}$$：勉強時間

👉 出力に 勉強時間の係数 と、その t値・p値 が表示されます。

# インポート
import statsmodels.formula.api as smf

# 回帰分析の実行
model = smf.ols('得点 ~ 勉強時間', data=df).fit()
model.summary().tables[1]  # 係数の表だけ表示

【実行結果】
勉強時間の回帰係数（coef）は 4.05。
p 値 < 0.05 ですので、有意水準 5% で勉強時間の回帰係数は統計的に有意と考えられます。

📝

4.3 結果の読み取り
🔢ポイント1：標準化回帰係数 = 相関係数
標準化したデータで単回帰分析を行います。

# 標準化データを作成
df_std = (df - df.mean()) / df.std(ddof=1)

# 標準化データで回帰分析 ※切片を含めない
model_std = smf.ols('得点 ~ 0 + 勉強時間', data=df_std).fit()
display(model_std.summary2().tables[1].round(5))
beta = model_std.params.勉強時間

# 結果の表示
print(f"相関係数 r　　　={r:.5f}")
print(f"標準化回帰係数 β={beta:.5f}")

【実行結果】

👉 相関係数 r と 標準化回帰係数 β が完全に一致！

🔢ポイント2：t 値・p 値も一致

# 相関係数の検定のt値の算出
r_tval = (r*np.sqrt(n - 2)) / np.sqrt(1 - r**2)

# 無相関の検定と回帰のt値・p値の比較
print(f"無相関の検定 t値={r_tval:.5f}, p値={pval:.5f}")
print(f"回帰　　　　 t値={model.tvalues.勉強時間:.5f}, "
      f"p値={model.pvalues.勉強時間:.5f}")

【実行結果】

👉 無相関の検定の t 値と、回帰係数の t 値が同じ。p 値も一致。

🔢ポイント3：決定係数 R² = r²

# 決定係数 R² と r² の比較
print(f"決定係数　　　 R²={model.rsquared:.5f}")
print(f"相関係数の二乗 r²={r**2:.5f}")

【実行結果】

👉 単回帰の場合、決定係数 R² と 相関係数の二乗 r² が完全一致。

📝

4.4 相関と回帰のつながり
単回帰分析の場合：

• 相関係数 $${r}$$ = 標準化回帰係数 $${\beta}$$

• 無相関検定の t 検定統計量 = 回帰の係数の t 検定統計量

• 回帰の決定係数 R² = 相関係数の二乗 r²

👉 相関と単回帰は“同じ式を別の顔で見ている”だけ！

📝📝📝

5. MLブリッジ

ML は機械学習の略称です。
scikit-learn の線形回帰で切片、傾きを算出できます。

# インポート
from sklearn.linear_model import LinearRegression

# 説明変数と目的変数の準備
X = df[['勉強時間']]
y = df['得点']

# モデルの学習
reg = LinearRegression().fit(X,y)
print(f'切片:{reg.intercept_:.4f}, 傾き:{reg.coef_[0]:.4f}')

【実行結果】

👉 傾きは 勉強時間が1時間増えると点数がどれだけ増えるか を表す。
👉 統計的検定は出ないが、「学習の流れ」は同じ。

📝📝📝

6. ⚠️誤解注意

• 今回の一致は「単回帰に限って成り立つ」。
  説明変数が複数ある場合は通常、一致しない。

• 非標準化回帰係数は 相関係数と一致しない（単位依存だから）。

• 外れ値に弱い。
  1人の極端な点数が相関を大きく動かすことがある。

• 相関は因果を意味しない。
  勉強時間と点数に相関があっても、必ずしも勉強時間が原因とは限らない。

📝📝📝

7. 架け橋のまとめ

• 相関係数 r = 単回帰の標準化回帰係数 β

• 無相関の t 検定と単回帰の回帰係数の t 検定は同じ

• 単回帰の決定係数 R² = r²

👉 相関と回帰は別世界の話ではなく、同じ式を違う角度から見ただけ。

📝📝📝

8. 今日の小テスト

Q1. 相関係数と回帰係数が完全に一致するのはどんな場合？
→ 答え： 単回帰で標準化した場合（β = r）。

Q2. 無相関の検定統計量と単回帰の検定統計量はどう関係する？
→ 答え： t 値・p 値が一致する。

Q3. 単回帰における R² は相関係数 r とどう関係する？
→ 答え： R² = r² で完全一致。

📝📝📝

9. 次回へつなぐ

今回の記事では、相関係数と単回帰の標準化回帰係数が同じことをしていると確認しました。
さらに、単回帰の決定係数 R² と r² が完全に一致することも分かりました。

では、説明変数が2つ以上ある場合はどうでしょうか？
「勉強時間」と「睡眠時間」の両方でテスト得点を説明するといった状況です。

このときでも 決定係数 R² がモデル全体の説明力を表します。
そして、各説明変数の寄与を分解して考えると、そこにも「完全一致」が見えてきます。

👉 次回は「決定係数 R² と寄与率の完全一致」を見ていきましょう！

📝📝📝

おまけ１：標準化回帰係数と相関係数の一致を数式で整理

1️⃣ ステップ 1. 非標準化の回帰係数
単回帰の回帰係数は次式で定義されます。

2️⃣ ステップ 2. 標準化変数の定義
標準化した変数を次のように置きます。

ここで $${s_X, s_Y}$$ はそれぞれ $${X, Y}$$ の標準偏差です。

3️⃣ ステップ 3. 標準化後の分散

分散の性質（定数倍は二乗で外れる）から、

さらに $${\text{Var}(X-\bar{X}) = \text{Var}(X)}$$ なので、

標準偏差 $${s_X = \sqrt{\text{Var}(X)}}$$ より、

4️⃣ ステップ 4. 標準化後の共分散

共分散の性質（定数は外に出せる）から、

共分散は平均を引いても変わらないので、

5️⃣ ステップ 5. 標準化回帰係数
標準化した回帰係数は、

ステップ3と4を代入すると、

6️⃣ ステップ 6. 相関係数との一致
相関係数 $${r}$$ の定義は、

よって、

が導かれます ✅

📝📝📝

おまけ２：相関係数のt値と回帰係数のt値の一致を数式で整理

1️⃣ ステップ 1. 相関係数のt検定
標本相関係数 $${r}$$ が 0 かどうかを検定する無相関の検定の統計量は、

です。自由度は $${n-2}$$。

2️⃣ ステップ 2. 単回帰のt検定
単回帰の回帰係数 $${\beta_1}$$ の検定統計量は、

です。
ここで、推定量 $${\hat{\beta}_1}$$ は

で表されます（単回帰の係数は相関係数と標準偏差の比で書ける）。

3️⃣ ステップ 3. 標準誤差の形
$${\hat{\beta}_1}$$ の標準誤差は、

ただし $${s_e}$$ は残差の標準偏差です。

4️⃣ ステップ 4. 残差分散と相関の関係
実は残差分散は相関係数と直結していて、

という形になります。

5️⃣ ステップ 5. t値の一致
以上を代入すると、

さらに $${s_e^2 = (1-r^2)(n-1) s_Y^2 /(n-2)}$$ を代入して整理すると、

となり、相関の $${t_r}$$ と完全に一致します ✅

📝📝📝

おまけ３：決定係数と相関係数の二乗の一致を数式で整理

1️⃣ ステップ 1. 決定係数 $${R^2}$$ の定義 
決定係数は「説明された変動 ÷ 全体の変動」で定義されます。

• $${\text{SST} = \sum (Y_i - \bar{Y})^2}$$（全体の変動）

• $${\text{SSR} = \sum (\hat{Y}_i - \bar{Y})^2}$$（回帰による説明変動）

• $${\text{SSE} = \sum (Y_i - \hat{Y}_i)^2}$$（残差変動）

2️⃣ ステップ 2. 単回帰の回帰式
単回帰では、

であり、$${\hat{\beta}_1 = \cfrac{\text{Cov}(X,Y)}{\text{Var}(X)}}$$。

3️⃣ ステップ 3. 回帰による説明変動（SSR）
単回帰の場合、次が成り立ち：

回帰による説明変動 SSR を次のように表せます：

4️⃣ ステップ 4. $${R^2}$$ の式に代入 
$${R^2 = \cfrac{\text{SSR}}{\text{SST}}}$$ に代入すると：

5️⃣ ステップ 5. 回帰係数と相関係数の関係

ここで $${r = \cfrac{\text{Cov}(X,Y)}{s_X s_Y}}$$。

6️⃣ ステップ 6. $${R^2}$$ を整理 
代入して整理すると：

🔑 結論
「回帰の説明変動の割合」が「相関係数の2乗」と同じ式に帰着する。

📝📝📝

おわり

シリーズ記事

次の記事

前の記事

目次

ブログの紹介

note で８つのシリーズ記事を書いています。
ぜひ覗いていってくださいね！

１．のんびり統計

統計検定２級の問題集を手がかりにして、確率・統計をざっくり掘り下げるブログです。
雑談感覚で大丈夫です。ぜひ覗いていってくださいね。
統計検定２級公式問題集CBT対応版に対応しています。
Python、EXCELのサンプルコードの配布もあります。

２．統計・データ分析とつながる

シリーズ「統計・データ分析とつながる」は、統計・データ分析との「つながり」を発掘して、コラム風に仕立てたブログシリーズです。
生成 AI の力を借りながら、統計・データ分析の入り口をイメージして、自由気ままに書きました。
たとえば…
・日常生活と統計のつながり
・統計検定２級からその先へのつながり
気楽にお読みいただけたら嬉しいです🍀

３．実験！たのしいベイズモデリング１＆２をPyMC Ver.5で

書籍「たのしいベイズモデリング」・「たのしいベイズモデリング２」の心理学研究に用いられたベイズモデルを PyMC Ver.5で描いて分析します。
この書籍をはじめ、多くのベイズモデルは Ｒ言語＋Stanで書かれています。
PyMCの可能性を探り出し、手軽にベイズモデリングを実践できるように努めます。
身近なテーマ、イメージしやすいテーマですので、ぜひぜひPyMCで動かして、一緒に楽しみましょう！

４．実験！岩波データサイエンス1のベイズモデリングをPyMC Ver.5で

書籍「実験！岩波データサイエンスvol.1」の４人のベイジアンによるベイズモデルを PyMC Ver.5で描いて分析します。
この書籍はベイズプログラミングのイロハをざっくりと学ぶことができる良書です。
楽しくPyMCモデルを動かして、ベイズと仲良しになれた気がします。
みなさんもぜひぜひPyMCで動かして、一緒に遊んで学びましょう！

５．楽しい写経 ベイズ・Python等

ベイズ、Python、その他の「書籍の写経活動」の成果をブログにします。
主にPythonへの翻訳に取り組んでいます。
写経に取り組むお仲間さんのサンプルコードになれば幸いです🍀

６．RとStanではじめる心理学のための時系列分析入門 を PythonとPyMC Ver.5 で

書籍「RとStanではじめる心理学のための時系列分析入門」の時系列分析をPythonとPyMC Ver.5 で実践します。
この書籍には時系列分析のテーマが盛りだくさん！
時系列分析の懐の深さを実感いたしました。
大好きなPythonで楽しく時系列分析を学びます。

７．データサイエンスっぽいことを綴る

統計、データ分析、AI、機械学習、Pythonのコラムを不定期に綴っています。
統計・データサイエンス書籍にまつわる記事が多いです。
「統計」「Python」「数学とPython」「R」のシリーズが生まれています。

８．Python機械学習プログラミング実践記

書籍「Python機械学習プログラミング PyTorch & scikit-learn編」を学んだときのさまざまな思いを記事にしました。
この書籍は、scikit-learnとPyTorchの教科書です。
よかったらぜひ、お試しくださいませ。

最後までお読みいただきまして、ありがとうございました。