第158回： 「統計の実務」18 回帰分析《その4：統計の嘘 前編》
◀前の記事へ 次の記事へ▶
≡ はじめに
前回は、「回帰分析《その3：重回帰分析 後編》」について書きました。
内容は、「“Boston Housing”というデータセットを使って、重回帰分析により、住宅価格に影響を与える説明変数の寄与の大きさを調べる方法」でした。
以下の画像は、Rコマンダーのモデルへの適合メニューです。
直近の3回で書いた「単回帰分析」と「重回帰分析」は説明変数の数が1つか複数かの違いだけで、どちらも、ひとつ目の「線形回帰」で求めます。
逆に言えば、Rコマンダーでは、他にもたくさんのモデルへの適合（モデル式を作ること）ができて、そのモデル式に説明変数の値を代入することで目的変数の値がどうなるかを推定することが可能です。でも、初心者の方にはモデル式は「単回帰分析」の範囲がお勧めですし、説明変数の寄与を求めたいときにだけ「重回帰分析」を使うのが良いと思います。
ですから、このnoteでは書きません。
回帰分析を更に、勉強するなら「一般化線形モデル」から始めると良いと思います。
今回と次回で、「統計の嘘」というテーマで、主に回帰分析中に起こりがちな話を書きたいと思います。
ところで、前回の「おわりに」に書いた予告では、
次回は、「回帰分析のヒント」と題して、回帰分析の広がり的な話をしたいと思っています。対数軸とか、ゼロの扱いとか、カテゴリ変数の扱いとか、ポアソン分布の場合はどうするとか、、、。
で、全然違う印象かもしれませんが、これは、オブラートに包んだ書きかたか、ストレートな書き方かの違いだけで、書こうとしていたものは、ほぼほぼ同じです。
≡ There are three kinds of lies
Wikipediaに“嘘、大嘘、そして統計”という項目があります。
見出しは、その原文の一部です。
短い文なので、全部引用します。
『世の中には3種類の嘘がある: 嘘、大嘘、そして統計だ』(There are three kinds of lies: lies, damned lies, and statistics)
そしてこの警句は「統計（の嘘）」について、
とあります。
文章のみでは説得力がない主張（弱い論証）でも、それが数字とセットで示されたり、統計解析の結果が示されると、説得力が増して信じてしまうといったものです。
たとえば、「重回帰分析の結果、決定係数R²が0.9、p値が0.0001で、住宅価格には、“空気の清浄さ”が最も寄与していることが分かった。住民は、きれいな空気が一番欲しいのである。だから排ガス規制を強化しよう」という主張は“真っ赤な嘘”ですが、議会で通りそうな気がしますよね？
こんな大きな話でなくても、ソフトウェア開発の実務でも起こりがちです。
例えば、「画面数」、「帳票数」、「機能数」、「テーブル数」という4つの説明変数から「存在するバグ数」を予測するモデル式を重回帰式で求めたので、今後はこれを用いるように、、、なんて言われたりして。
前に、「とてか」で聞いたように思うけど、「開発の改善でTDDを導入したらバグが激減して、回帰式で見積もったバグ数に達しないのでユニットテストを終了できなくて困りました。最後にはバグを捏造しちゃいましたよ……。」なんて笑える（笑えない）話がありました。
※ これは、統計で嘘をついたというよりも、モデル式を作ったときと状況が変わっているのに、モデル式を改めていない問題ですが。
≡ 不正のトライアングル
「統計の嘘」はなぜ起こるのでしょうか。上では、統計解析の結果を受ける側の話を書きましたが、統計解析をする側でも「いったい、自分は何をしているんだろう？ 心が痛いな」と思いながら回帰分析をした経験がある人は多いと思います。
下図は、「MONOistの記事」にある【不正のトライアングル】という図です。（良い記事なので一読をおすすめします）
不正は、「動機」「機会」「正当化」の3つの条件がそろった時に発生しやすいというものです。
統計解析の不正に当てはめれば、
【動機】は「いい加減なデータしかないのに、統計解析結果を出す納期が迫っている」こと、
【機会】は「統計解析担当者は自分しかいないし、データを改ざんするのは簡単でバレっこない」こと、
【正当化】は、「どうせモデル式を出しても使われないし、そもそも元データが悪すぎる事が問題！（との思い込み）」
でしょうか。
統計解析者だって、良質のデータの蓄積があってプロセスが安定していて、教科書通りに解析して良い結果が出るのなら、誰が嘘をつきたいと考えるでしょうか？
まぁ、統計解析の依頼者から「今回は、こういった結果が出るとうれしいんだけどなあ」と言われて、そっちに向かって嘘をついてしまう人もいるとは思いますが、それは、ごく少数だと思います。
≡ 統計の嘘の課題
「統計の嘘」については、人が数字を信じやすい習性があることは変えにくいので、統計解析者が、「ごみの混ざったデータを用いて、いかにして実務に役立つ回帰分析を行うか」、「結果をどう伝えるか」だと思っています。
そちらのノウハウについては長くなるので次回にまとめたいと思います。
≡ おわりに
今回は、回帰分析の4回目として「統計の嘘 前編」の話をしました。まずは、なんでこんなことが起こるの？ 私たちの課題は何？？という話でした。
次回は、「ごみの混ざったデータを用いて、いかにして実務に役立つ回帰分析を行うか」、「結果をどう伝えるか」という話をしたいと思っています。「統計の実務」という連載ですので、実務に必要な話を書かないとね。
また、こういった話は、あまり書籍やブログにも書かれないかなあとも思うので書いておきたいという気持ちもあります。
「統計のウソ」をテーマした本は何冊か読みました。
でも、平均値と中央値の違いとか、意図的にグラフで騙す話がほとんどでした。「騙されないための統計のセンスの磨き方」といった趣旨の本です｡
けれど、私は“騙したく無いけど納期が迫って困っている”という実務あるあるな話を書きたいのです。
「マルチコ」とか「ゼロ過剰モデル」とか、ある程度、メカニズムも判明して、対策も見えているものは論文などたくさんあるのですが……。
今度こそ次回で「回帰分析」のテーマは終わる予定です。残りは「クロス集計とカイ二乗検定」→「管理図とEVM」→「確率分布」となります。
