見出し画像

マーケターのための統計と因果推論|「売れた」と「売った」を区別する

昨日、noteを読んでくださった方から、「因果推論と統計は、どのように勉強されましたか?」という質問をいただきました。

マーケティングを学び始めた方からの質問です。統計や因果推論と聞くと、数式やプログラミングが出てくる専門家向けの世界に見えるかもしれません。

でも、マーケターが最初に理解すべきことは、もっとシンプルです。

「売れた」と「マーケティングによって売った」は違います。

この違いを考えるために、統計と因果推論が役に立ちます。


キャンペーンで3,000人が買った。効果は何人?

ある商品のキャンペーンを実施し、1万人がエントリー、そのうち3,000人が商品を購入したとします。

「キャンペーン参加者から3,000件の購入が発生しました」と報告されたら、かなり成功したように見えます。

では、キャンペーンによって増えた購入者は何人でしょうか。

実は、この情報だけではわかりません。

購入した3,000人のうち、キャンペーンがなくても2,800人が買っていたのであれば、キャンペーンによる増分は200人です。一方、何もしなければ500人しか買わなかったのであれば、増分は2,500人になります。

観測される購入者数は同じ3,000人でも、マーケティング施策としての価値はまったく違います。

私は、マーケターの仕事をかなり乱暴に言えば、ひたすら「増分」を生み出していく仕事だと思っています。

広告を出したから売上が増えたのか。キャンペーンをしたから購入者が増えたのか。メールを送ったから再購入が起きたのか。

そこで知りたいのは、施策後の数字そのものではありません。

増分効果 = 施策をした場合 − 施策をしなかった場合

です。

因果推論は「何もしなかった世界」を考える

問題は、「施策をしなかった場合」を観測できないことです。

Aさんにキャンペーンメールを送って購入してもらったとしても、まったく同じAさんに、同じ時間、同じ状況でメールを送らなかった世界を見ることはできません。

パラレルワールドがあれば簡単なのですが、現実には一つしか観測できません。

この、実際には起こらなかった「もし施策をしていなかったら」を考えるのが因果推論の基本的な発想です。

マーケティングの効果測定とは、かなりの部分が「何もしなかった世界ではどうなっていたか」をできるだけ正確に推定する仕事だと考えると理解しやすくなります。

だから、「キャンペーン参加者がたくさん買った」「広告をクリックした人の購入率が高かった」だけでは、施策の効果とは言えません。

もともと買いたかった人ほど、キャンペーンに参加したり、広告をクリックしたりする可能性もあるからです。

できるならA/Bテストが強い

「何もしなかった世界」を作る最もわかりやすい方法の一つが、ランダム化比較試験です。マーケティングではA/Bテストやホールドアウトテストとして使われます。

たとえば10万人の顧客をランダムに2つに分け、5万人にはキャンペーンメールを送り、残りの5万人には送りません。

一定期間後、メールを送ったグループの購入率が6%、送らなかったグループが5%だったとします。

単純化すれば、差の1ポイントがメールによって生まれた増分だと推定できます。メールを送った5万人なら、約500人の追加購入です。

6%すべてをメールの成果にするのではなく、何もしなくても買ったと考えられる5%を取り除く。ここが重要です。

Google AdsのConversion Liftなども、テスト群と比較群を利用して広告による増分コンバージョンを推定する発想に基づいています。

A/Bテストをしても統計が必要になる

ただし、A/Bテストをしただけで終わりではありません。

メールを送ったグループの購入率が5.1%、送らなかったグループが5.0%だったとします。0.1ポイント差がありますが、これは本当に施策の効果でしょうか。

ランダムに人を分けても、数字には偶然のブレが発生します。コインを100回投げても必ず表50回、裏50回にはならないのと同じです。

そこで統計が必要になります。

統計を学ぶと「p値」が出てきますが、初学者の段階では、観測された差を偶然のブレとしてどの程度考えるべきかを判断する材料の一つ、と理解するくらいでよいと思います。

ただし、「p<0.05なら成功」と覚えてしまうのは危険です。American Statistical Associationも、単一の閾値だけで結論を決めるのではなく、効果の大きさや不確実性、分析の背景を含めて判断する重要性を強調しています。

マーケターなら、統計的な差だけでなく、その差が事業として意味のある大きさなのかも考えなければなりません。

100万人を分析してごく小さな差を検出できたとしても、得られる利益が10万円で施策コストが1,000万円なら、良い施策とは言いにくいでしょう。

統計的に差が出ても、一つの数字を盲信しない

ここでもう一つ注意したいのが、統計は万能ではないということです。

分析期間、比較対象、モデルに入れる変数、データの処理方法などによって結果が変わることがあります。

経済学では、ChangとLiが67本のマクロ経済学論文の再現を試み、条件を満たした59本のうち、著者の協力を得ても再現できたのは29本だったという研究があります。これは「残りの論文は間違いだった」という意味ではありませんが、データと統計手法から得られた一つの結果を絶対視する危険性はよくわかります。

だから実務では、A/Bテストで統計的な差が確認できたとしても、そこで考えるのをやめない方がよいと思います。

前年同時期と比べても伸びているのか、施策開始前後のトレンドに変化があるのか、市場全体が同じように伸びていないか、他の商品やチャネルの売上を奪っていないか。違う弱点を持つ複数の数字から同じ方向が見えるかを確認します。

前年同時期比にも弱点はありますし、単純な前後比較にも弱点があります。回帰分析にも前提があります。

唯一絶対の指標を探すのではなく、異なる方法で得られた複数の証拠を突き合わせる。

私は、この姿勢が実務ではかなり大切だと思っています。

A/Bテストできない施策はどうするのか

マーケティングでは、すべてを個人単位でランダム化できるわけではありません。

TVCMを一人ひとりランダムに見せ分けるのは難しいですし、駅広告を通行人の半分だけ見えなくすることもできません。

それでも考え方は同じです。

条件の似た地域の片方だけで広告を実施し、その後の売上を比較する。GoogleもGeo Experimentによって地域を利用した増分効果測定を進めています。

実験自体が難しければ、回帰分析、差の差法、Synthetic Control、MMMなど、観測データから因果効果を推定する手法もあります。

初学者の段階で、それぞれの数式まで覚える必要はありません。

施策を見るたびに、「この施策をしなかった世界と、どう比較すればいいだろう?」と考えられるだけでも大きな違いがあります。

実務では「増分をどう測るか」から施策を考える

たとえばメールやPush通知なら、全員に送るのではなく一部を非配信にしておけば、増分を測りやすくなります。

Web広告ならConversion Liftなどのリフトテストを利用できる場合があります。ブランド認知が目的ならBrand Liftという選択肢もありますが、認知が上がったことと売上が増えたことは別なので、施策目的に合った指標を見る必要があります。

TVCMや屋外広告なら地域テスト、キャンペーンなら一部を対象外にするホールドアウト、店舗施策なら条件の近い店舗同士を比較するといった方法が考えられます。

つまり、効果測定は施策が終わってから考えるものではありません。

「あとで増分を測れるように、最初から施策を設計する」ことが重要です。

売上が増えても、未来から借りただけかもしれない

最後に、もう一つ見落としやすい増分があります。

時間です。

キャンペーンによって今月の購入が1,000件増えたとしても、翌月に800件減っていたら、本当に1,000件の需要を作ったとは言えません。

来月買う予定だった人を今月に移動させただけかもしれないからです。

スーパーの特売で普段1本ずつ買う商品を3本まとめ買いすれば、特売日の売上は大きく伸びます。しかし、その後2回買わなくなれば、長い期間で見た購入量はほとんど変わりません。

商品間やチャネル間でも同じです。新商品が売れた代わりに既存商品が売れなくなった、自社ECの購入が増えた代わりに店舗購入が減ったのであれば、会社全体の増分は小さいかもしれません。

増分を見るなら、「増えた場所」だけではなく、どこかから数字を移していないかまで見る必要があります。

統計の専門家になる必要はない

ここまで統計と因果推論について書いてきましたが、私は統計の専門家ではありません。

実際の統計分析を、自分でコードを書きながら何度もガリガリやってきたわけでもありません。それでも、マーケターとして統計や因果推論を学んでおいてよかったと思う場面は何度もあります。

大切なのは、すべての分析を自分で実装できることではなく、「この数字だけで効果と言っていいのか」「比較対象を作れないか」「これは単なる前倒しではないか」「別の方法でも同じ結論になるか」と問いを立てられることだからです。

そこまでわかれば、高度な分析が必要なときには統計の専門家に相談できます。今ならAIにコードを書いてもらったり、分析方法を検討する手助けをしてもらったりすることもできます。

そして、もう一つ実務で大切だと思っていることがあります。

すべての意思決定に、同じレベルの厳密な効果測定が必要なわけではありません。

研究であれば、時間をかけて分析の妥当性を確認し、できる限り正確な結論を出すことに大きな意味があります。しかし実務では、正確さを追求している間に意思決定が遅れ、機会を逃してしまうこともあります。

たとえば、数千円のコストで翌日から変更できるメールの件名を決めるために、何週間もかけて高度な因果推論をする必要はないでしょう。小さくA/Bテストして、明確な差が見えれば次へ進む。それで十分な場合もあります。

一方で、数億円規模の広告投資や、一度実行すると簡単には戻せない価格変更、新規出店のような意思決定なら話は変わります。判断を間違えたときの損失が大きいため、時間とコストをかけてでも、複数の方法で増分を検証する価値があります。

つまり、効果測定そのものにも費用対効果があります。

「最も正確に測るにはどうすればいいか」だけではなく、「この意思決定には、どこまで正確に測る必要があるか」を考える。

意思決定の重要度が低く、やり直しやすいものなら、多少の不確実性を残して速く動く。重要度が高く、投資額が大きく、後戻りしにくいものほど、測定の精度を高める。この使い分けも、統計や因果推論を実務で使ううえでは重要だと思います。

もちろん、統計の知識が深いほど、専門家やAIが出した分析結果を正しく評価し、誤った使い方を避けやすくなります。だから勉強する価値はあります。

ただ、最初から統計学者を目指す必要はありません。

マーケターに必要なのは、すべての分析を自分でできることではなく、「何を確かめるべきか」と「どこまで確かめるべきか」を判断できることです。

「施策のあとに売れた」のか、それとも「施策によって売った」のか。

そして、その違いを確かめるために、今回の意思決定ではどこまで測れば十分なのか。

統計と因果推論は、完璧な答えを出すこと自体が目的ではありません。不確実な状況の中で、より良い意思決定をするための道具として使えばいいのだと思います。

記事のご紹介

今回ご質問をいただいた海の中のポニョさんの記事です。

配属されてまだ2か月ながら、「シェアを奪うことは本当に価値を増やしているのか」「感覚的に見えるマーケティングを、どう再現可能なスキルにしていくのか」といったところまで考えられていて、着眼点がとても鋭いです。

自分の新卒時代を振り返ると、こんなことまで考えて仕事をしていた記憶はまったくありません(笑)。

これからどんなマーケターになっていくのか、個人的にも楽しみにしています。

プロフィール

マーケティング戦略コンサルタントです。 事業会社とコンサルティング会社の両方で、販売・CRM・データ分析・市場調査・需要予測・価格・広告・Webなど、マーケティングの上流から下流まで経験してきました。 このnoteでは、実務と研究を行き来しながら、仕事・キャリア・発信に使える再現性の高い考え方を紹介しています。

詳しい自己紹介はこちら。

自己紹介|実務とエビデンスから、マーケティングの本質を探しています

この記事がおもしろかったら、スキで教えてください。

ご質問があれば、ぜひコメントで教えてください。実務の悩みや「こういう場合はどう考えればいい?」といった問いかけは、私にとっても新しい学びのきっかけになるので、とても嬉しいです。

おすすめ記事

凡人がマーケティングセンスを身につけるまで

今回の記事を書くきっかけになった記事です。マーケティングの「センス」を、経験だけではなく答え合わせによって鍛えるという視点で書いています。


マーケティングを本気で学びたい人へ|目的別おすすめ本12選

統計と因果推論をもう少し学びたい方に向けて、『統計学が最強の学問である』など、学習の入り口になる本も紹介しています。


【初心者向け】無料でマーケティングが学べる優良コンテンツ6選〖入門からエビデンスまで〗

これからマーケティングを学び始める方向けに、無料で利用できる学習コンテンツをまとめています。


参考URL

Google for Developers|Meridian GeoX https://developers.google.com/meridian/geox

American Statistical Association|Editorial Calls Time on “Statistically Significant” in Research https://www.amstat.org/news-listing/2021/10/08/editorial-calls-time-on-statistically-significant-in-research

American Statistical Association|The Story Behind the ASA Statement on P-Values https://magazine.amstat.org/blog/2016/04/01/pres-apr16/

Chang, Andrew C. & Phillip Li, “A Preanalysis Plan to Replicate Sixty Economics Research Papers That Worked Half of the Time,” American Economic Review, 2017 https://www.aeaweb.org/articles?id=10.1257/aer.p20171034

いいなと思ったら応援しよう!