効果検証入門を読んだ
過去、自分は A/B テストなどを使ってプロダクトグロースをさせる仕組みと文化を作る、というのを一部の小さなチームで、データサイエンティストも入れたチームでやったことがある。
このときもそれなりに勉強したことを思い出しつつ、データ分析をしてビジネスを前に進めることの難しさを体感したのだった。
今は事業上の意思決定をVPとして行う立場にある。起案資料には「こういう施策をすると、この指標が x pt 伸びる。なので ROI は成立するので投資しましょう」といったものがある。
この確からしさの確認に苦労していた。もちろん確からしい説明もあっただろう。今この本を読んだあとだと、そこにセレクションバイアスがあるのでは、ということや、一見証明不可能に見えるものも因果推論ができる武器が増えたという感覚を持てた。何よりデータサイエンスの専門性に改めてリスペクトしたし、事業運営する上でかなりコアな要素なのではないか、という感覚を持てた。
なお今回は LLM を徹底的に使って疑問点を解消しながら読んだ学習体験は非常によかった。これもどこかでまとめたい。
続編がでていたのでこちらも読ませてもらう予定。以下、メモ。
- 因果推論とは
- ある介入によって Outcome がどれだけ変わったかを知ること
- 1章:RCT(Randomized Controlled Trial / ランダム化比較試験)
- これができるならこれが一番よい
- あらためてだが、t検定の復習もできた
- 帰無仮説=効果がない(という帰無仮説を置いた)状態を仮定したときに、観測された結果以上に極端な結果が起きる確率(p値)が、慣習的な有意水準である5%以下なら、統計的に有意差があるとみなす
- 2章ではセレクションバイアス
- RCTができない状況ではセレクションバイアスがないかを考える
- 3章では傾向スコア
- RCTができず、セレクションバイアスがあると想定する場合に、取得できる変数を使い、ロジスティック回帰などによって「その対象が介入を受ける確率=傾向スコア」を推定する
- ただし、観測できていない交絡要因によるバイアスまでは除去できない
- ロジスティック回帰で予測モデルを組み立てるところは古典的な機械学習にもつながる
- 傾向スコアを利用する方法に2種類、PSM(Propensity Score Matching) / IPW(Inverse Probability Weighting)がある
- 4章では DID(Difference in Differences / 差分の差分法)
- ある特定の群だけ介入している場合、介入していない群の介入前後の時系列と、介入した群の介入前後の時系列を比較する方法
- 5章では RDD(Regression Discontinuity Design / 回帰不連続デザイン)
- 過去のルールなどで、ある連続的な指標の閾値によって介入有無が決まっている場合、セレクションバイアスが明示的に起きている場合、その閾値・カットオフ付近で見ることで、疑似的にRCTに近い比較ができる
- “因果推論がビジネスに価値をもたらす状態になるためには、より正しい情報がより多くのビジネス上の価値をもたらすという条件が必要です。”
- つまり、ビジネス上の意思決定に使われなければ意味がない。逆算してビジネス上の意思決定を行う自分がデータサイエンスのことを知る価値は大きいと感じた





