Survivorship Bias — 身近な数字も汚染されている

TL;DR

  • 公開データの多くは「生き残った」サンプルだけで構成され、消えた失敗例が抜け落ちている
  • 起業家、ファンド、株式インデックス、競走馬、戦闘機 — ほぼあらゆる文脈で発生
  • 平均値・成功要因の推定が systematic に上方に歪む。「成功者の習慣」は学べない
  • 対策: survivorship-bias-free データセットを使う、効果サイズを保守的に解釈、失敗例を明示的にカウント

Hook

「Y Combinator 卒業生の 5 年生存率は X%」「アクティブ株式ファンドの 10 年平均リターンは年 Y%」「成功した起業家には共通の朝の習慣がある」。

これらの数字はすべて、同じ罠を抱えている。生存者しか見えていない。倒産した会社は数字に出ない。閉じたファンドはデータベースから消える。失敗した起業家は本を書かない。私たちが目にするのは、勝ち残った 1 割のみが残した記録だ。

これが Survivorship Bias (生存者バイアス)。

古典的な例 — WW2 の弾痕分析

第二次大戦中、米軍は帰還した戦闘機の弾痕分布を分析し、被弾の多い場所 (翼、胴体外板) を装甲強化しようとした。直感的には「最も撃たれている部位を守れば生存率が上がる」と思える。

統計学者 Abraham Wald はこの判断を逆転させた。

我々が見ているのは 帰還した 機体だけだ。帰還した機体の弾痕が翼にあるということは、翼を撃たれても帰還できたということ。逆に、エンジンや操縦席を撃たれた機体は墜落して データに現れない。装甲を強化すべきは、帰還機にほとんど弾痕のない部位 (= 撃たれたら戻れない部位) だ。

これがそのまま survivorship bias の本質。「観測できないデータ」が真実を歪める。

ファンドのリターン

Carhart (1997) や Brown et al. (1992) は、mutual fund の長期リターン研究で survivorship bias の効果を定量化した。closed (閉鎖) fund を含めると、含めない場合に比べて年率 1-2 ポイント の差が出る。

「アクティブファンドの平均リターン」と聞いた時、それは「現存するファンドの平均」かもしれない。閉じたファンドを除外して計算すれば、生き残った優秀なファンドだけの平均となり、過大評価になる。

CRSP の US Stocks Database のように、delisted 銘柄も含む survivorship-bias-free データセット を使うのが研究上の標準。retail で同等のデータを得るのはハードルが高いが、少なくとも「自分が使うデータがどう構築されたか」を知ることは重要。

起業家の習慣

「成功した起業家の朝のルーチン」「成功者の読書量」など、self-help 系で頻繁に登場する数字は、survivorship bias の典型例。

  • 成功した X 人にインタビュー → 共通の習慣を抽出 → 「これが成功の秘訣」
  • だが、同じ習慣を持っていた数千人の失敗者 はインタビュー対象外
  • 失敗者と成功者の習慣分布が同じなら、その習慣は成功要因ではない

成功要因を主張するには、失敗側の対照群が必要。それなしに「成功者の習慣」を学んでも、ノイズを学んでいる。

株式インデックスの長期リターン

「S&P 500 の過去 100 年の平均リターンは年率 10%」という言説は広く流通しているが、これも survivorship bias の影響を受ける:

  • インデックス自体が「生き残って成長した会社の集合」
  • 倒産・delisted は inclusion criteria から外れる
  • 100 年間 1 度も入れ替わっていないわけではなく、何度も再構成されている

これは「インデックス投資が無効」と言いたいわけではない (むしろ rebalancing による生存者バイアスは、ポートフォリオレベルで利益化されている側面もある)。ただし「インデックスの長期平均」を、個別株戦略のベンチマークとして引用するときは、構造を意識すべき。

ベッティング・競馬データ

競馬の勝率推定は、F (転倒)、PU (中止)、UR (騎手落下) などのレース結果を扱わないと systematic に歪む。

  • 「過去走の勝率 X%」を成績に含めると、F/PU 含むレースで「勝てなかった」が抜け落ち
  • 「順調にゴールした」サンプルだけだと、能力推定が高めに出る
  • 競走馬の引退も生存者バイアスの一形態 (成績不振で引退、勝てた馬だけ残る)

ベッティング backtest で「過去 5 年の勝率 X%」を見るとき、F/PU を抜いた「健全なレースの勝率」かどうかを確認する必要がある。

対策

1. Survivorship-bias-free データセットを使う

CRSP US Stocks (delisted 含む)、CRSP Mutual Fund (閉鎖 fund 含む) のような academic-grade データセット。retail でアクセス可能なものは限定的だが、Yahoo Finance や Bloomberg よりは構造を意識したソースを使う。

2. 全期間中に存在した entity をすべて含める

ETF 構成銘柄・ファンドリスト・ベッティング対象を、現時点ではなく 検証期間の各時点 で再構成する。つまり「過去のある時点で何が selectable だったか」を再現する。

3. 効果サイズを保守的に解釈

「過去データで X% の効果」を見たら、「現実には 0.5X〜0.8X 程度に減る前提で運用」する。survivorship bias の効果が完全には除けないことを暗黙に許容する。

4. 失敗例を明示的にカウント

戦略開発で「成功した戦略」の特徴を抽出するとき、対照として「失敗した戦略」のリストも保存する。両群を比較してから「成功要因」と呼ぶ。

個人的経験

ある backtest で「過去 5 年で +X% の戦略」が見えた。深掘りすると、戦略が前提とする市場規制の下で、対象 entity の一部が delisted されていた。delisted データを含めて再 compute すると、edge は半分以下に縮小した。

「データが綺麗に揃っていること」自体が survivorship bias の警告サイン だと学んだ。穴の空いていない過去データは、誰かが穴を埋めた (= 死亡サンプルを除いた) 結果かもしれない。

まとめ

  • survivorship bias は「データに現れないサンプル」の問題
  • 起業、ファンド、株式、ベッティング、軍事、すべての文脈で発生
  • 「成功者の習慣」は学べない。なぜなら同じ習慣の失敗者が見えないから
  • 対策はデータの全数性を担保すること

次回は、流動性と注文タイプ。指値で出したら約定しなかった、成行で出したら最悪値で約定した。LIMIT vs Market Order の trade-off

参考文献

  • Wald, A. (1943). A Method of Estimating Plane Vulnerability Based on Damage of Survivors. Statistical Research Group, Columbia University. (military analysis, declassified later)
  • Carhart, M.M. (1997). On Persistence in Mutual Fund Performance. Journal of Finance, 52(1), 57-82.
  • Brown, S.J., Goetzmann, W.N., Ross, S.A., Ibbotson, R.G. (1992). Survivorship Bias in Performance Studies. Review of Financial Studies, 5(4), 553-580.
  • Elton, E.J., Gruber, M.J., Blake, C.R. (1996). Survivorship Bias and Mutual Fund Performance. Review of Financial Studies, 9(4), 1097-1120.
  • Wikipedia, “Survivorship bias”.

コメントする