퀀트 통계 에센셜: 정규분포의 함정과 팻테일 모델링, 그리고 오컴의 면도날
고전 금융공학 교과서(현대 포트폴리오 이론, 블랙-숄즈 옵션 모델, 전통적 VaR)는 아름다운 수학적 정합성을 위해 하나의 강력한 가정을 전제한다.
“자산의 로그 수익률은 독립동일분포(i.i.d.)이며, 정규분포(가우시안 분포)를 따른다.”
하지만 이 가정을 곧이곧대로 믿고 실전 자본을 집행하는 퀀트와 트레이더는 머지않아 필연적인 파멸을 맞이한다. 1998년 노벨 경제학상 수상자들이 이끌던 롱텀캐피털매니지먼트(LTCM)의 파산부터 2008년 글로벌 금융위기, 2020년 코로나 폭락장까지, 금융사를 뒤흔든 대참사는 언제나 “정규분포 모델상 우주 나이 동안 한 번도 일어날 수 없다던 사건(10$\sigma$ 이상)”이 터지면서 시작되었다.
현실 금융 시장은 완벽한 종 모양의 대칭 세계가 아니며, 극단적 파멸과 폭등이 도사리는 팻테일(Fat-tail)과 멱법칙(Power Law)의 세계다. 이 간극을 이해하고 시스템의 생존 확률을 높이기 위해 반드시 이해해야 할 핵심 통계 개념들을 정리한다.
1. 왜도(Skewness)와 첨도(Kurtosis): 평균과 분산 너머의 실체
많은 입문자가 전략을 평가할 때 평균 수익률(1차 적률)과 변동성/표준편차(2차 적률)만 본다. 그러나 분포의 비대칭성과 꼬리의 두께를 결정하는 것은 3차, 4차 중심적률(Central Moment)이다.
\[\text{Skewness} = E\left[ \left(\frac{X - \mu}{\sigma}\right)^3 \right], \quad \text{Kurtosis} = E\left[ \left(\frac{X - \mu}{\sigma}\right)^4 \right]\]1) 왜도 (Skewness, 비대칭도)
분포가 평균을 기준으로 좌우 대칭인지, 어느 쪽 꼬리가 더 길게 늘어져 있는지를 측정한다. (정규분포 = 0)
| 구분 | 음의 왜도 (Negative / Left-skewed, $< 0$) | 양의 왜도 (Positive / Right-skewed, $> 0$) |
|---|---|---|
| 형태 | 왼쪽 꼬리가 김 (극단적 좌측 손실) | 오른쪽 꼬리가 김 (극단적 우측 이익) |
| 손익 구조 | 평소 꾸준히 작은 이익, 가끔 궤멸적 폭락 | 평소 잦은 작은 손실, 가끔 폭발적 수익 |
| 대표 전략 | 옵션 매도(Short Vol), 캐리 트레이드, 주식 지수 보유 | 추세추종(Trend Following), 롱 볼러틸리티(옵션 매수) |
| 비유 | “증기롤러 앞에서 동전 줍기” | “작은 비용으로 로또 복권 사 모으기” |
2) 첨도 (Kurtosis, 꼬리 두께)와 초과첨도 (Excess Kurtosis)
분포의 중심부가 얼마나 뾰족하고, 꼬리(Tail)가 정규분포 대비 얼마나 두꺼운지를 나타낸다. 정규분포의 첨도는 3이므로, 통상 $ \text{Excess Kurtosis} = \text{Kurtosis} - 3 $으로 계산한다.
- 초과첨도 $> 0$ (Leptokurtic, 팻테일):
- 금융자산 시계열 데이터의 절대다수가 여기에 속한다.
- 중심부(작은 변동)는 정규분포보다 더 빽빽하게 뭉쳐 있고, 극단값(폭락 및 폭등)이 나타나는 꼬리가 훨씬 두껍다.
- 초과첨도 $\le 0$ (Platykurtic):
- 꼬리가 얇고 평평한 분포. 현실 금융 시장에서는 거의 관측되지 않는다.
퀀트적 시사점: 샤프지수(Sharpe Ratio)의 치명적 맹점
샤프지수는 오직 1차 적률(평균)과 2차 적률(표준편차)만으로 리스크 대비 보상을 측정한다. 따라서 음의 왜도와 극단적인 팻테일을 가진 전략(예: 외가격 옵션 무차별 매도)은 평소 표준편차가 극도로 낮아 샤프지수가 3~4에 육박하는 ‘환상적인 전략’으로 둔갑한다. 그러나 이는 숨겨진 테일 리스크를 레버리지로 팔아치운 대가일 뿐이며, 단 한 번의 블랙스완으로 계좌는 영구 청산된다.
2. 정규분포 (가우시안 분포 / z분포): 고전 금융공학의 기준점이자 가장 위험한 착각
정의와 성질
평균($\mu$)을 중심으로 좌우 완벽한 대칭을 이루는 연속확률분포다. 데이터를 $z = \frac{x - \mu}{\sigma}$로 변환하여 $\mu = 0, \sigma = 1$로 만든 것을 표준정규분포(z분포)라 한다.
중심극한정리(CLT)에 따라 서로 독립이고 동일한 분포(i.i.d.)를 따르는 수많은 확률변수의 합은 표본 크기가 커질수록 정규분포에 수렴한다.
금융공학의 파멸 원인: 정규분포의 꼬리 확률 괴리
정규분포를 가정했을 때 특정 표준편차 배수($\sigma$)를 벗어날 확률은 다음과 같다.
| $\sigma$ 수준 | 정규분포상 이론적 발생 빈도 | 실제 금융 시장 관측치 |
|---|---|---|
| $3\sigma$ | 약 0.27% (약 370거래일 중 1회, $\approx 1.5$년에 1번) | 분기~반기마다 수시로 발생 |
| $5\sigma$ | 약 $0.000057\%$ (약 175만 거래일 중 1회, $\approx 7,000$년에 1번) | 거의 매년 1회 이상 발생 |
| $10\sigma$ | $\approx 1.5 \times 10^{-23}$ (우주 나이보다 긴 시간 동안 0회) | 1987 블랙 먼데이, 2008 금융위기 등 수십 년 주기로 발생 |
금융 시계열은 독립적이지 않으며(변동성 군집현상: Volatility Clustering), 충격이 발생했을 때 상호작용과 레버리지 청산이 연쇄적으로 맞물려 정규분포의 예측을 완전히 파괴한다. 정규분포 기반의 VaR(Value at Risk) 모델은 평화로운 날에는 정확해 보이지만, 정작 모델이 필요한 위기 순간에는 무용지물이 된다.
3. 스튜던트 t-분포 (Student’s t-distribution): 현실적인 팻테일 모델링의 표준
정의와 배경
모집단이 정규분포를 따르더라도, 표본의 크기($N$)가 작고 모분산($\sigma^2$)을 모르는 상태에서 표본평균을 검정하기 위해 윌리엄 고셋(William Gosset)이 고안한 분포다.
분포의 모양은 오직 자유도(Degree of Freedom, $\nu$)라는 하나의 모수로 결정된다.
- $\nu$가 작을수록: 중심부가 뾰족해지고 양쪽 꼬리가 두꺼워짐 (Heavy/Fat tail).
- $\nu \to \infty$로 갈수록: 표준정규분포(z분포)와 완벽히 동일해짐.
퀀트 실무 적용
- 자산 수익률 시뮬레이션 및 VaR 산출:
- 주식, 코인, 외환 수익률 데이터에 분포 피팅을 해보면 대개 자유도 $\nu \approx 3 \sim 5$ 수준의 t-분포가 도출된다.
- 몬테카를로 시뮬레이션이나 리스크 한도(VaR/CVaR)를 계산할 때 정규분포 대신 자유도 4 내외의 t-분포를 적용하면 극단적 손실 확률을 훨씬 현실적으로 방어할 수 있다.
- 알파 가설검정 (t-검정):
- 백테스트 팩터의 초과수익(알파)이 단순 운(Noise)이 아닌지 검정할 때, $t$-통계량($t = \frac{\bar{\alpha}}{SE}$)과 p-value를 계산하는 기본 잣대로 쓰인다. 통상 퀀트 업계에서는 $t > 2.0$ ($p < 0.05$), 보수적인 펀드에서는 다중검정 오류를 감안해 $t > 3.0$ 이상을 요구한다.
4. 파레토 분포 (Pareto Distribution): 멱법칙(Power Law)과 극단의 세계
정의와 수학적 특성
이탈리아 경제학자 빌프레도 파레토가 소득 불평등을 설명하기 위해 제시한 멱법칙(Power Law) 기반의 분포다. 전체 부의 80%를 상위 20%가 소유한다는 “80/20 법칙”의 수학적 근간이다.
\[P(X > x) = \left(\frac{x_m}{x}\right)^\alpha \quad (x \ge x_m)\]파레토 분포의 본질적 공포는 형상 모수(Tail Index, $\alpha$)의 크기에 따라 통계학의 기초가 무너진다는 점에 있다.
- $\alpha \le 2$: 분산이 무한대($\infty$)로 발산한다. (표본표준편차라는 개념 자체가 무의미해짐)
- $\alpha \le 1$: 평균조차 무한대($\infty$)로 발산하여 정의되지 않는다.
퀀트적 시사점: 평범의 세계 vs 극단의 세계
나심 탈레브는 세상을 두 영역으로 분리했다.
- 평범의 세계 (Mediocristan): 사람의 키나 몸무게처럼 개별 데이터가 전체 평균을 흔들지 못하는 가우시안 영역.
- 극단의 세계 (Extremistan): 부의 분포, 책 판매량, 시장의 손실 규모처럼 단 하나의 극단값이 전체 합계의 대부분을 지배하는 파레토/멱법칙 영역.
1
2
3
4
5
[정규분포의 세계]
수많은 작은 오차들의 합 ──> 극단값 발생 확률이 지수함수적으로 급락 ──> 안전한 종형 곡선
[파레토/멱법칙의 세계]
상호작용, 연쇄반응, 승자독식 ──> 극단값 발생 확률이 다항식(Polynomial)으로 천천히 감소 ──> 블랙스완 상존
금융위기, 뱅크런, 디페깅, 시장 붕괴와 같은 극단값 이벤트(Extreme Value Theory, EVT)를 모델링할 때 실무에서는 일반화 파레토 분포(GPD, Generalized Pareto Distribution)를 사용하여 임계 손실 초과분(Peaks Over Threshold)의 테일 리스크를 추정한다.
5. 오컴의 면도날 원칙 (Occam’s Razor): 과최적화(Overfitting)의 유일한 해독제
“같은 현상을 설명하는 경쟁 가설들이 존재한다면, 가장 적은 수의 가정을 필요로 하는 단순한 설명을 택하라.”
(Entities should not be multiplied beyond necessity.)
통계학과 퀀트 금융에서 오컴의 면도날은 단순한 철학적 조언이 아니라 백테스트의 저주(Overfitting / Data Snooping)를 막아내는 가장 강력한 공학적 생존 규율이다.
1) 백테스트 과최적화의 함정
- 과거 주가 시계열은 고유 신호(Signal) 대비 무작위 노이즈(Noise)가 극도로 높은 데이터다.
- 모델에 보조지표(RSI, 볼린저밴드, MACD 등)를 덕지덕지 붙이고, 조건문(if-else)을 추가하며, 딥러닝 파라미터를 수백만 개로 늘리면 과거 데이터(In-Sample)에 완벽히 맞춤 제작된 환상적인 곡선을 얻을 수 있다.
- 하지만 이는 미래의 규칙을 학습한 것이 아니라 과거의 ‘무작위 노이즈’를 암기한 것에 불과하다. 복잡한 모델일수록 미지의 미래 환경(Out-of-Sample)에 투입되는 즉시 산산조각 난다.
2) 오컴의 면도날을 수식화한 기법들
- 정보 기준 (Information Criteria: AIC, BIC):
- 회귀 모델을 평가할 때 우도(Likelihood)에만 기대지 않고, 파라미터 개수($k$)에 직접적인 벌점(Penalty)을 부과한다. \(\text{AIC} = 2k - 2\ln(\hat{L}), \quad \text{BIC} = k\ln(N) - 2\ln(\hat{L})\)
- 파라미터를 하나 추가했을 때 성능 향상 폭이 페널티보다 크지 않다면 모델을 기각한다.
- 정규화/규제화 (Regularization: Lasso & Ridge):
- 손실함수에 가중치 크기에 대한 벌점을 추가하여 불필요한 계수를 0으로 강제 축소(L1 Lasso)하거나 작게 억제(L2 Ridge)함으로써 과도한 표현력을 거세한다.
- 도메인 인과성 검증:
- 모델의 복잡도를 높이기 전에 “이 파라미터가 초과수익을 만들어내는 경제적/구조적 메커니즘(유동성 프리미엄, 행동경제학적 비이성, 시장 미시구조의 마찰 등)이 명확한가?”를 입증하지 못하면 단순 통계적 우연으로 폐기한다.
6. 핵심 비교 요약
| 개념 | 주요 수학적 특징 | 꼬리 위험 (Tail Risk) | 퀀트/실무 주 용도 | 핵심 주의점 |
|---|---|---|---|---|
| 정규분포 (z분포) | 왜도 0, 첨도 3, $\mu=0, \sigma=1$ | 극도로 얇음 (지수 감쇠) | 기초 통계 기준, 이론적 벤치마크 | 실제 금융 시계열의 팻테일을 무시하여 파산 위험 초래 |
| 왜도 (Skewness) | 3차 중심적률 (비대칭도) | 음의 왜도일수록 좌측 파멸 위험 급증 | 비대칭 손익 구조 및 전략 성격 분석 | 샤프지수가 높은 전략일수록 숨겨진 음의 왜도 확인 필수 |
| 첨도 (Kurtosis) | 4차 중심적률 (꼬리 두께) | 초과첨도 $> 0$일 때 팻테일 | 변동성 급변 및 극단값 빈도 측정 | 금융 데이터는 대부분 팻테일이므로 정규성 가정 배제 |
| 스튜던트 t-분포 | 자유도($\nu$) 모수, $\nu \to \infty$면 정규화 | 꼬리가 두꺼움 ($\nu$ 작을수록 심화) | 현실적 VaR 산출, 몬테카를로 시뮬레이션, t-검정 | 자유도 $\nu$ 선택에 따라 위험 추정치가 민감하게 변화 |
| 파레토 분포 | 멱법칙(Power Law), 모수에 따라 분산/평균 발산 | 극단적 팻테일 (블랙스완) | 극단값 이론(EVT), 테일 헷징, 위기 스트레스 테스트 | 전통적 통계 지표(평균, 분산)의 수렴이 깨질 수 있음 |
| 오컴의 면도날 | 복잡성(파라미터 수)에 페널티 부과 | 과최적화로 인한 실전 파멸 방지 | AIC/BIC 모델 선택, 규제화(L1/L2), 팩터 단순화 | 백테스트 수익률의 유혹을 이겨내고 강건성(Robustness) 우선 |
결론: 퀀트가 지켜야 할 기본 생존 수칙
- 정규분포의 종 모양 환상에서 벗어날 것: 금융 시장의 수익률은 대칭이 아니며, 극단적인 사건은 통계 교과서의 예측보다 수천 배 더 자주 발생한다.
- 높은 샤프지수를 맹신하지 말 것: 음의 왜도와 고첨도가 결합된 전략은 파멸 전날까지 역사상 최고의 샤프지수를 기록한다.
- 꼬리 위험은 t-분포와 파레토(EVT)로 보수적으로 산정할 것: 위기 상황의 마진콜과 유동성 증발을 모델에 반영해야 생존할 수 있다.
- 언제나 가장 단순한 모델을 선호할 것 (오컴의 면도날): 백테스트를 완벽하게 통과한 복잡한 모델보다, 경제적 인과관계가 분명하고 단순한 모델이 실제 시장의 거친 노이즈 속에서 살아남는다.