통계에서 자주 듣는 말 중 하나가 바로 “표본의 크기가 커질수록 평균이 안정된다”는 것이다. 작은 표본에서는 평균이 크게 흔들릴 수 있지만, 표본 수가 늘어나면 평균이 모집단의 참값에 점점 가까워진다. 이번 글에서는 그 이유를 큰 수의 법칙과 함께 수학적, 직관적, 실제적 관점에서 설명한다.
표본 평균과 모집단 평균
어떤 모집단(population)이 있고, 그 모집단의 평균을 \(\mu\)라고 하자. 이제 모집단에서 크기가 \(n\)인 표본(sample)을 뽑고 그 평균을 \(\bar{X}_n\)이라 정의한다.
\[ \bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i \]
- \(X_i\): 독립적으로 뽑힌 표본
- \(\mu = E[X]\): 모집단의 기대값(평균)
이때 \(n\)이 커질수록 \(\bar{X}_n\)이 \(\mu\)에 가까워진다는 것이 바로 “표본의 크기가 커질수록 평균이 안정된다”는 말의 의미다.
큰 수의 법칙(Law of Large Numbers)
이 현상을 수학적으로 보장하는 정리가 바로 큰 수의 법칙이다.
- 약한 법칙: \[ \bar{X}_n \xrightarrow{p} \mu \] 즉, 표본 평균이 확률적으로 모집단 평균에 수렴한다.
- 강한 법칙: \[ \bar{X}_n \xrightarrow{a.s.} \mu \] 즉, 거의 확실하게(almost surely) 표본 평균이 모집단 평균에 수렴한다.
따라서 표본 크기 \(n\)이 커질수록 표본 평균은 모집단 평균과 차이가 줄어들고, 평균이 흔들리지 않고 안정된다.
직관적 설명
작은 표본에서는 우연에 따라 평균이 크게 치우칠 수 있다. 예를 들어 주사위를 두 번만 던지면 평균이 1.5가 될 수도 있고, 5가 될 수도 있다. 하지만 1,000번 던지면 평균은 3.5에 점점 가까워진다.
- 표본 수가 적을 때: 데이터가 극단적으로偏하면 평균이 크게 흔들린다.
- 표본 수가 많을 때: 극단값(outlier)의 영향이 상대적으로 작아져 평균이 모집단 평균에 가까워진다.
즉, 표본의 크기가 커질수록 “운”의 영향이 줄고 “규칙성”이 드러나면서 평균이 안정된다.
분산 관점에서의 이해
표본 평균의 분산을 계산해보면 다음과 같다.
\[ \mathrm{Var}(\bar{X}_n) = \frac{\sigma^2}{n} \]
- \(\sigma^2\): 모집단 분산
- \(n\): 표본 크기
즉, 표본 평균의 분산은 표본 수가 많아질수록 \(1/n\)에 비례해 줄어든다. 따라서 표본이 커질수록 표본 평균은 흔들림이 줄고, 안정적인 값이 된다.
실제 예시
동전 던지기
공정한 동전을 던질 때 앞면이 나올 확률은 0.5다. 하지만 10번만 던지면 앞면 비율은 0.4, 0.6처럼 크게 흔들릴 수 있다. 그러나 10,000번 던지면 앞면 비율은 0.499, 0.503처럼 0.5에 가까워진다.
주사위 던지기
주사위의 기대값은 3.5다. 5번만 던지면 평균이 2.4나 4.6이 될 수 있지만, 1,000번 던지면 평균은 거의 3.5 근처에 머물게 된다.
결론
표본의 크기가 커질수록 평균이 안정되는 이유는 다음과 같다.
- 큰 수의 법칙에 의해 표본 평균은 모집단 평균에 수렴한다.
- 표본 평균의 분산이 \(1/n\) 비율로 줄어들어 흔들림이 감소한다.
- 표본 수가 많아질수록 우연의 영향을 덜 받고 규칙성이 드러난다.
따라서 데이터 분석, 통계 추론, 과학적 실험에서 표본 수를 충분히 확보하는 것은 평균을 안정적으로 추정하고, 더 신뢰할 수 있는 결론을 내리기 위해 꼭 필요하다.