통계학에서 데이터의 흩어짐(산포)을 나타내는 대표적인 지표로 분산(variance)과 표준편차(standard deviation)가 있다. 그런데 늘 표준편차는 “분산의 제곱근”이라고 정의된다. 왜 굳이 제곱근을 취해야 할까? 이번 글에서는 분산과 표준편차의 정의를 되짚어보고, 표준편차가 분산의 제곱근으로 정의되는 이유를 직관적·수학적으로 설명한다.
분산과 표준편차의 정의
확률변수 \(X\)의 평균을 \(\mu = E[X]\)라고 할 때, 분산과 표준편차는 다음과 같이 정의된다.
- 분산(Variance): \[ \mathrm{Var}(X) = E\big[(X – \mu)^2\big] \] 데이터가 평균에서 얼마나 떨어져 있는지를 제곱해 평균 낸 값.
- 표준편차(Standard Deviation): \[ \sigma = \sqrt{\mathrm{Var}(X)} \] 분산의 제곱근.
왜 분산은 제곱을 사용하는가?
평균에서 벗어난 정도를 단순히 합하면 양수와 음수가 서로 상쇄되기 때문에, “퍼짐”을 제대로 측정할 수 없다. 따라서 두 가지 방법이 가능하다.
- 편차의 절댓값을 사용하는 방법: 평균절대편차(Mean Absolute Deviation, MAD).
- 편차를 제곱해서 사용하는 방법: 분산(Variance).
수학적으로는 제곱을 사용하는 것이 더 다루기 편하다. 미분·적분 등 해석적 계산이 가능하고, 내적(inner product)이나 피타고라스 정리와 연결되는 장점이 있다. 그래서 통계학과 확률론에서는 보통 제곱을 사용한다.
그렇다면 왜 표준편차는 제곱근을 취할까?
1. 단위(unit)를 맞추기 위해
분산은 편차를 제곱했으므로, 단위도 원래 데이터 단위의 제곱이 된다.
- 예: 데이터가 “cm” 단위라면, 분산은 “cm²” 단위가 된다.
- 하지만 우리는 데이터와 동일한 단위로 산포도를 해석하는 것이 훨씬 직관적이다.
따라서 분산의 제곱근을 취해 원래 데이터와 같은 단위로 돌려놓은 것이 표준편차다.
2. 평균과 같은 스케일에서 비교하기 위해
데이터의 중심을 나타내는 평균과 데이터의 퍼짐을 나타내는 표준편차는 서로 비교될 때 의미가 있다. 만약 분산을 그대로 사용한다면, 크기가 평균보다 훨씬 크게 보일 수 있다. 표준편차는 평균과 같은 단위에서 해석되므로 실제 크기와 변동성을 직관적으로 비교할 수 있다.
3. 수학적 성질을 유지하기 위해
표준편차는 다음과 같은 중요한 성질을 가진다.
- 데이터를 선형변환(예: \(Y = aX + b\))하면 표준편차는 \(\sigma_Y = |a|\sigma_X\)로 변환된다.
- 이는 데이터의 스케일 변화에 표준편차가 직접적으로 반응한다는 것을 보여준다.
- 분산은 \(\mathrm{Var}(aX + b) = a^2 \mathrm{Var}(X)\)로 변환되기 때문에, 제곱근을 취해야만 원래 스케일과 맞는 “산포도 지표”가 된다.
예시로 이해하기
예시 1: 키 데이터
사람들의 키 평균이 170cm, 분산이 25 \((\text{cm}^2)\)라고 하자. 이때 표준편차는:
\[ \sigma = \sqrt{25} = 5 \text{ cm} \]
즉, 사람들의 키는 평균 170cm를 중심으로 대략 ±5cm 정도 흩어져 있다는 해석이 가능하다. 분산 25만 보고는 “25cm²”라는 단위 때문에 직관적 해석이 어렵다.
예시 2: 시험 점수
시험 점수 평균이 80점, 표준편차가 10점이라면 학생들의 점수는 대체로 80 ± 10 범위에서 분포한다. 이처럼 표준편차는 평균과 같은 단위로 표현되어, 실제 해석이 쉽다.
다른 방법은 없을까?
편차의 절댓값을 사용하는 평균절대편차(MAD)도 산포도를 나타내는 방법이지만, 수학적으로 다루기 까다롭다. 반면 분산과 표준편차는 해석학적 계산과 통계적 추론에서 강력한 장점을 갖는다. 따라서 실무와 이론 모두에서 표준편차가 가장 널리 쓰인다.
결론
표준편차가 분산의 제곱근으로 정의되는 이유는 다음과 같다.
- 분산은 편차를 제곱했기 때문에 단위가 원래 데이터의 제곱 단위가 된다.
- 표준편차는 제곱근을 취해 단위를 원래 데이터와 같게 되돌려준다.
- 이 덕분에 평균과 비교하기 쉽고, 직관적으로 데이터의 흩어짐을 해석할 수 있다.
- 수학적 성질(선형변환, 내적 구조 등)도 잘 유지되어 통계적 추론에 유리하다.
즉, 표준편차는 분산의 수학적 장점을 유지하면서도 해석 가능한 형태로 바꿔준 “실용적인 산포도 지표”라고 할 수 있다.