통계학을 처음 공부할 때 가장 먼저 마주치는 의문 중 하나가 있습니다.
"평균을 구할 때는 $n$으로 나누면서, 왜 표본분산을 구할 때는 $n-1$로 나눌까?"
오늘은 복잡한 수식 대신 강아지 한 마리와 체중계 하나를 떠올리며 이 원리를 직관적으로 파헤쳐 보겠습니다.
1. 눈에 보이는 데이터의 흩어짐 구하기
여기에 강아지 한 마리와 체중계 하나가 있습니다. 우리는 이 체중계로 강아지의 몸무게를 100번 측정했습니다.
가장 먼저 할 일은 100개의 측정값을 모두 더해 100으로 나누어 평균을 구하는 것입니다. 그리고 이 평균을 기준으로 각 측정값이 얼마나 떨어져 있는지(편차)를 구해 제곱한 뒤 모두 더합니다.
이 '편차 제곱의 합'을 100으로 나누면, 방금 우리가 손에 쥔 100개 데이터가 얼마나 흩어져 있는지를 알 수 있습니다. 이것이 우리 눈에 보이는 데이터의 흩어짐 정도(기술통계량으로서의 분산)입니다.
2. 보이지 않는 진실: 모분산의 실체
이제 시선을 보이지 않는 진실로 옮겨봅시다. 강아지에게는 '진짜 몸무게(모평균)'가 존재합니다. 우리는 측정을 통해 그 값을 짐작할 뿐, 신이 아닌 이상 소수점 아래 끝자리까지 완벽한 진짜 몸무게는 영원히 알 수 없습니다.
게다가 체중계와 측정 과정 역시 완벽하지 않아서, 강아지가 조금 움직이거나 바닥의 기울기가 미세하게 달라질 때마다 측정값은 진짜 몸무게 주변에서 조금씩 흔들리며 다르게 나옵니다.
체중계에 한쪽으로만 치우치는 고장(편향)이 없다고 가정할 때, 매 측정마다 발생하는 '진짜 몸무게와의 오차'를 제곱한 값의 기댓값을 우리는 모분산이라 부릅니다. 즉, 모분산의 실체는 측정 과정과 체중계 자체의 불완전함이 만들어내는 본질적인 흔들림의 크기입니다.
3. 한 번의 측정과 자유도 1
여기서 한 번의 측정 과정에만 집중해 봅시다. 강아지를 체중계에 올렸다가 내리는 한 번의 측정은 앞선 측정에 영향을 받지 않는 독립적인 사건이며, 이때 자유도 1만큼의 독립적인 오차(변동성)가 발생합니다.
자유도(Degrees of Freedom)란?
값이 다른 제약 없이 독립적으로 변화할 수 있는 여지를 뜻하며, 바로 이 자유로운 흔들림이 분산을 만들어냅니다.
따라서 100번을 독립적으로 측정하면 진짜 몸무게를 기준으로 한 오차 제곱의 합은 평균적으로 $100 \times (\text{모분산})$만큼 쌓이고, 99번 측정하면 $99 \times (\text{모분산})$만큼 쌓입니다.
4. 사라진 자유도 1개는 어디로 갔을까?
문제는 우리가 강아지의 진짜 몸무게를 모른다는 데서 시작됩니다. 어쩔 수 없이 우리는 100번 재서 구한 '표본평균'을 기준점 삼아 편차 제곱의 합을 구해야 합니다.
모분산의 정의는 결국 '자유도 1개당 몫으로 돌아가는 오차 제곱의 기댓값'입니다. 그런데 진짜 몸무게 대신 표본평균을 기준점으로 삼는 순간, 전체 자유도는 100이 아니라 $100 - 1 = 99$로 줄어듭니다.
100개의 측정값과 그 값들로 만든 표본평균이 하나의 평균 공식으로 묶여버렸기 때문입니다. 99번의 측정값이 정해지고 표본평균이 고정되면, 마지막 100번째 값은 평균을 맞추기 위해 자동으로 결정될 뿐 스스로 흔들릴 자유를 잃어버립니다.
그렇다면 사라진 자유도 1개는 어디로 갔을까요?
바로 진짜 몸무게(모평균) 주변에서 이리저리 흔들리는 '표본평균' 자신이 가져갔습니다. 우리가 100번을 잴 때마다 표본평균 역시 진짜 몸무게와 정확히 일치하지 않고 조금씩 빗나가는데, 전체 변동성 중 자유도 1개 분량의 에너지가 표본평균을 데이터에 끼워 맞추는 데 소모된 것입니다.
5. 결론: 그래서 99로 나눕니다
결국 100개의 데이터에서 표본평균을 기준으로 계산한 편차 제곱의 합 속에는 자유도 99개 분량의 변동성만이 남아 있습니다. 따라서 자유도 1개당 오차 제곱의 기댓값, 즉 모분산의 불편추정량을 구하려면 편차 제곱의 합을 100이 아닌 99로 나누어야 합니다.
이제 이 과정을 확장해 봅시다. 강아지 몸무게를 100번 재서 편차 제곱의 합을 99로 나누어 '표본분산'을 구하는 실험을 수백, 수천 번 반복한다면, 매번 조금씩 다르게 나오는 표본분산들의 평균은 우리가 끝내 알 수 없었던 강아지 진짜 몸무게의 측정에 따른 변동성, 즉 모분산에 정확히 수렴하게 됩니다.
핵심 요약
- 자유도는 독립적으로 흔들릴 수 있는 여지이며, 이 흔들림이 분산을 만듭니다.
- 모평균 대신 표본평균을 기준으로 삼으면 데이터들이 평균 공식에 묶이면서 자유도가 1개 줄어듭니다.
- 줄어든 자유도 1개는 모평균 주변에서 흔들리는 표본평균 자신이 가져갔기 때문에, 남은 자유도($n-1$)로 나누어 주어야 모분산을 편향 없이 추정할 수 있습니다.
'수학, 물리 > 확률과 통계' 카테고리의 다른 글
| 표본분산을 구할 때 n-1로 나누는 이유 (0) | 2026.11.21 |
|---|---|
| 확률 분포 샘플링 방법 (0) | 2025.11.30 |
| 두 벡터의 내적의 분산 구하기 (0) | 2025.10.22 |
| 확률(Probability)과 우도(Likelihood): 명확한 개념 비교 (0) | 2025.10.18 |