데이터 반출 없는 다기관 연합 인공지능 학습 플랫폼

수학, 물리/확률과 통계

표본분산을 구할 때 n-1로 나누는 이유

FedTensor 2026. 11. 21. 12:37

표본평균을 구할 때는 $n$으로 나누면서 표본분산을 구할 때는 $n-1$로 나누는 이유는 다음 두 가지로 설명할 수 있습니다.

  • ‘관측된 데이터 자체의 요약’과 ‘보이지 않는 모집단 모수의 불편추정(Unbiased Estimation)’이라는 목적의 차이
  • 표본평균을 먼저 계산함으로써 발생하는 자유도(Degrees of Freedom) 손실

1. 평균의 정의와 분모 $n$의 의미

통계학에서 산술평균은 관측된 값들의 무게중심(Center of Mass)이자, 제곱 오차의 합을 최소화하는 대표값입니다.

  • 수학적 정의: 크기 $n$인 표본 데이터 $x_1, x_2, \dots, x_n$이 주어졌을 때, 표본평균 $\bar{x}$는 다음과 같이 정의됩니다.$$\bar{x} = \frac{1}{n} \sum_{i=1}^{n} x_i$$
  • 기하학적·물리적 의미: 모든 데이터 포인트가 동일한 질량($1/n$)을 가질 때, 전체 분포가 균형을 이루는 지점입니다. 물리적으로 일직선 위에 놓인 $n$개의 질점이 평형을 이루는 받침점의 위치와 같습니다.
  • 최적화 관점: 임의의 상수 $c$에 대해 편차 제곱합 $\sum_{i=1}^n (x_i - c)^2$을 최소화하는 $c$를 미분하여 구하면 정확히 $c = \frac{1}{n}\sum x_i$가 도출됩니다.
  • 불편성(Unbiasedness): 모평균이 $\mu$일 때, 표본평균의 기댓값은 $E[\bar{X}] = \mu$이므로, $n$으로 나누는 것 자체가 이미 모평균에 대한 불편추정량이 됩니다. 별도의 보정이 필요하지 않습니다.

2. 표본분산을 구할 때 $(n-1)$로 나누는 3가지 체계적 이유

모집단의 분산 $\sigma^2$은 각 데이터가 모평균 $\mu$로부터 얼마나 떨어져 있는지의 기댓값($E[(X_i - \mu)^2]$)입니다. 그러나 현실에서는 $\mu$를 알 수 없기 때문에 표본에서 구한 표본평균 $\bar{x}$로 이를 대체해야 하며, 이 대체 과정에서 구조적인 과소추정이 발생합니다. 이를 보정하는 것이 베셀 보정(Bessel's Correction)입니다.

① 직관적·기하학적 관점: 편차 제곱합의 과소추정

표본평균 $\bar{x}$는 앞서 보았듯 해당 표본 데이터의 편차 제곱합을 최소로 만드는 값입니다. 따라서 모집단의 진짜 평균 $\mu$가 표본평균 $\bar{x}$와 조금이라도 다르다면($\bar{x} \neq \mu$), 항상 다음 부등식이 성립합니다.

$$\sum_{i=1}^{n} (x_i - \bar{x})^2 < \sum_{i=1}^{n} (x_i - \mu)^2$$

즉, 표본평균을 기준으로 계산한 편차 제곱합은 모평균을 기준으로 한 편차 제곱합보다 체계적으로 작게 계산됩니다. 이 값을 그대로 $n$으로 나누면 모분산 $\sigma^2$을 실제보다 작게 추정(과소추정)하게 되므로, 분모를 $n$보다 작은 $n-1$로 줄여 값을 키워줌으로써 편향을 상쇄합니다.

② 대수적 증명: 불편추정량(Unbiased Estimator) 조건

편차 제곱합의 기댓값을 직접 전개해 보면 왜 정확히 $n-1$이어야 하는지 수학적으로 드러납니다. 각 표본 $X_i$가 독립적으로 평균 $\mu$, 분산 $\sigma^2$인 분포에서 추출되었다고 가정합니다.

$$\begin{aligned} \sum_{i=1}^{n} (X_i - \bar{X})^2 &= \sum_{i=1}^{n} \left( (X_i - \mu) - (\bar{X} - \mu) \right)^2 \\ &= \sum_{i=1}^{n} (X_i - \mu)^2 - 2(\bar{X} - \mu)\sum_{i=1}^{n}(X_i - \mu) + \sum_{i=1}^{n} (\bar{X} - \mu)^2 \end{aligned}$$

이때 $\sum_{i=1}^n (X_i - \mu) = n(\bar{X} - \mu)$이므로 식이 다음과 같이 정리됩니다.

$$\sum_{i=1}^{n} (X_i - \bar{X})^2 = \sum_{i=1}^{n} (X_i - \mu)^2 - n(\bar{X} - \mu)^2$$

양변에 기댓값($E$)을 취하면, $E[(X_i - \mu)^2] = \sigma^2$이고 표본평균의 분산은 $\text{Var}(\bar{X}) = E[(\bar{X} - \mu)^2] = \frac{\sigma^2}{n}$이므로 다음과 같습니다.

$$\begin{aligned} E\left[ \sum_{i=1}^{n} (X_i - \bar{X})^2 \right] &= \sum_{i=1}^{n} E[(X_i - \mu)^2] - n \cdot E[(\bar{X} - \mu)^2] \\ &= n\sigma^2 - n\left(\frac{\sigma^2}{n}\right) \\ &= (n - 1)\sigma^2 \end{aligned}$$
  • 결론: 편차 제곱합의 기댓값은 $n\sigma^2$이 아니라 $(n-1)\sigma^2$입니다. 따라서 기댓값이 정확히 $\sigma^2$이 되도록 만들려면 양변을 $(n-1)$로 나누어야 합니다.$$E[s^2] = E\left[ \frac{1}{n-1}\sum_{i=1}^{n}(X_i - \bar{X})^2 \right] = \sigma^2$$

여기서 빠져나간 항인 $n(\bar{X}-\mu)^2$의 기댓값 $\sigma^2$은 표본평균 $\bar{X}$ 자체가 모평균 $\mu$ 주변에서 흔들리는 변동성(분산)을 의미합니다. 표본평균을 데이터에 끼워 맞추느라 전체 변동성에서 $1\sigma^2$만큼의 정보가 소모된 것입니다.

③ 선형대수학적 관점: 자유도(Degrees of Freedom)와 사영(Projection)

$n$개의 관측값 벡터 $\mathbf{x} = (x_1, x_2, \dots, x_n)^T \in \mathbb{R}^n$는 $n$차원 공간에 놓여 있습니다.

  • 표본평균을 구할 때는 $n$개의 데이터가 모두 독립적으로 기여하므로 차원(자유도)이 그대로 $n$입니다.
  • 반면 표본분산을 계산할 때 사용하는 편차 벡터 $\mathbf{d} = (x_1 - \bar{x}, x_2 - \bar{x}, \dots, x_n - \bar{x})^T$는 다음의 선형 제약 조건을 반드시 만족해야 합니다.$$\sum_{i=1}^{n} (x_i - \bar{x}) = 0$$
  • 이 제약 조건은 $n$차원 벡터 공간 $\mathbb{R}^n$에서 법선 벡터가 $\mathbf{1} = (1, 1, \dots, 1)^T$인 $(n-1)$차원 초평면(Hyperplane)을 정의합니다.
  • 즉, $n-1$개의 편차가 결정되면 마지막 $n$번째 편차는 자동으로 결정되므로 실질적으로 독립적인 정보의 차원(자유도)이 $n-1$개로 줄어듭니다. 등방성 가우시안 노이즈가 $(n-1)$차원 부분공간으로 정사영(Orthogonal Projection)되면 유클리드 거리 제곱의 기댓값이 차원 수인 $(n-1)\sigma^2$에 비례하게 되므로 $(n-1)$로 정규화합니다.

요약 비교

구분 표본평균 (xˉ) 표본분산 (s2)
수식 $\frac{1}{n}\sum_{i=1}^n x_i$ $\frac{1}{n-1}\sum_{i=1}^n (x_i - \bar{x})^2$
기준점 원점 ($0$) — 이미 알려진 고정값 표본평균 ($\bar{x}$) — 데이터로부터 추정된 값
자유도 $n$ (제약 조건 없음) $n - 1$ ($\sum (x_i - \bar{x}) = 0$ 제약 발생)
분모 선택 이유 $E[\bar{X}] = \mu$를 만족하기 위함 $E[s^2] = \sigma^2$ (불편성)를 만족하기 위함

 

(참고: 만약 목적 자체가 모집단 추정이 아니라 주어진 $n$개 데이터 집합 자체의 기술통계량(Descriptive Statistics)으로서의 분산이거나, 평균 제곱 오차(MSE)를 최소화하는 최대우도추정(MLE) 관점이라면 분모로 $n$을 사용하기도 합니다.)