‘신뢰구간 95%’의 올바른 이해와 흔한 오해

통계학이나 데이터 분석을 공부하다 보면 "95%의 확률", "95% 신뢰구간"이라는 표현을 수없이 접하게 됩니다.

 

언뜻 보면 직관적이고 쉬워 보이지만, 실상 통계학 전공자나 현업 데이터 분석가들조차 말로 설명하려 할 때 가장 많이 말문이 막히거나 논리적 오류를 범하는 개념 중 하나가 바로 이 ‘신뢰구간(Confidence Interval)’입니다.

 

이번 글에서는 신뢰구간을 공부할 때 흔히 빠지는 오해의 문장을 살펴보고, 왜 그 해석이 잘못되었는지, 그리고 어떻게 이해해야 통계학적 결점 없이 본질을 파악할 수 있는지 차근차근 짚어보겠습니다.

1. 흔히 마주치는 '그럴듯한' 오해

신뢰구간 95%의 의미를 직관적으로 정리하려다 보면 다음과 같은 흐름으로 생각하기 쉽습니다.

표본 추출을 100회 반복한다.

1. 표본 1로부터 95% 신뢰구간 $[a_1, b_1]$을 계산한다. 모수가 고정되어 있지만 그 값을 모르는 상태에서, 모수가 표본 1로부터 계산한 신뢰구간에 포함될 확률은 95%이다.
2. 표본 2로부터 95% 신뢰구간 $[a_2, b_2]$를 계산한다. 모수가 표본 2의 신뢰구간에 포함될 확률 역시 95%이다.
3. 이를 표본 100까지 반복한다.
4. 따라서 각 표본마다 계산된 신뢰구간이 모수를 포함할 확률을 95%로 유지하므로, 100번 반복하면 대략 95번 정도는 모수가 구간 안에 들어간다.

 

위 설명은 겉보기에 매우 논리적이고 빈틈없어 보입니다. 실제로 "100번 반복하면 대략 95번 맞힌다"는 전체적인 결론과 취지 자체는 맞습니다.

 

하지만 중간에 등장하는 핵심 문장인 "계산된 신뢰구간에 모수가 포함될 확률은 95%이다"라는 표현은 빈도주의(Frequentist) 통계학의 근간을 뒤흔드는 오류입니다.

2. 왜 틀렸을까? : '사전 확률'과 '사후 확정'의 괴리

이 문장이 오류인 이유를 이해하려면 빈도주의 통계학이 세상을 바라보는 관점을 명확히 알아야 합니다.

① 모수는 '신만이 알고 있는 고정된 상수'다

빈도주의 관점에서 우리가 추정하려는 모집단의 참 모수(예: 대한민국 성인 전체의 진짜 평균 키 $\mu$)는 확률변수가 아닙니다. 이미 세상에 단 하나의 참값으로 고정되어 있는 상수입니다.

② 확률적인 것은 모수가 아니라 '구간'이다

반면, 우리가 뽑는 표본(Sample)은 무작위로 추출되므로 표본평균과 표본분산은 매번 달라집니다. 따라서 표본을 통해 계산되는 구간의 양 끝점 $[L, U]$ 역시 표본을 뽑을 때마다 이리저리 위치와 폭이 바뀌는 확률변수(Random Variable)입니다.

• 표본을 뽑기 전 (사전 확률 = 95% 성립): 구간의 공식 $[L(X), U(X)]$이 확률변수인 상태이므로, "앞으로 이 통계적 규칙에 따라 데이터를 뽑아 구간을 만들면, 그 구간이 참 모수를 품을 확률이 95%이다"라는 문장은 참입니다.
• 표본을 뽑아 구간 계산을 마친 후 (확률 95% 소멸 $\to$ 1 또는 0): 실제 표본 1을 뽑아 계산된 구간이 $[172.1\text{cm}, 174.5\text{cm}]$라는 구체적인 숫자로 확정된 순간, 고정된 참 모수는 이 구간 안에 이미 들어가 있거나(포함률 100%), 아예 들어가 있지 않거나(포함률 0%) 둘 중 하나로 결정됩니다.

우리가 참 모수의 값을 '모른다'고 해서, 이미 숫자로 굳어진 특정 구간 안에 모수가 들어갈 확률이 95%가 되는 것은 아닙니다.

3. 직관적 비유: '스크래치 복권' 이야기

이 차이가 와닿지 않는다면 당첨 확률 95%짜리 스크래치 복권을 떠올려보세요.

1. 복권을 긁기 전: "이 복권이 당첨 복권일 확률은 95%이다." $\rightarrow$ 참(True)
2. 복권을 동전으로 이미 긁어놓은 상태 (단, 손바닥으로 가려 내 눈으로 아직 확인하지 않음): "내가 결과를 아직 못 보았으니, 이 긁은 복권이 당첨 복권일 확률은 95%이다." $\rightarrow$ 거짓(False)

손바닥으로 가려두어 내가 당첨 여부를 모를 뿐이지, 인쇄된 은박 아래에는 이미 '당첨' 혹은 '꽝'이라는 결과가 100% 확정되어 있습니다. 내가 모른다는 사실이 물리적으로 이미 확정된 사건의 확률을 95%로 되돌려주지는 못합니다.

 

신뢰구간도 이와 같습니다. 표본 1을 바탕으로 계산을 끝낸 신뢰구간 $[a_1, b_1]$은 이미 긁어놓은 복권과 같습니다. 이미 계산된 특정 구간을 가리키며 "모수가 이 구간 안에 들어있을 확률이 95%"라고 말하는 것은, 긁어놓은 복권을 보며 여전히 확률이 95%라고 말하는 것과 같은 오류입니다.

4. 결점 없이 올바르게 이해하기

그렇다면 앞서 보았던 사고의 흐름을 통계학적으로 바로잡으면 어떻게 될까요?

1. 표본 추출 및 신뢰구간 도출 과정을 100회 독립적으로 반복한다.
2. 표본 1을 추출하기 전, "이 추정 방식으로 만들어질 구간이 참 모수를 포함할 확률"은 95%이다. 실제로 표본 1을 뽑아 계산된 구간 $[a_1, b_1]$은 참 모수를 포함했거나, 빗나갔다(결과는 1 또는 0).
3. 표본 2를 추출하기 전에도 동일하게 이 추정 방식의 적중률은 95%이다. 계산된 구간 $[a_2, b_2]$ 역시 참 모수를 포함하거나 포함하지 않는다.
4. 이 과정을 표본 100까지 반복한다.
5. 결과: "참 모수를 맞힐 확률이 95%인 구간 추정 절차(Rule/Procedure)"를 100번 독립적으로 적용했으므로, 완성된 100개의 구간 중 대략 95개 정도는 참 모수를 실제로 품고 있고, 약 5개는 빗나가게 된다.

5. 핵심 요약

구분	잘못된 해석	올바른 해석
확률의 대상	"계산된 특정 구간에 모수가 들어갈 확률"	"구간을 계산해내는 추정 절차(Process)의 성공률"
계산 완료 후 상태	구간 안에 모수가 있을 확률이 95%로 유지됨	모수가 포함되어 있거나(1) 아니거나(0) 둘 중 하나임
직관적 비유	크기가 95%인 상자 안에 공이 들어갈 확률	고정된 말뚝(모수)을 향해 던진 고리(구간)의 적중률

 

신뢰구간 95%는 이미 손에 쥔 특정 구간 하나의 정답 확률을 보장해 주는 것이 아니라, "우리가 데이터를 수집하고 구간을 도출해내는 통계적 방법론 자체가 95%의 장기적인 신뢰성을 가진다"는 점을 보증하는 개념입니다.