베이즈 정리에서
빈도주의와 베이지안 추론까지

우리가 실제로 풀려는 문제는 무엇인가

통계학은 이미 알고 있는 확률모형에서 확률을 계산하는 데서 끝나지 않는다. 현실에서는 오히려 데이터는 보았지만 그 데이터를 만든 규칙을 모르는 경우가 더 많다.

예를 들어 동전의 앞면 확률을 \(\theta\)라고 하자. \(\theta\)를 알고 있다면 \(n\)번 던져 앞면이 \(X\)번 나올 확률은 다음 모형으로 계산할 수 있다.

하지만 실제 상황은 반대다. 우리는 동전을 던져 \(x\)라는 결과를 관측했지만, 그 결과를 만들어 낸 참된 \(\theta\)를 모른다.

통계적 추론은 이 화살표를 거꾸로 따라가려는 작업이다.

다만 확률적으로 생성된 하나의 데이터는 여러 \(\theta\)에서 모두 나올 수 있다. 따라서 방정식처럼 \(\theta\)를 정확히 역산할 수는 없다. 우리가 할 수 있는 것은 \(\theta\)를 추정하고, 그 추론이 얼마나 불확실한지 평가하며, 미래 데이터를 예측하는 것이다.

조건부확률에서 베이즈 정리 유도

사건 \(B\)가 일어났다는 조건 아래에서 \(A\)가 일어날 확률은, \(B\)라는 영역 중 \(A\)와 겹치는 부분이 차지하는 비율로 정의된다.

이를 정리하면 같은 결합사건 \(A\cap B\)를 다음과 같이 쓸 수 있다.

조건의 방향을 바꾸어도 결합사건은 동일하다.

따라서 두 식을 같다고 놓으면:

마지막으로 \(P(B)\)로 나누면 베이즈 정리를 얻는다.

전체확률법칙과 베이즈 정리의 분모

\(A_1,\dots,A_n\)이 서로 겹치지 않으면서 전체 가능성을 나눈다고 하자. 관측 \(B\)는 각 \(A_j\)가 참인 경우를 통해 발생할 수 있다.

각 부분이 서로 겹치지 않으므로 확률을 더할 수 있다.

그리고 \(P(B\cap A_j)=P(B\mid A_j)P(A_j)\)이므로:

이를 베이즈 정리에 대입하면 다음 형태가 된다.

분자는 \(A_i\)라는 특정 원인이 실제로 \(B\)를 만들어 낸 경로의 확률이다. 분모는 \(B\)가 발생할 수 있는 모든 경로의 확률을 합한 것이다. 따라서 이 식은 관측 \(B\)가 생겼을 때 여러 가능한 원인 \(A_j\) 사이의 상대적 무게를 다시 배분한다.

질병 예시: 집단의 비율에서 개인의 불확실성으로

질병이 있는 사건을 \(D\), 검사 양성을 \(+\)라고 하자. 다음과 같은 정보를 알고 있다고 가정한다.

양성 판정을 받은 사람이 실제 환자일 확률은 전체확률법칙을 포함한 베이즈 정리로 계산된다.

먼저 집단의 비율로 읽기

10,000명을 생각하면 실제 환자는 100명이고, 그중 90명이 양성이다. 건강한 9,900명 중에는 495명이 거짓 양성이다. 따라서 양성자는 모두 585명이고 그중 환자는 90명이다.

이 해석에서 \(P(D\mid +)\)는 양성자 집단 중 실제 환자가 차지하는 조건부 비율이다. 여기에는 ‘믿음’이라는 표현이 꼭 필요하지 않다.

이번에는 특정 개인에 대해 읽기

철수가 양성 판정을 받았다고 하자. 철수는 검사 전부터 실제로 환자이거나 환자가 아니다. 양성 판정이 철수의 질병 상태를 새로 만든 것은 아니다. 다만 우리는 그 상태를 직접 알지 못한다.

철수에 대해 유병률 외의 정보가 없을 때는 검사 전 확률을 \(1\%\)로 평가한다. 양성이라는 정보를 얻은 뒤에는 \(15.38\%\)로 평가한다.

단, 집단의 유병률을 철수에게 적용하려면 철수가 그 모집단의 대표적인 구성원이고, 해당 검사의 민감도와 거짓 양성률이 철수에게도 적용된다고 가정해야 한다. 연령, 증상, 가족력 같은 정보가 있다면 \(P(D)\)부터 조정되어야 한다.

‘믿음 업데이트’는 조건부화라는 뜻이다

베이지안 문맥에서 belief는 감정이나 막연한 느낌이 아니다. 현재 가진 정보 아래에서 어떤 명제가 참일 가능성을 수치로 표현한 것이다.

어떤 가설 \(H\)가 있고 아직 증거 \(E\)를 보지 않았을 때, 우리는 \(P(H)\)를 사용한다. 증거 \(E\)를 관측한 뒤에는 더 이상 이전 정보 상태에 머물 수 없으므로 \(P(H\mid E)\)를 사용한다.

베이즈 정리는 이 조건부화가 기존 확률, 증거가 각 가설 아래에서 나타날 가능성, 그리고 증거의 전체 확률과 어떻게 연결되는지를 보여 준다.

오즈 형태로 보면 업데이트의 구조가 더 선명해진다.

따라서 믿음 업데이트는 현실의 상태가 확률적으로 바뀐다는 뜻이 아니다. 같은 고정된 현실을 두고, 우리가 이용할 수 있는 정보가 늘면서 그 현실에 대한 조건부확률이 달라진다는 뜻이다.

질병 상태 \(D\)를 미지의 모수 \(\theta\)로 바꾸기

질병 예시에서는 우리가 알고 싶은 대상이 \(D\in\{\text{질병 있음},\text{질병 없음}\}\)인 이산 상태였다. 동전 문제에서는 알고 싶은 대상이 \(\theta\in[0,1]\)인 연속적인 값이다. 하지만 추론 구조는 같다.

연속적인 \(\theta\)에서는 확률질량 대신 밀도를 사용하지만, 결합밀도를 두 방향으로 분해한다는 논리는 동일하다.

따라서:

이 식은 질병 예시와 다른 원리를 도입한 것이 아니다. 숨겨진 두 상태에 대한 조건부확률을, 숨겨진 연속 모수에 대한 조건부밀도로 확장한 것이다.

두 관점은 같은 사실에 동의하고, 한 가지 질문에서 갈라진다

참된 모수를 \(\theta_0\)라고 하자. 빈도주의와 베이지안 모두 다음 두 문장을 받아들일 수 있다.

차이는 “불확실성이 존재하는가?”가 아니다. 둘 다 우리가 불확실하다는 사실을 인정한다. 진짜 차이는 다음 질문에 대한 답이다.

빈도주의는 \(\theta\)가 아니라 추정 절차의 변동성을 분석한다

참된 값이 \(\theta_0\)로 고정되어 있다고 하자. 데이터는 이 값에 의해 정해진 확률분포에서 생성된다.

데이터로부터 추정량을 만든다.

\(\theta_0\)는 고정되어 있지만 \(X\)는 실험을 반복할 때마다 달라진다. 따라서 \(X\)의 함수인 \(\hat\theta\)도 반복할 때마다 달라진다. 빈도주의는 바로 이 반복 변동성을 이용해 추론의 불확실성을 측정한다.

동전 100번 중 앞면 60번

가능도는 관측한 데이터가 각 \(\theta\) 아래에서 얼마나 잘 설명되는지를 나타낸다.

이를 가장 크게 만드는 최대가능도추정량은:

빈도주의의 작업은 여기서 끝나지 않는다. 이 추정량이 반복 표본에서 얼마나 편향되는지, 분산이 얼마나 큰지, 데이터가 많아질수록 참값에 가까워지는지 등을 평가한다.

신뢰구간의 의미

95% 신뢰구간 절차를 \(C(X)\)라고 하면 빈도주의적 보장은 다음과 같다.

같은 방식으로 데이터를 반복 수집해 매번 구간을 만들면, 그렇게 생성된 구간 중 약 95%가 고정된 참값 \(\theta_0\)를 포함한다는 뜻이다. 데이터가 관측된 뒤 특정 구간과 \(\theta_0\)는 모두 고정되어 있으므로, 엄격한 빈도주의에서는 “이번 구간에 \(\theta_0\)가 있을 확률이 95%”라고 해석하지 않는다.

베타분포는 확률 \(\theta\)에 대한 불확실성을 표현한다

동전의 앞면 확률 \(\theta\)는 반드시 0과 1 사이에 있다. 베타분포는 이 구간 위에 곡선을 그려, \(\theta\)가 어느 부근에 있을 것 같은지와 그 판단이 얼마나 강한지를 표현한다. 먼저 완성된 공식을 외우기보다, 그 모양이 왜 생기는지부터 살펴보자.

먼저 ‘동전 결과의 분포’와 ‘동전 확률의 분포’를 구분하자

동전을 여러 번 던졌을 때 앞면이 몇 번 나오는지는 이항분포가 설명한다. 이때 \(\theta\)는 이미 주어진 값으로 취급된다.

반면 베타분포는 결과 \(X\)의 분포가 아니다. 아직 모르는 앞면 확률 \(\theta\) 자체가 어느 값일지에 대한 우리의 불확실성을 표현하는 분포다.

베타분포의 기본 모양은 어떻게 만들어지는가

후보값 \(\theta\)가 주어졌다고 하자. 한 번의 앞면은 그 후보에 \(\theta\)라는 무게를 주고, 한 번의 뒷면은 \(1-\theta\)라는 무게를 준다. 예를 들어 앞면이 \(r\)번, 뒷면이 \(s\)번 있었다는 정보의 상대적 무게는 다음 꼴이 된다.

이 식은 각 후보를 비교하는 상대적인 모양은 만들지만, 아직 곡선 아래 전체 면적이 1인 확률밀도는 아니다. 따라서 전체 면적으로 나누어 정규화한다.

1. 상대적인 무게를 만든다.
   \(q(\theta)=\theta^r(1-\theta)^s\)라고 둔다.
2. 모든 후보의 무게를 더한다.
   연속 후보이므로 합 대신 \(\int_0^1 t^r(1-t)^s\,dt\)를 계산한다.
3. 각 높이를 전체 면적으로 나눈다.
   그러면 곡선 아래 전체 면적이 1이 되어 확률밀도가 된다.

이제 \(\alpha=r+1\), \(\beta=s+1\)이라고 이름을 바꾸면 지수는 각각 \(\alpha-1\), \(\beta-1\)이 된다. 이것이 베타분포의 표준적인 표기다.

\(B(\alpha,\beta)\)는 새로운 정보가 아니라, 곡선 아래 전체 면적을 1로 맞추는 정규화 상수다. 분자의 식이 곡선의 모양을 정하고, \(1/B(\alpha,\beta)\)는 그 모양을 유지한 채 세로 높이만 조정한다.

\(\alpha\)와 \(\beta\)가 정수라면 \(\alpha-1\), \(\beta-1\)을 가상의 앞면·뒷면 횟수처럼 이해할 수 있다. 일반적인 베타분포에서는 양의 실수도 허용하므로, 이는 정확한 실제 횟수라기보다 정보의 방향과 강도를 설명하는 직관이다.

\(\alpha\)와 \(\beta\)는 곡선을 어떻게 바꾸는가

비율은 중심을, 합은 모이는 정도를 결정한다

베타분포의 평균은 다음과 같다.

따라서 \(\alpha:\beta\)의 비율은 분포의 중심이 어느 쪽에 놓이는지를 알려 준다. 같은 비율을 유지하면서 \(\alpha+\beta\)가 커지면 분포는 그 중심 주변에 더 좁게 모인다. 즉 중심에 대한 정보가 더 강하다는 뜻이다.

평균은 곡선의 균형점이고, 곡선이 가장 높은 위치와 항상 같지는 않다. 예를 들어 \(\operatorname{Beta}(8,2)\)의 평균은 0.8이지만 가장 높은 지점은 약 0.875다.

왜 동전 데이터와 결합하면 다시 베타분포가 되는가

사전밀도가 베타분포라면 모양을 결정하는 부분은 다음과 같다.

앞면을 \(h\)번, 뒷면을 \(t\)번 관측했을 때 가능도의 모양은 다음과 같다.

베이즈 규칙에 따라 두 식을 곱하면 지수끼리 더해진다.

마지막 식도 베타분포와 정확히 같은 모양이다. 따라서 정규화하면 다음 사후분포를 얻는다.

\(\operatorname{Beta}(1,1)\)에서 앞면 60번, 뒷면 40번을 관측하면

사전분포 \(\operatorname{Beta}(1,1)\)은 모든 \(\theta\in[0,1]\)에 같은 밀도를 둔다. 여기에 앞면 60번과 뒷면 40번의 정보를 더하면 \(\alpha=1+60=61\), \(\beta=1+40=41\)이 된다.

관측 비율은 \(60/100=0.6\)이지만 사후평균은 약 0.598이다. 데이터가 균등 사전분포와 합쳐지면서 아주 조금 0.5 방향으로 이동한 것이다. 데이터가 더 많아질수록 처음의 \(1,1\)이 차지하는 상대적 영향은 작아지고, 사후분포는 관측 비율 근처에 더욱 좁게 모인다.

베이지안은 \(\theta\)에 대한 정보 상태를 분포로 표현한다

베이지안도 데이터 생성 모형 \(p(x\mid\theta)\)를 사용한다. 차이는 데이터를 보기 전 \(\theta\)에 대한 정보도 사전분포 \(p(\theta)\)로 표현한다는 점이다.

먼저 참값 \(\theta_0\)와 후보 \(\theta\)를 구분하기

\(\theta_0\)는 현실에서 데이터를 만들어 낸 실제 참값을 가리킨다. 이 값은 하나로 고정되어 있지만 우리는 알지 못한다. 반면 베이즈 공식 안의 \(\theta\)는 참값일 수 있는 여러 후보를 움직이며 나타내는 변수다.

따라서 \(\theta_0=1/3\)이라고 먼저 확정해 놓고 업데이트하는 것이 아니다. 그렇게 확정한다면 이미 참값을 안다고 전제한 것이므로 \(P(\theta=1/3)=1\)이고 어떤 데이터를 보아도 그 확률은 1로 남는다. 실제 베이지안 추론에서는 \(1/3\)을 여러 후보 중 하나로 두고, 데이터 관측 전후에 그 후보에 부여되는 무게가 어떻게 달라지는지를 계산한다.

후보가 세 개뿐이라면: 모든 후보의 사후확률을 계산한다

설명을 단순화하기 위해 가능한 후보가 다음 세 개뿐이라고 하자.

데이터를 보기 전 사전확률을 다음과 같이 부여했다고 하자.

동전을 10번 던져 앞면이 7번 나온 데이터 \(x\)를 관측했다면, 각 후보에 대해 다음 가능도를 계산한다.

그다음 각 후보의 가능도 × 사전확률을 구한다. 이것이 정규화하기 전의 사후 무게다.

세 개의 정규화 전 사후 무게를 모두 더하면 관측 데이터 \(x\)의 전체 확률이 된다. 이 값은 “세 후보 중 실제 참값이 어느 것이든 상관없이, 앞면 7번이라는 결과가 나올 확률”이다.

이제 각 후보의 무게를 이 전체 무게로 나누면 세 값의 합이 1이 되고, 비로소 조건부확률인 사후확률이 된다.

분모는 관측 \(x\)가 세 후보 중 어느 경로를 통해서든 나타날 전체 확률이므로 모든 후보에서 동일하다. 따라서 후보들의 순위만 비교할 때는 분자만 비교해도 된다.

이 예에서는 \(\theta=1/2\)의 사후확률이 가장 크다. 이렇게 사후확률이 가장 큰 후보를 하나의 점추정값으로 선택하는 방법을 MAP 추정이라고 한다.

또한 이 결론은 처음에 허용한 세 후보 안에서만 유효하다. 실제 참값 \(\theta_0=0.6\)이지만 후보 집합에 0.6이 없다면, 모델은 여전히 세 후보 중 하나를 가장 그럴듯한 값으로 고른다. 그러므로 MAP는 “현실의 모든 값 중 참값”이 아니라 현재 모델이 허용한 후보 중 가장 높은 사후 무게를 가진 값이다.

후보가 연속적이라면: 아주 작은 구간들의 합으로 생각하자

이제 동전의 앞면 확률이 세 값 중 하나가 아니라 \(0\)과 \(1\) 사이의 모든 실수일 수 있다고 하자.

무한히 많은 실숫값을 처음부터 하나씩 계산한다고 생각하면 어렵다. 먼저 \([0,1]\)을 폭이 아주 작은 구간들로 잘라 생각해 보자. 예를 들어 폭을 \(0.01\)로 잡으면 \([0,0.01),[0.01,0.02),\ldots,[0.99,1]\)처럼 100개의 작은 구간이 생긴다. 각각의 구간을 앞에서 보았던 “후보 하나”와 비슷하게 취급할 수 있다.

\(t\) 부근의 폭 \(\Delta\theta\)인 작은 구간을 생각하자. 사전밀도가 \(p(t)\)라면 이 구간에 들어 있을 사전확률은 대략 다음과 같다.

그리고 \(\theta\)가 이 구간의 대표값 \(t\)라고 할 때 관측 데이터 \(x\)가 나올 가능도는 \(p(x\mid t)\)다. 따라서 이 작은 구간의 정규화 전 사후 무게는 다음과 같이 생각할 수 있다.

왜 모든 후보의 무게를 더하면 \(p(x)\)가 되는가

먼저 후보가 세 개였던 경우를 다시 보자. 다음 곱은 “\(\theta_i\)가 참이면서 동시에 데이터 \(x\)가 나오는 경우”의 확률이다.

데이터 \(x\)는 \(\theta=1/3\)인 경로로도, \(\theta=1/2\)인 경로로도, \(\theta=2/3\)인 경로로도 나올 수 있다. 세 후보가 서로 겹치지 않으면서 모든 가능성을 빠짐없이 포함한다면, 이 세 경로의 확률을 더한 값은 그냥 “\(x\)가 나오는 전체 확률”이다.

연속적인 경우에도 원리는 같다. 다만 작은 구간이 무한히 많아지므로 덧셈 기호 \(\sum\)가 적분 기호 \(\int\)로 바뀐다.

이 식은 가능한 모든 \(t\)를 사전적으로 얼마나 믿었는지 \(p(t)\)로 가중하여, 각 \(t\)에서 데이터 \(x\)가 나올 가능도 \(p(x\mid t)\)를 평균 낸 것이다. 따라서 \(p(x)\)는 \(\theta\)를 아직 모르는 상태에서 데이터 \(x\)가 관측될 전체 확률이다. 이를 주변확률 또는 증거라고도 부른다.

정규화는 ‘상대적인 무게’를 ‘확률분포’로 바꾸는 과정이다

가능도와 사전밀도를 곱한 다음 함수부터 정의해 보자.

\(w(\theta)\)는 어느 후보가 다른 후보보다 얼마나 더 그럴듯한지는 보여 주지만, 아직 곡선 아래 전체 면적이 1이라는 보장은 없다. 이 곡선의 전체 면적은 앞에서 구한 \(p(x)\)다.

따라서 모든 높이를 전체 면적 \(p(x)\)로 나누면 모양과 후보 간 상대적인 비율은 그대로 유지하면서 전체 면적만 1이 된다. 이것이 사후밀도다.

여기서 적분 안의 \(t\)는 후보 전체를 훑기 위한 임시 변수다. 바깥에서 현재 비교하고 있는 후보를 나타내는 \(\theta\)와 구분하려고 다른 글자를 사용했을 뿐이다.

밀도 곡선의 높이는 한 점의 확률이 아니다

연속분포에서는 정확히 한 점만 집어 그 확률을 물으면 일반적으로 0이다.

이것은 \(0.6\)이 불가능하다는 뜻이 아니다. 확률은 곡선의 면적인데, 한 점은 폭이 없으므로 면적도 0이라는 뜻이다. 실제 확률은 구간에 대해 계산한다.

폭이 아주 작은 구간이라면 다음처럼 근사할 수 있다.

따라서 \(p(0.6\mid x)\)는 “\(\theta=0.6\)일 확률”이 아니라, 0.6 부근의 같은 폭을 가진 작은 구간에 확률이 얼마나 조밀하게 모여 있는지를 나타내는 값이다. 연속형 MAP는 한 점의 확률이 가장 큰 곳이 아니라 사후밀도 곡선의 높이가 가장 높은 지점이다.

베타분포 예시에서 정규화 과정을 직접 연결해 보기

사전분포를 \(\operatorname{Beta}(1,1)\)로 두고, 동전을 100번 던져 앞면 60번과 뒷면 40번을 관측했다고 하자. \(\operatorname{Beta}(1,1)\)의 사전밀도는 \([0,1]\)에서 \(p(\theta)=1\)이다.

100번 중 앞면이 60번 나올 가능도는 다음과 같다.

가능도와 사전밀도를 곱하면 정규화 전 사후 무게 함수가 된다.

이 곡선은 0.6 부근에서 높고 양끝에서는 낮으므로, 데이터가 \(\theta\)를 0.6 부근으로 강하게 지지한다는 상대적인 모양은 이미 보여 준다. 다만 전체 면적이 아직 1이라고 보장할 수 없으므로 전체 면적으로 나눈다.

조합항 \(\binom{100}{60}\)은 모든 후보에 공통이므로 분자와 분모에서 서로 약분된다. 따라서 사후밀도는 더 간단히 다음처럼 볼 수 있다.

이 식은 “\(\theta^{60}(1-\theta)^{40}\) 모양의 곡선을 전체 면적이 1이 되도록 높이만 조정한 것”이다. 바로 이 정규화된 분포를 \(\operatorname{Beta}(61,41)\)이라고 부른다.

베이지안의 기본 결과는 하나의 숫자가 아니라 이 사후밀도 곡선 전체다. 필요할 때 목적에 맞는 요약값을 꺼낼 수 있다.

MAP는 가장 높은 한 지점을 보여 주고, 사후평균은 분포 전체의 균형점을 보여 주며, 신용구간은 어느 범위에 사후확률이 얼마나 모여 있는지를 보여 준다. 셋은 사후분포 전체에서 서로 다른 정보를 꺼내는 방법이다.

이 문서에서는 확률질량함수와 확률밀도함수를 모두 간단히 \(p\)로 표기한다. 이번 예의 \(x\)는 “100번 중 앞면 60번”이라는 이산 결과이므로 \(p(x)\)는 엄밀히는 \(P(X=60)\)과 같은 확률을 뜻한다.

미래 예측

베이지안은 \(\theta\)의 사후불확실성을 없애 버리고 하나의 값만 대입하는 대신, 가능한 모든 \(\theta\)에 대해 평균을 낸다.

이 적분은 각 후보 \(\theta\) 아래의 미래 예측을 그 후보의 사후밀도만큼 가중평균한다. MAP 하나만 대입하는 것과 달리, 아직 남아 있는 모수 불확실성 전체를 예측에 반영한다.

두 관점은 결국 무엇을 하고 싶은가

두 관점 모두 관측 데이터로부터 미지의 \(\theta\)를 더 잘 이해하고 싶어 한다. 정확한 참값을 유한한 데이터만으로 확정할 수 없으므로, 점추정·구간추정·가설 판단·예측·의사결정을 수행한다.

데이터가 많고 모형이 규칙적인 단순 문제에서는 두 방법의 점추정과 구간이 비슷해지는 경우가 많다. 차이는 데이터가 적거나, 사전정보가 중요하거나, 복잡한 계층 구조와 의사결정 문제가 있을 때 더 분명해진다.

혼동하기 쉬운 핵심 사항

1. 가능도는 사후확률이 아니다

가능도는 \(\theta\)를 바꾸어 가며 관측 데이터 \(x\)가 얼마나 잘 설명되는지 비교하는 함수다. 가능도가 \(\theta=0.6\)에서 가장 크다는 것은 “0.6이 데이터를 가장 잘 설명한다”는 뜻이지 “\(\theta=0.6\)일 확률이 가장 크다”는 뜻은 아니다.

\(\theta\)에 대한 확률 진술을 하려면 베이지안 관점에서는 사전분포까지 포함한 사후분포가 필요하다.

2. 사전분포는 임의적일 수 있다는 비판

같은 데이터라도 사전분포가 다르면 사후분포가 달라질 수 있으며, 데이터가 적을수록 그 영향이 커질 수 있다. 빈도주의는 이 점을 연구자의 선택에 대한 의존성으로 비판한다.

베이지안은 실제 사전정보가 존재한다면 이를 숨기기보다 명시적으로 모델링해야 하며, 사전분포를 사용하지 않는 분석도 추정량, 벌점, 검정 기준 같은 여러 선택을 포함한다고 답한다. 실무에서는 민감도 분석을 통해 사전분포 선택이 결과에 얼마나 영향을 주는지 확인하는 것이 중요하다.

3. 빈도주의에서도 랜덤한 모수가 등장할 수 있다

여러 학교의 효과가 학교 모집단에서 추출되었다고 모델링한다면 다음과 같은 랜덤효과 모형을 쓸 수 있다.

이 경우 \(\theta_i\)가 랜덤한 이유는 우리의 무지만이 아니라, 학교 효과들이 모집단에서 반복적으로 추출된다는 생성 구조를 모델링했기 때문이다. 빈도주의에서 어떤 양이 랜덤한지는 반복 가능한 확률모형 안에서의 역할로 결정된다.

4. “\(\theta\)를 구한다”는 말의 정확한 뜻

통계의 \(\theta\)는 \(2\theta+1=5\)에서 해를 구하는 것과 다르다. 관측 데이터는 여러 \(\theta\)에서 모두 발생할 수 있으므로, 유한한 데이터로 참값을 논리적으로 확정할 수 없다.

처음부터 끝까지 한 흐름으로 정리