검사 결과가 양성이라면 정말 병에 걸렸을 확률은 얼마나 될까요? 많은 사람은 검사 정확도만 보고 “거의 확실하다”고 생각하지만, 베이즈 추론은 여기에 한 가지 질문을 더합니다. 원래 그 병에 걸린 사람이 얼마나 드문가, 즉 기저율은 얼마인가?
베이즈 추론은 새로운 데이터가 들어올 때 기존의 믿음을 확률적으로 업데이트하는 방법입니다. 처음에는 과거 경험이나 기존 데이터에 근거한 사전 확률을 가지고 출발하고, 관측된 증거가 그 믿음을 얼마나 지지하는지 가능도로 평가한 뒤, 업데이트된 사후 확률을 얻습니다. 한 줄로 말하면 “불확실한 상황에서 새 증거를 반영해 판단을 갱신하는 수학적 언어”입니다.
베이즈 추론이란 무엇인가
베이즈 추론은 Bayesian inference라고도 부르며, 통계적 추론의 한 관점입니다. 핵심은 모수나 가설을 고정된 미지의 값으로만 보지 않고, 우리가 가진 불확실성을 확률분포로 표현한다는 점입니다. 그래서 결과도 단 하나의 숫자로 끝나기보다 “이 값일 가능성이 어느 정도이며, 어느 범위에 있을 가능성이 크다”처럼 분포와 구간으로 해석됩니다.
예를 들어 신제품 전환율을 추정한다고 해보겠습니다. 빈도주의 방식에서는 표본 전환율과 신뢰구간을 통해 장기 반복 실험의 성질을 해석하는 경우가 많습니다. 반면 베이지안 통계에서는 전환율 자체에 대한 사전분포를 두고, 실제 방문자와 구매 데이터를 관측한 뒤 사후분포를 계산합니다. 두 접근은 경쟁 관계라기보다 확률을 해석하는 관점과 질문의 방식이 다릅니다.
Stanford Encyclopedia of Philosophy의 베이즈 정리 설명에서도 볼 수 있듯이, 베이즈 정리는 증거가 가설의 확률을 어떻게 바꾸는지 설명하는 조건부 확률의 핵심 공식입니다. 베이즈 추론은 이 공식을 실제 데이터 분석과 의사결정에 확장해 사용하는 통계적 절차라고 이해하면 쉽습니다.
베이즈 정리와 베이즈 추론의 관계
베이즈 정리는 다음과 같이 쓸 수 있습니다.
P(H|E) = P(E|H)P(H) / P(E)
여기서 H는 가설, E는 관측된 증거입니다. P(H|E)는 증거 E를 본 뒤 가설 H가 참일 확률이고, P(H)는 증거를 보기 전의 사전 확률입니다. P(E|H)는 가설 H가 참일 때 그런 증거가 나타날 가능도이며, P(E)는 그 증거가 전체적으로 얼마나 자주 나타나는지를 뜻합니다.
직관적으로는 다음 문장으로 기억할 수 있습니다. 사후 확률 = 사전 확률 × 가능도 ÷ 증거의 전체 확률. 더 짧게는 posterior ∝ prior × likelihood라고 표현합니다. 비례 기호를 쓰는 이유는 실제 사후분포를 만들 때 전체 확률이 정규화 상수 역할을 하기 때문입니다.
ProbabilityCourse의 Bayes’ Rule 자료는 전체확률법과 결합한 베이즈 공식의 계산 흐름을 단계적으로 보여줍니다. 입문자는 이 공식을 외우기보다 “이 증거는 어떤 가설 아래에서 더 자연스럽게 나타나는가?”라는 질문으로 접근하는 편이 좋습니다.
사전 확률, 가능도, 사후 확률의 차이
사전 확률은 데이터를 보기 전의 출발점이다
사전 확률 또는 사전분포는 새 데이터를 보기 전 가설이나 모수에 대해 가지고 있는 믿음입니다. 이 말 때문에 “마음대로 정하는 값”이라고 오해하기 쉽지만, 실제로는 과거 데이터, 기존 연구, 전문가 판단, 물리적 제약, 또는 특정 방향으로 치우치지 않게 설계한 비정보적 사전분포를 사용할 수 있습니다.
가능도는 데이터가 가설을 얼마나 지지하는지 본다
가능도는 특정 가설이나 모수값이 주어졌을 때, 지금 관측한 데이터가 얼마나 그럴듯한지를 나타냅니다. 확률과 비슷해 보이지만 질문의 방향이 다릅니다. 확률이 “가설이 주어졌을 때 데이터가 나올 가능성”이라면, 가능도는 관측된 데이터를 고정해두고 여러 가설을 비교하는 도구에 가깝습니다.
사후 확률은 업데이트된 믿음이다
사후 확률 또는 사후분포는 사전 확률에 데이터를 반영한 결과입니다. 다만 이것은 절대적인 진실의 확률이 아니라, 선택한 모델과 사전분포, 관측 데이터에 조건부인 확률입니다. 모델 가정이 틀렸거나 데이터가 편향되어 있다면 사후분포도 그 영향을 받습니다.
사후 예측 분포는 다음 데이터를 예측한다
베이즈 추론은 현재 모수의 불확실성만 다루지 않습니다. 사후분포를 바탕으로 앞으로 관측될 값의 분포도 예측할 수 있는데, 이를 사후 예측 분포라고 합니다. 예를 들어 전환율의 사후분포를 얻었다면, 다음 주에 몇 건의 구매가 발생할지 확률적으로 예측할 수 있습니다.
베이즈 추론 예제로 이해하기
다음은 교육용 확률 예제이며 실제 의료 판단을 대신하지 않습니다. 어떤 희귀 질병의 유병률이 1만 명 중 1명, 즉 P(H)=0.0001이라고 합시다. 검사는 병이 있는 사람에게 양성을 낼 확률이 99%이고, 병이 없는 사람에게도 잘못 양성을 낼 확률이 2%라고 가정합니다.
양성 결과를 E라고 하면 계산은 다음 순서로 진행됩니다.
- 사전 확률: P(H)=0.0001
- 가능도: P(E|H)=0.99
- 병이 없는데 양성일 확률: P(E|not H)=0.02
- 증거의 전체 확률: P(E)=0.99×0.0001 + 0.02×0.9999
계산하면 P(E)=0.000099 + 0.019998 = 0.020097입니다. 따라서 양성일 때 실제로 병이 있을 사후 확률은 0.000099 / 0.020097, 약 0.0049입니다. 백분율로는 약 0.49%입니다.
이 예제의 핵심은 검사 정확도가 높아도 기저율이 매우 낮으면 양성 결과의 해석이 달라질 수 있다는 점입니다. 베이즈 추론은 “새 증거가 강해 보이더라도, 출발점과 전체 맥락을 함께 봐야 한다”는 사실을 수식으로 보여줍니다.
빈도주의 통계와 무엇이 다른가
빈도주의 통계는 확률을 장기 반복에서 나타나는 빈도로 해석하는 경향이 강합니다. 모수는 고정되어 있지만 알 수 없는 값이고, 표본이 반복될 때 추정량이나 검정 절차가 어떤 성질을 갖는지에 관심을 둡니다.
베이즈 추론은 확률을 불확실성 또는 믿음의 정도로 해석할 수 있습니다. 그래서 모수에 대해서도 확률분포를 부여하고, 데이터를 관측할 때마다 그 분포를 업데이트합니다. 예를 들어 “전환율이 3%보다 클 확률이 82%”처럼 의사결정자가 직관적으로 이해하기 쉬운 표현을 만들 수 있습니다.
그렇다고 베이즈 방식이 항상 더 우월하다는 뜻은 아닙니다. 데이터 양, 모델 목적, 계산 비용, 해석 방식, 조직의 의사결정 문화에 따라 적합한 방법은 달라집니다. 중요한 것은 각 방법이 어떤 질문에 답하는지 구분하는 것입니다.
베이즈 추론은 어디에 쓰일까
머신러닝에서는 불확실성을 포함한 예측, 확률적 그래픽 모델, 베이지안 회귀, 토픽 모델, 하이퍼파라미터 추정 등에 활용됩니다. 데이터가 적거나 노이즈가 큰 상황에서 사전 지식을 적절히 반영하면 과도한 확신을 줄이는 데 도움이 될 수 있습니다.
스팸 필터는 베이즈 추론의 직관을 설명할 때 자주 등장합니다. 특정 단어가 포함된 이메일이 스팸일 가능성을 과거 패턴과 새 단어 증거를 바탕으로 업데이트합니다. 추천 시스템에서는 사용자의 과거 행동을 사전 정보로 보고, 클릭·구매·평점 같은 새로운 관측을 통해 선호도를 계속 갱신할 수 있습니다.
A/B 테스트에서도 베이지안 접근은 유용합니다. 단순히 p값만 보는 대신, A안이 B안보다 전환율이 높을 확률, 기대 손실, 의사결정 기준을 함께 제시할 수 있습니다. 이상 탐지와 리스크 평가에서는 정상 상태에 대한 사전 지식과 관측 데이터를 결합해 드문 사건의 가능성을 추정합니다. 다만 어떤 분야에서도 모델이 현실을 완벽히 대체하지는 않으므로, 데이터 품질과 가정 점검이 함께 필요합니다.
계산이 어려울 때 사용하는 MCMC
간단한 문제에서는 베이즈 정리를 손으로 계산할 수 있지만, 실제 모델은 훨씬 복잡합니다. 모수가 여러 개이고 데이터 구조가 계층적이며 비선형 관계가 섞이면 사후분포를 닫힌 형태로 구하기 어렵습니다. 이때 Markov Chain Monte Carlo, 즉 MCMC 같은 수치적 방법을 사용해 사후분포에서 표본을 뽑고 관심 있는 값을 근사합니다.
MCMC는 정답을 자동으로 보장하는 마법이 아닙니다. 충분히 잘 섞이는지, 수렴했는지, 사후 예측이 실제 데이터 패턴을 잘 재현하는지 확인해야 합니다. Stan 같은 도구는 베이지안 통계 모델을 작성하고 사후 추론과 모델 점검을 수행하는 데 널리 쓰이지만, 도구를 쓰더라도 모델링 판단은 분석자의 책임입니다.
베이즈 추론의 장점과 한계
베이즈 추론의 장점은 분명합니다. 첫째, 사전 지식을 수학적으로 반영할 수 있습니다. 둘째, 결과를 점추정 하나가 아니라 확률분포로 제시할 수 있어 불확실성을 전달하기 좋습니다. 셋째, 데이터가 순차적으로 들어오는 상황에서 자연스럽게 업데이트할 수 있습니다. 넷째, 의사결정에 필요한 “어느 쪽이 더 나을 확률” 같은 질문을 직접 다루기 쉽습니다.
한계도 있습니다. 사전분포 선택에 따라 결과가 달라질 수 있고, 복잡한 모델에서는 계산 비용이 큽니다. 또한 모델 가정이 틀리면 사후 확률도 왜곡될 수 있습니다. 초보자에게는 가능도, 사후분포, 수렴 진단 같은 개념이 어렵게 느껴질 수 있으므로 작은 예제부터 시작하는 것이 좋습니다.
자주 헷갈리는 질문
가능도와 확률은 같은가
같지 않습니다. P(data|model)은 확률로 쓸 수 있지만, 가능도는 관측 데이터를 고정하고 모델이나 모수값을 비교하는 함수로 사용됩니다. 그래서 가능도 값을 여러 모수에 대해 비교할 수는 있어도, 그 자체를 모수의 확률이라고 해석하면 안 됩니다.
사전 확률은 주관적이라서 믿을 수 없는가
사전 확률에는 주관적 판단이 들어갈 수 있습니다. 그러나 주관적이라는 말이 곧 임의적이라는 뜻은 아닙니다. 근거 있는 과거 데이터나 전문가 지식, 보수적인 비정보적 사전분포를 사용할 수 있고, 사전분포를 바꿨을 때 결과가 얼마나 민감한지 확인할 수도 있습니다.
사후 확률은 정답 확률인가
사후 확률은 모델, 사전분포, 데이터가 주어졌을 때의 업데이트된 믿음입니다. 현실의 절대적 진실을 직접 말한다기보다, 현재 정보와 가정 아래에서 가장 일관되게 계산한 불확실성 표현이라고 보는 편이 정확합니다.
데이터가 많아지면 사전 확률은 어떻게 되는가
일반적으로 데이터가 충분히 많고 모델이 적절하면, 사전 정보의 영향은 줄고 표본에서 오는 정보의 비중이 커집니다. 하지만 데이터가 적거나 노이즈가 크거나 모델이 복잡할 때는 사전분포의 역할이 여전히 중요합니다.
베이즈 추론은 믿음을 업데이트하는 수학적 언어다
베이즈 추론을 처음 공부할 때는 복잡한 수식보다 흐름을 먼저 잡는 것이 중요합니다. 출발점은 사전 확률이고, 관측 데이터는 가능도를 통해 가설을 지지하거나 약화하며, 그 결과가 사후 확률입니다. 이후에는 사후분포를 사용해 다음 데이터를 예측하거나 의사결정을 내릴 수 있습니다.
기억할 문장은 간단합니다. 베이즈 추론은 불확실한 상황에서 새 증거를 반영해 확률적 판단을 갱신하는 방법이다. 이 관점을 이해하면 진단 테스트, 추천 시스템, A/B 테스트, 머신러닝 모델 해석에서 왜 기저율과 불확실성을 함께 봐야 하는지 훨씬 선명해집니다.