확률은 우리가 불확실성을 수량화하는 가장 기본적인 도구다. 그런데 문득 이런 의문이 생길 수 있다. “확률이 음수가 될 수도 있을까?” 교과서에서는 확률은 항상 0 이상 1 이하라고 배우지만, 수학과 물리학의 일부 분야에서는 ‘음수 확률(negative probability)’이라는 개념이 언급되기도 한다. 이번 글에서는 확률이 음수가 될 수 있는지, 왜 고전 확률에서는 불가능한지, 그리고 확장된 맥락에서 어떻게 이해되는지 살펴보겠다.
고전 확률에서 확률은 왜 음수가 될 수 없는가?
현대 확률론은 콜모고로프(Kolmogorov)의 확률 공리 체계에 기반한다. 이 공리에 따르면:
- 어떤 사건 \(A\)에 대해 확률 \(P(A) \geq 0\)이다. (비음수성)
- 전체 사건(표본공간)의 확률은 1이다. 즉, \(P(S) = 1\).
- 서로 배반인 사건 \(A, B\)에 대해 \(P(A \cup B) = P(A) + P(B)\).
여기서 첫 번째 공리, 비음수성(non-negativity)이 바로 확률이 음수가 될 수 없음을 명시한다. 왜냐하면 확률은 “전체에 대한 부분의 비율”을 의미하기 때문이다. 부분/전체의 비율이 음수라는 것은 직관적으로도 말이 되지 않는다.
직관적 설명
확률을 ‘가능성의 크기’라고 생각해 보자.
- \(P(A) = 0\): 사건 \(A\)는 절대 일어나지 않는다.
- \(0 < P(A) < 1\): 사건 \(A\)는 일어날 수도 있고 안 일어날 수도 있다.
- \(P(A) = 1\): 사건 \(A\)는 반드시 일어난다.
만약 확률이 음수라면, 이는 “불가능보다 더 불가능하다”라는 의미가 되는데, 논리적으로 성립하지 않는다. 따라서 고전적인 의미의 확률에서는 음수가 허용되지 않는다.
그런데 물리학에서 등장하는 ‘음수 확률’?
흥미롭게도, 물리학 특히 양자역학(Quantum Mechanics) 분야에서는 음수 확률이라는 개념이 등장한다. 예를 들어, 물리학자 파인만(Richard Feynman)은 특정한 양자계 해석에서 “음수 확률”을 수학적 도구로 사용하는 아이디어를 제안한 적이 있다.
양자역학에서 상태를 설명할 때 사용되는 위그너 함수(Wigner function) 같은 경우, 음수 값을 가질 수 있는데, 이는 실제 확률이 아니라 ‘준확률(quasi-probability)’ 분포다. 이 경우 음수 확률은 물리적 사건의 가능성을 직접적으로 나타내는 것이 아니라, 계산과 해석 과정에서만 사용되는 수학적 도구다.
수학적 확장: 준확률 분포
‘음수 확률’은 고전 확률 이론의 공리를 따르지 않는다. 대신 다음과 같은 성격을 가진다.
- 고전 확률처럼 해석되지 않고, 특정한 물리 현상이나 수학적 구조를 기술하기 위한 도구다.
- 확률 대신 ‘준확률(quasi-probability)’라고 부르며, 고전적 확률과는 구별한다.
- 예: 위그너 분포(Wigner distribution), 허드슨–퍼브스(Hudson–Parthasarathy) 등의 양자확률 개념.
결론
확률이 음수가 될 수 있는가에 대한 답은 다음과 같다.
- 고전 확률 체계에서는 확률은 본질적으로 0과 1 사이에 있으며, 음수가 될 수 없다. 이는 공리와 직관에 모두 맞는다.
- 확장된 맥락(양자역학 등)에서는 ‘음수 확률’ 혹은 ‘준확률’ 개념이 등장하지만, 이는 실제 사건의 가능성을 의미하는 것이 아니라 수학적/물리학적 계산 도구다.
따라서 일상적인 확률 문제나 고전적인 확률론에서는 “확률은 음수가 될 수 없다”고 말하는 것이 옳다. 하지만 더 넓은 과학적 맥락에서는 음수 확률 개념이 유용한 도구로 등장할 수 있다.