확률과 게임이론은 전략적 선택과 불확실성이 존재하는 상황을 수학적으로 분석하는 분야입니다. 특히 내쉬 균형(Nash Equilibrium)은 게임이론에서 가장 핵심적인 개념으로, 여러 참여자들이 각자의 전략을 고정한 상태에서 누구도 자신의 전략을 일방적으로 바꿀 이유가 없는 상태를 의미합니다. 이 글에서는 내쉬 균형의 수학적 정의, 개념적 직관, 존재성과 예제를 통해 그 이론적 구조를 탐구하겠습니다.
게임이론의 기본 요소
게임이론에서 게임(Game)은 다음과 같은 요소로 구성됩니다:
- 플레이어(Player): 전략을 선택하는 주체
- 전략 집합(Strategy Set): 각 플레이어가 선택할 수 있는 전략의 모임
- 보수 함수(Payoff Function): 플레이어의 선택 조합에 따른 결과 또는 이익
예를 들어, 두 플레이어 A와 B가 각각 전략 집합 \( S_A \), \( S_B \)를 갖고, 보수 함수 \( u_A(s_A, s_B) \), \( u_B(s_A, s_B) \)를 통해 각각의 전략에 대한 보수가 결정됩니다.
확률 전략과 순수 전략
게임이론에서 전략은 두 가지 형태로 나뉩니다:
- 순수 전략(Pure Strategy): 단일 전략을 100% 확률로 선택
- 혼합 전략(Mixed Strategy): 여러 전략을 특정 확률 분포에 따라 무작위로 선택
혼합 전략은 확률 개념을 기반으로 하며, 모든 전략 공간을 확장하여 내쉬 균형의 존재를 보장하는 데 중요한 역할을 합니다.
내쉬 균형의 수학적 정의
내쉬 균형은 다음과 같이 수학적으로 정의됩니다:
정의: 전략 프로필 \( (s_1^*, s_2^*, \ldots, s_n^*) \)이 있을 때, 모든 플레이어 \( i \)에 대해 다음이 성립하면 이는 내쉬 균형이다.
\[ u_i(s_i^*, s_{-i}^*) \geq u_i(s_i, s_{-i}^*) \quad \forall s_i \in S_i \]
여기서 \( s_{-i}^* \)는 플레이어 \( i \)를 제외한 다른 모든 플레이어의 전략이고, \( s_i^* \)는 플레이어 \( i \)의 균형 전략입니다. 즉, 나머지 플레이어들의 전략이 고정되어 있을 때, 어떤 플레이어도 자신의 전략을 일방적으로 바꾸어 보수를 높일 수 없는 상태가 내쉬 균형입니다.
내쉬 균형의 존재 정리
존 내쉬는 1950년, 유한 전략을 갖는 비협력 게임에 대해 항상 적어도 하나의 혼합 전략 내쉬 균형이 존재한다는 사실을 증명했습니다. 이 정리는 다음과 같이 기술됩니다:
내쉬 존재 정리 (Nash Existence Theorem):
각 플레이어의 전략 집합이 유한하고, 보수 함수가 연속적이며 선형일 경우, 혼합 전략을 허용하면 적어도 하나 이상의 내쉬 균형이 존재한다.
이 정리는 고정점 정리(브라우어 정리)를 바탕으로 증명되며, 이는 수학적 분석과 위상수학의 결합된 성과입니다.
내쉬 균형의 예제
죄수의 딜레마
두 용의자가 공범 여부를 자백하거나 침묵할 수 있는 상황에서, 둘 다 자백하는 전략이 내쉬 균형입니다.
| 자백 | 침묵 | |
|---|---|---|
| 자백 | (-5, -5) | (0, -10) |
| 침묵 | (-10, 0) | (-1, -1) |
자백, 자백은 상대방이 전략을 바꾸지 않는 한 최선의 선택이므로 내쉬 균형입니다.
가위바위보 (혼합 전략 균형)
가위, 바위, 보 중 어느 것도 확정적인 이득을 보장하지 않기 때문에, 각 전략을 \( \frac{1}{3} \) 확률로 선택하는 혼합 전략이 유일한 내쉬 균형입니다.
\[ \text{가위} = \text{바위} = \text{보} = \frac{1}{3} \]
이러한 혼합 전략 내쉬 균형은 비결정적 상황에서 확률을 이용한 전략 선택을 통해 상대의 예측을 어렵게 만듭니다.
확률과 게임이론의 통합
확률은 게임이론에서 다음과 같은 중요한 역할을 수행합니다:
- 혼합 전략 구성에 필요
- 정보의 불완전성 및 무작위 요소 모델링
- 최적화 문제에서 기대값 계산
실제로 경제, 경매, 보안, 정치, 인공지능 등 다양한 분야에서 불확실한 조건 하에서의 전략 선택은 모두 확률적 게임이론 분석에 기반합니다.
결론
게임이론의 기본 요소
플레이어, 전략 집합, 보수 함수로 구성되며, 각 참여자는 보수를 극대화하는 전략을 선택합니다.
확률 전략과 순수 전략
순수 전략은 단일 선택, 혼합 전략은 확률 분포에 따른 무작위 선택입니다.
내쉬 균형의 수학적 정의
각 플레이어가 전략을 바꿀 이유가 없는 상태로, 수식으로는 보수 함수의 불평등 조건으로 표현됩니다.
존재 정리
유한 게임에서는 항상 적어도 하나의 혼합 전략 내쉬 균형이 존재함이 증명되었습니다.
예제
죄수의 딜레마와 가위바위보는 순수 전략과 혼합 전략 내쉬 균형을 각각 잘 보여줍니다.
확률과 게임이론의 통합
확률은 게임의 전략 선택, 불확실성 분석, 그리고 복잡한 의사결정 모델에서 핵심 도구입니다.