우리는 삶을 살아가면서 매 순간 선택의 기로에 놓입니다. 이때 나 혼자만의 생각으로 결정을 내리지 않고 상대방의 반응까지 고려해야 하는 상황이 빈번하게 발생합니다.
게임이론이란 바로 이러한 전략적 상호작용을 연구하는 현대 경제학과 수학의 한 분야입니다. 단순히 보드게임이나 비디오 게임을 다루는 학문이 아니라 기업의 가격 경쟁부터 국가 간의 외교 분쟁까지 폭넓게 아우릅니다.
게임이론이란 참여자들의 선택이 서로에게 미치는 영향을 수학적으로 분석하는 의사결정 이론입니다. 일상에서 흔히 접하는 죄수의 딜레마나 치킨게임 같은 상황을 통해 타인의 전략을 예측하고 최선의 선택을 찾는 데 활용됩니다.
게임이론 쉬운 예시의 대표격인 죄수의 딜레마
게임이론을 가장 직관적으로 이해할 수 있는 고전적인 모델은 단연 죄수의 딜레마입니다. 두 명의 공범이 체포되어 각각 다른 독방에서 조사를 받는 상황을 가정해 봅니다.
검사는 두 사람 모두에게 자백을 유도하기 위해 다음과 같은 조건을 제시합니다. 둘 다 자백하지 않으면 각각 징역 1년을 살게 되지만 한쪽만 자백하고 다른 쪽이 입을 다물면 자백한 사람은 즉시 석방되고 입을 다문 사람은 징역 10년형을 받습니다.
만약 두 사람 모두 자백한다면 나란히 징역 5년형을 선고받습니다.
이 상황에서 각 죄수의 입장에서 합리적인 선택은 무엇인지 분석해 볼 필요가 있습니다. 상대방이 자백을 하든 안 하든 내가 자백하는 편이 형량을 줄이는 데 유리합니다.
상대가 침묵할 때 내가 자백하면 즉시 풀려나고 상대가 자백해도 5년으로 줄어들기 때문입니다. 결국 두 사람 모두 이기적인 선택으로 자백을 택하게 되며 나란히 징역 5년형을 살게 됩니다.
서로 협력하면 1년만 살 수 있었음에도 개인의 이익을 좇다가 더 나쁜 결과를 맞이하는 대표적인 사례입니다.
| 구분 | 상대방이 침묵할 때 | 상대방이 자백할 때 |
|---|---|---|
| 내가 침묵할 때 | 둘 다 1년 복역 | 나는 10년 / 상대는 즉시 석방 |
| 내가 자백할 때 | 나는 즉시 석방 / 상대는 10년 | 둘 다 5년 복역 |
내쉬 균형이라는 개념의 이해
앞서 살펴본 죄수의 딜레마에서 도출된 결과를 수학적으로 설명하는 개념이 바로 내쉬 균형입니다. 수학자 존 내쉬의 이름에서 유래한 이 개념은 어떤 참여자도 자신의 전략을 바꿀 유인이 없는 상태를 뜻합니다. 상대방이 현재 전략을 유지한다는 전제하에 나 역시 최선의 선택을 고수한 상태이기 때문에 이 균형점에서는 누구도 먼저 움직이려 하지 않습니다.
기업들이 치열하게 광고비를 지출하는 상황을 떠올려 보면 이해가 쉽습니다. 두 경쟁 기업이 광고를 동시에 중단하면 비용을 아끼며 비슷한 매출을 올릴 수 있습니다.
그러나 한쪽이 광고를 집행하는 동안 다른 쪽이 멈추면 시장 점유율을 고스란히 빼앗기게 됩니다. 결국 두 기업 모두 막대한 광고비를 쓰는 내쉬 균형 상태에 머물게 되며 이 과정에서 소모적인 지출이 지속됩니다.
일상생활과 비즈니스 현장 속 활용 방안
게임이론은 추상적인 이론에 그치지 않고 우리의 일상 곳곳에 깊숙이 스며들어 있습니다. 중고 거래 플랫폼에서 가격을 흥정하거나 부동산 매물을 계약할 때 상대방의 심리와 패를 읽어내는 과정이 이에 해당합니다. 특히 기업들이 신제품 출시 시기를 조율하거나 입찰 경쟁을 벌일 때 상대방의 예상 반응을 수치화하여 시뮬레이션을 돌립니다.
정부의 정책 결정 과정에서도 게임이론은 핵심 도구로 쓰입니다. 예를 들어 환경 오염 물질을 배출하는 공장들에 대한 규제 방안을 설계할 때 기업들의 반발과 우회로를 미리 예측해야 합니다. 무조건적인 제재보다는 세제 혜택이나 배출권 거래제 같은 인프라를 구축하여 기업 스스로 자발적인 감축을 택하도록 유도하는 설계가 게임이론적 사고의 산물입니다.
초보자가 흔히 하는 오해와 한계점
게임이론을 접하는 사람들이 가장 많이 하는 실수는 모든 인간이 언제나 완벽하게 합리적으로 행동한다고 믿는 점입니다. 실제 인간 사회에서는 감정이나 도덕성, 신뢰, 혹은 정보의 비대칭성 때문에 이론 모델과 전혀 다른 결과가 나오기도 합니다. 죄수의 딜레마 실험을 실제 사람들에게 진행해 보면 배신 대신 의외로 높은 비율로 협력을 선택하는 현상이 관찰됩니다.
따라서 게임이론은 미래를 정확히 맞추는 점술이 아니라 최악의 상황을 방지하고 합리적인 대안을 탐색하는 프레임워크로 활용하는 편이 바람직합니다. 타인의 입장에서 가능한 시나리오를 그려보고 나의 행동이 미칠 파급효과를 역산해 보는 훈련을 지속하는 과정이 의사결정의 질을 높여줍니다.