두 공범이 따로 갇혀 조사를 받는다. 검사가 각자에게 같은 제안을 한다. "네가 자백하고 상대가 침묵하면 너는 풀려나고 상대만 중형이다. 둘 다 자백하면 둘 다 중간형, 둘 다 침묵하면 둘 다 가벼운 형이다." 둘에게 가장 좋은 결말은 함께 입을 다무는 것이다. 그런데 실제로는 둘 다 자백하고, 함께 손해를 본다.
이상하다. 분명 협력이 더 이득인데, 각자 합리적으로 계산할수록 배신으로 끌려간다. 이 역설을 우연이 아니라 구조로 설명하는 학문이 있다.
협력이 이득인데 왜 배신이 '합리적'일까?
핵심은 '상대가 무엇을 하든'을 따져 보는 데 있다. 상대가 침묵한다고 하자. 나는 침묵하면 가벼운 형, 자백하면 석방 — 자백이 낫다. 상대가 자백한다고 하자. 나는 침묵하면 중형, 자백하면 중간형 — 역시 자백이 낫다. 상대가 어떻게 나오든 나에게는 자백이 유리하다. 상대도 똑같이 계산한다. 그래서 둘 다 자백하고, 둘 다 침묵했을 때보다 나빠진다.
이렇게 누구도 혼자서는 선택을 바꿀 이유가 없는 상태를 내시 균형이라 부른다. 죄수의 딜레마의 균형은 '둘 다 배신'이다. 개인의 합리성이 집단의 최선을 보장하지 않는다는 것 — 이것이 이 이야기가 유명한 이유다.
이 현상을 다루는 학문은 무엇인가?
게임이론(Game Theory)은 둘 이상의 주체가 서로의 결정에 영향을 주고받는 '전략적 상황'을 수학으로 분석한다. 각 참가자, 택할 수 있는 전략, 결과에 따른 이득(보수)을 표로 정리하고, 어떤 조합이 균형인지를 찾는다.
경제학의 한 도구로 출발했지만 경계를 넘는다. 동물의 협력과 경쟁을 다루는 진화생물학, 선거·국제 협상을 다루는 정치학, 알고리즘 설계를 다루는 컴퓨터과학이 모두 게임이론을 빌려 쓴다. 사람의 실제 선택이 '합리적 계산'에서 벗어나는 방식을 파는 행동경제학과는, 게임이론이 '합리적이라면 어떻게 되는가'라는 기준선을 그려 준다는 점에서 짝을 이룬다.
고등학교에서 배운 무엇과 이어지나?
가장 곧게 이어지는 것은 경제 과목의 합리적 선택과 기회비용이다. 죄수의 딜레마는 '개인의 합리적 선택'과 '사회적으로 바람직한 결과'가 갈라지는 시장 실패·공유지의 비극을 이해하는 뼈대가 된다.
수학적으로는 공통수학1의 경우의 수와 맞닿는다. 두 사람이 각각 두 전략을 가지면 결과의 조합은 합의 법칙과 곱의 법칙으로 세는 2×2 표가 된다. 이 표(보수 행렬)를 읽는 훈련이 게임이론의 첫걸음이다. 투표 방식이 결과를 바꾸는 구조를 다루는 선거제도 설계도, 여러 사람의 전략적 선택이 만드는 결과라는 점에서 같은 사고를 쓴다.
대학에서는 이걸 어떻게 배우나?
경제학과·경영학과·정치외교학과·산업공학과·컴퓨터공학과에서 각기 다른 이름과 깊이로 다룬다. 경제학에서는 미시경제학의 핵심 도구로, 정치학에서는 협상·투표 분석으로, 컴퓨터과학에서는 경매·알고리즘 설계로 쓰인다. 반복 게임에서 협력이 어떻게 생겨나는가는 특히 활발한 주제다. 어느 학과가 얼마나 수학적으로 다루는지는 대학마다 다르므로 개설 과목을 확인하는 편이 좋다.
여기서 뻗어 나갈 탐구 질문 3가지
- 같은 게임을 한 번이 아니라 여러 번 반복하면 협력이 생겨날까 — '보복 전략'이 배신을 억제하는 구조는 무엇인가?
- 학급의 조별과제 무임승차, 국가 간 온실가스 감축 협상은 왜 죄수의 딜레마와 같은 구조로 읽히는가?
- 사람이 실제로는 순수 계산과 다르게 행동한다면, 게임이론의 예측은 어디까지 맞고 어디서 어긋나는가?
한 줄 요약
게임이론은 '각자 합리적일 때 모두가 손해 보는' 구조가 왜 생기는지를 보수 행렬 한 장으로 보여 준다.
일상의 갈등을 감정이 아니라 구조로 읽어 내는 훈련은 사회과학 탐구의 핵심이다. TimeLevelUp은 이렇게 시작한 궁금증이 탐구 활동으로 자라도록 학습 기록을 잇는다.