인간 행동의 수수께끼를 푸는 게임이론

살아 있는 것은 모두 게임을 한다 - 게임이론이 알려주는 인간 행동 설명서
모시 호프먼.에레즈 요엘리 지음, 김태훈 옮김 / 김영사 / 2023년 6월

인간은 때때로 비합리적 행동을 합니다. 그런 행동을 하는 건 단순히 무지해서 그럴까요? 하버드대 경제학과에서 강의를 하는 모시 호프먼 박사와 에레즈 요엘리 박사는  인간의 비합리적 행동이 사실 '합리적으로' 설계되었고, 그냥 무지한 게 아니라 '전략적으로' 무지하다는 독특한 이야기를 들려줍니다.

왜 그런 방식으로 작동하는지를 게임이론으로 설명하는 책 <살아 있는 것은 모두 게임을 한다 (원제 Hidden Games)>. 게임이론은 자신의 행위뿐 아니라 상대의 행위도 중요한 환경에서 어떻게 행동할 것인지 파악하기 위한 수학적 도구함이라고 합니다. 주체는 사람, 기업, 국가 등 모두가 될 수 있습니다. 이 책은 게임이론의 핵심 개념과 그것이 얼마나 강력할 수 있는지, 비합리적으로 보이는 인간 행동과 그이면의 논리를 드러냅니다.​​

게임이론을 활용하기 전 토대가 되는 두 가지를 먼저 살펴봅니다. 학습과 진화입니다. 우리는 의식적 사고에 의존해 최적화할 때보다 학습(문화적 진화)과 진화(생리적 진화)가 최적화할 때 훨씬 나은 방향으로 간다고 짚어줍니다.

학습 과정이 우리를 최적화된 행동으로 이끄는 데 얼마나 큰 역할을 할까요. 보상 주고 반복하는 강화 학습, 다른 구성원을 보고 배우는 사회 학습처럼 평소엔 인식하지 못하면서도 학습은 우리의 행동, 신념, 취향 형성에 기여합니다.

진화는 우리 의지로 선택할 수 없는 것이지만 게임이론의 토대가 됩니다. 대표적으로 수컷과 암컷의 비율과 관련한 피셔의 성비 게임이 있습니다. 다윈에 의하면 모든 동물의 출생 성비는 1:1에 가깝다고 합니다.

근거로 설명하는 이론은 영화 <뷰티풀 마인드> 주인공의 실제 인물인 수학자 '존 내시'의 내시균형입니다. 성비 균형이 무너지는 상황이 생겨도 진화는 최적화에 기반해 성비 1:1이라는 내시균형 상태로 옮겨간다고 합니다. 이 책에서는 이 내시균형이라는 용어가 수시로 등장하니 꼭 이해하고 넘어가야 합니다.​​

우리가 최적의 선택으로 행동한다는 건 결국 이 내시균형을 찾는다는 의미입니다. 자원을 둘러싼 대결을 나타내는 매-비둘기 게임은 인간 세상의 수많은 사건들을 설명하는 이론이었습니다.

공격 전략의 매, 양보 전략의 비둘기는 영역, 음식, 짝, 특허 등 인간 사회생활의 온갖 것에 적용됩니다. 싸움이냐 포기냐, 소송이냐 합의냐, 전쟁이냐 양도냐... 저자는 매-비둘기 게임이론을 지갑 습득에서부터 영유권 전쟁까지 당사자들이 권리를 위해 싸우는 다양한 사례에 대입해 하나씩 따져봅니다. 스톡홀름 증후군, 내면화한 인종차별과 성차별 같은 경우 매 전략 대신 생존을 위한 선택을 하는 이유도 설명하고 있습니다.​​

자신의 부를 드러내는 신호를 값비싼 신호 모형이라고 부르는데요. 진품을 중시하고, 미백하고 태닝하고... 한때 유행했던 새끼손톱 기르기는 거친 일을 하지 않는 직업임을 은근히 드러내는 용도였다고 합니다. 

한편 신호를 감추는 겸손 전략도 있습니다. 왜 하버드 학생들은 자신이 하버드에 다닌다는 사실을 말하는 대신 '보스턴에 있는 학교'에 다닌다고 말하는지, 왜 부유한 사업가가 소박하게 살고 수수하게 입으면 존중받는지.

겸손과 더불어 익명 기부, 쿨한 모습처럼 유용한 정보를 파악하기 어렵게 만드는 전략은 왜 하는 걸까요? 게임이론은 이를 어떻게 설명하는지 궁금해지더라고요. 감추는 건 값비싼 신호 모형과 반대로 보이지만 사실 겸손 역시 값비싼 신호라고 합니다. 자신이 보내는 신호를 일부 사람이 못 봐도 괜찮은 겁니다. 어떤 정보를 전달하는지, 거기서 누가 이득을 받는지 알려주는 감춰진 신호에 대한 설명이 흥미진진하게 펼쳐집니다.​​

이전과는 완전히 다른 종류의 신호도 있습니다. 증거를 왜곡하는 겁니다. 인스타의 제1규칙인 좋은 모습만 보여주는 편향적 공개 (당신에게 소개팅 주선하면서 상대의 좋은 면만 말하는 친구는 좋은 짝을 만들어주려는 게 아니라 그저 소개팅을 해주려 할 뿐이라는 걸 기억하세요.), 불리한 것은 외면하는 편향적 탐색, 기후변화 부정론자들처럼 아예 증거를 만드는 확증적 검증입니다.

이러한 증거 게임은 발신자의 동기가 정보 제공이 아니라 설득일 때 나타난다고 합니다. 그런데 설득하려는 신념만큼 왜곡된 신념을 발신자 스스로 갖는 경우도 많습니다. 믿고 싶은 것만 믿는 경우입니다. 트럼프가 스스로 왜곡한 사실을 믿는 극단적 경향을 보였다고 합니다.

인간 행동의 수수께끼에서 매번 등장하는 이타성도 등장합니다. 이는 두 명이 협력할지, 배반할지를 동시에 선택하는 죄수의 딜레마 게임으로 설명합니다. 재미있는 사실은 쌍방 배신이 유일한 균형 상태라는 겁니다.

이 게임의 유일한 내시균형은 사회적으로 최적의 해결책이 아니게 되는 겁니다. 그런데도 사람들은 자주 협력합니다. 늘 배신을 선택하는 것은 장기적인 관계를 망치기 때문입니다. 이는 최후통첩 게임과도 연결됩니다. 협상에서 욕심과 배려를 적절히 활용할 수밖에 없는 이유를 이해하게 됩니다.​​

왜 과시하거나 겸손한 모습을 보이는지, 왜 사실이나 증거를 왜곡하는지, 왜 욕심을 부리거나 베푸는지, 왜 눈치를 보는지... 때로는 비합리적으로 보이는 행동도 합리적 과정과 판단이 들어간 게임이론의 경우의 수로 따져보면 결국 사회적 존재로서 살아남기 위한 합리적 전략임을 깨닫게 됩니다.

게임이론을 활용해 인간 행동, 신념, 취향의 혼란스러운 측면을 이해할 수 있게 설명하는 <살아 있는 것은 모두 게임을 한다>. 솔직히 만만한 책은 아니었어요. 게임이론이란 것 자체가 수학적 사고와 연결되다 보니. 그렇지만 도전 가치는 있었습니다. 행동경제학 측면에서 인간 행동의 비밀을 파헤친 또 한 권의 멋진 책을 만났습니다.

- 출판사로부터 도서를 제공받았습니다