좋은 대중적 입문서

이타적 인간의 출현 - 게임이론으로 푸는 인간 본성 진화의 수수께끼
최정규 지음 / 뿌리와이파리 / 2004년 12월

게임이론에 대해 약간의 맛보기를 할 기회가 생겼다. 아무것도 모르는 채로 수학적 기호들의 바다에 풍덩 빠져 허우적거리기 전에 섬이 어디에 있는지 항구는 어디에 있는지 미리 견식이나 할까 하는 취지로 "이타적 인간의 출현"이라는 책을 집어들다.

"죄수의 딜레마" -같은 제목의 책도 있다- 라는 표현으로 유명한 게임이론은, "경쟁 주체가 상대편의 대처행동을 고려하면서 자기의 이익을 효과적으로 달성하기 위해 수단을 합리적으로 선택하는 행동을 수학적으로 분석하는 이론"이다. (네이버 백과사전 발췌) 다시 말해, 두 명 이상의 행위자가 존재하고 각 행위자가 취할 수 있는 전략이 있는 상황에서, 행위자가 특정 전략을 선택해서 얻을 수 있는 payoff (부호가 있는 보수)가 자신이 선택한 전략 뿐 아니라 다른 행위자의 전략에도 역시 dependent한 경우 이들이 게임적 상황에 있다고 표현한다. 게임적 상황에서 행위자들의 전략 선택에 대한 이론이 게임이론이다.

 노이만(참, 안 끼는데가 없는 사람이다 -_-;;)과 모르겐슈타인이라는 사람이 게임이론을 정식화하고 이론적 토대를 만들었다고 하며, "뷰티풀 마인드"로 유명한 내쉬는 게임이론을 공부하다보면 가장 처음 등장하는 개념 중 하나인 Nash Equilibrium의 존재 증명(plus 그 개수는 항상 홀수다!)으로 노벨 경제학상을 수상했다고 한다. Nash Equilibrium은 모든 행위자들의 전략 조합 (s_1, s_2, ..., s_n)으로 어떤 행위자도 다른 행위자의 전략이 변화하지 않은 상황에서 전략의 변화를 꾀할 유인이 없는 상태를 뜻한다. 한마디로 "지금이 좋다, 내가 다른 짓을 해봐야 얻을 게 없으니" 정도로 표현할 수 있을 것이다. 이 때 s_i는 행위자 i의 전략이며, 이 전략은 i가 선택할 수 있는 여러 순수 전략 pure strategy의 확률적 조합 mixed strategy일 수도 있다. 어떤 게임적 상황에서도 항상 Nash Equilibrium이 존재한다, 게다가 그 수는 (mixed strategy profile을 포함해) 항상 홀수다, 라니 참 신기하지 않나.

 이타적 인간의 존재는 진화론이나 경제학의 입장에서 보면 수수께끼이다. 이타적 행동 혹은 인간은 자신에게는 손해인데 다른 행위자에게 이익이 되는 행동, 혹은 그런 행동을 하는 존재라고 정의할 수 있다. fittest가 살아남는 진화의 역사에서 어떻게 이타적인 동물이나 인간이 탄생할 수 있나? 이를테면 동족을 지키기 위해 가미가제처럼 죽음을 택하는 꿀벌이나 다른 동물들은 다윈 시절부터 설명해내기 난감한 사례였다. 다윈 자신은 집단선택가설을 도입했지만 이 가설은 개체의 선택과 진화보다 집단선택의 속도가 상대적으로 매우 느리기 때문에 유효한 설명이 되기 어렵다. 이러한 난점을 설명하기 위해, 혈연선택 가설, 이의 극단으로 "이기적 유전자"같은 스타일의 가설이 등장한다. 개체의 입장에서는 이타적인 행동이지만 유전자의 입장에서는 사실 이기적인 행동으로 볼 수 있다는 것. 개체는 단지 유전자를 담는 그릇이고 유전자는 자신의 존재를 널리 퍼뜨리기 위해 동일 유전자를 담고 있는 다른 그릇(다른 개체)에게 도움이 되는 행동을 자신의 손해에도 불구하고 서슴치 않을 수 있다는 것이다. 그러나 이런 설명은 혈연 관계가 없는 이들에게까지 이타적인 행동을 하는 동물과 인간사회의 행태에는 적합치 않다.

 여기에서 재미있는 실험이 등장한다. 죄수의 딜레마 게임을 한번만 시행하는 경우에는 무조건 이기적으로 행동하는 놈이 이긴다. 그러나 매우 오래 (얼마나 오랫동안일지 행위자들이 예측하기 어렵도록) 반복하는 경우에는? 놀랍게도 tit for tat 즉 눈에는 눈 이에는 이, 호혜평등적 행위자가 이기적인 행위자와 그외 응모된 여타 어떤 전략을 수행하는 행위자보다 over all payoff가 높다는 것이 1947년 PD Prisoners' Dillema 콘테스트의 결과였다.

 이타적 행위자들끼리 모인 집단과 이기적 행위자들끼리 집단을 생각해보면, 이타적 행위자 집단의 평균 payoff가 높다. 즉 이기적 행위자의 높은 payoff는 다른 이타적 행위자가 존재해 그에 무임승차하지 않는 이상 불가능한 것이다. 여기에서 이타적 행위자의 존재가 유유상종 효과에 의한 것이 아닐까 하는 의문과 탐색이 시작된다. 유유상종 효과가 이타적 존재들을 살아남을 수 있게 만들었다는 아이디어에 대한 매우 강력한 뒷받침은 다음과 같은 실험이다. 먼저 '살아남는다'는 표현을 좀더 엄밀하게 만들어보자. 각 행위자들은 다른 행위자와 게임을 하고, 다음번 게임에서는 payoff가 높았던 일군의 행위자들의 전략을 "배운다". 이를테면 내가 이타적으로 행동했는데 손해를 봤고, 저 사람들은 이기적으로 행동했는데 이득을 보더라, 고 관찰하면 다음번 게임에서는 이기적으로 행동해야지, 하고 결심을 하는 것이다. 이렇게 되면 전체 행위자 중에서 이타적인 존재의 비율이 줄어들게 된다.

 만약 내가 나의 "이웃들"로부터 전략을 벤치마킹한다고 생각해보자. 사실 우리는 보통 잘 모르는 사람들보다 가까이 있는 사람들의 행동에 더 영향을 많이 받으므로 이러한 가정은 상당히 타당하다. 토러스 모양을 갖는 그리드 상에 행위자들을 뿌려놓고 이들중 이타적 인간과 이기적 인간의 비율이 반반인 상태로 반복게임을 시작하고, 각 행위자는 자신의 이웃들 중 평균 payoff가 높은 전략을 배워 다음 턴의 게임을 진행한다고 하자. 반복적으로 게임을 수행할 경우 Simulation결과는, 놀랍게도, 첫 턴에서 이타적인간들이 주르륵 죽어서 10% 비율로 떨어졌다가 그 다음부터는 그 수가 증가하기 시작한다. 그렇게 열 턴 정도 게임이 진행되고 나면 이타적 인간의 비율이 60% 대로 올라서가 그 선에서 약간의 변동을 반복하는 패턴을 보인다! 어떻게 이런 일이 가능할까. 첫 턴에서 살아남은 10%의 이타적 행위자들이 유유상종했던 애들이기 때문이다. 이들은 군집을 이루고, 군집의 변두리에 있던 이기적 행위자들은 "감화"를 받아 (이후 게임에서 군집 내의 이타적 행위자들은, 이 변두리의 이기적 행위자 입장에서 볼 때 이기적 행위자들보다 높은 payoff를 얻는다) 이타적 행위자 무리에 합류하게 되는 것이다. (공간구조의 효과)

 위의 실험은 반복적 게임 상황에서 어떻게 이타적인 인간, 혹은 호혜적 인간이 살아남았는가에 대한 게임이론에서의 설명이다. 그렇다면 과연 호혜적인 인간이 존재하는가에 대해서, 책은 많은 페이지를 관련 실험에 할애해놓았다 (책에서는 순서가 반대임). 최후통첩 게임이나 독재자 게임, 공공재 게임 등이 그것이다. 죄수의 딜레마 게임에서 이타적 행동을 합의하는 것(즉, 우리 자백하지 말자!)은 값싼 수다떨기cheap talk에 불과하고 합의는 더 나은 payoff앞에서 쉽게 무너져버릴 수 있는 것으로 보이지만, 실험 결과는 수다떨기가 그저 값싸지만은 않다는 것을 보여준다. 쉽게 말해, 자신에게는 덜 이익이 되더라도 전체를 위해서는 좋은 선택을, 토론과 신뢰쌓기를 통해 배신없이 유지할 수 있다는 것이다. 또한 최후통첩 게임에서 매우 많은 행위자들이 "경제적 인간"의 최적 전략을 선택하지 않고 "공정한 것" "공정하지 않은 것에는 자신의 손해에도 불구하고 응징하는 것" 등을 선택한다는 실험 결과들 역시 호혜적 인간이 존재함을 보여준다.

세상은 강자(살아남은 자, 이타적 인간을 이긴 행위자, 이타적 행동을 발판으로 payoff를 높인 자)를 중심으로 발전하고 진화한다는 약육강식의 논리를 이제는 '단순'하고 '무식'한 것으로 비웃어 줄 수도 있다. 개인의 payoff를 극대화하는 것이 경제적 사회적으로 필연적인 선택이며, 개인의 이러한 선택이 자연의 진화와 부합되는, 따라서 사회 전체적으로도 합당한 것이라는 강변은 무적이 아니며 탄탄한 안티를 갖는다.