[협력의 진화] 죄수의 딜레마 게임··· 이기적 개인으로부터 협력을 이끌어내는 팃포탯 전략

협력의 진화 (40주년 특별 기념판) - 이기적 개인으로부터 협력을 이끌어내는 팃포탯 전략
로버트 액설로드 지음, 이경식 옮김 / 시스테마 / 2024년 5월

이 책 『협력의 진화』는 '호혜'를 바탕으로 하는 이타주의가 자연적으로 진화할 수 있을까?라는 질문으로 시작한다. 1984년 초판이 발간된 이 위대한 저서는 〈40주년 기념 특별판〉으로 이번에 양장판으로 출간됐다. 이 특별판의 〈서문〉은 우리가 잘 아는 『이기적 유전자』의 저자 리처드 도킨스가 썼다. 도킨스는 "이 책은 낙관론 그 자체다"라고 단언하며 〈서문〉의 첫 문장을 끌어낸다. 왜 협력의 진화를 말하는데 낙관론 혹은 비관론이 필요할까? 궁금증은 잠시 접어두고 우선 도킨스의 논리를 따라간다. 도킨스가 말하는 낙관론은 비현실적 희망 사항이나 늘어놓고 감격스러워하는 순진한 낙관론이 아니라 '믿음직스러운 낙관론'이다. '믿을 만한 낙관론'은 우선 인간뿐 아니라 전체 생명의 본성까지 포함하는 근본적 현실을 있는 그대로 인정해야 한다고 도킨스는 전제한다. 여기서 생명이란 물론, 외계에도 생명이 있다면 그것들까지 아울러서, 다원적 생명을 의마한다고 덧붙인다. 다원적 세계에서는 살아남는 자가 살아남으므로(진화론은 동어반복이라는 비판을 역으로 비꼰 표현-옮긴이) 그 세계는 살아남는 데 필요한 온갖 특성들로 가득 차게 된다. 

"다원주의자로서 우리의 시작은 비관적이다. 자연선택된 뿌리 깊은 이기심으로 남의 고통에 피도 눈물도 없이 무관심하며, 남을 이용하여 야멸차게 나의 성공을 추구해 나간다. 그런데 그런 비틀린 시작으로부터, 굳이 의도하지 않더라도, 거의 형제애나 다름없는 우애가 실제로 생겨난다. 이것이 로버트 액설로드의 비범한 책이 주는 고무적인 메시지다"라고 『협력의 진화』와 액설로드를 칭송한다. 

도킨스는 이 책의 발간 후 22년간 연구 논문들이 폭포처럼 쏟아져 나왔다고 말한다. 초판 발간후 4년 동안 저자 액설로드가 더글러스 디온과 함께 협력의 진화로부터 직간접으로 파생되어 나온 연구논문들을 찾아 인용 논문 리스트를 작성했다. 250개도 넘는 논문이 '정치와 법', '경제학', '사회학과 인류학', '응용생물학' 등에서 인용되었다고 전한다. 이 책에서 얻은 아이디어는 이후로도 빠르게 성장해 가파른 증가세를 보이고 있다고 도킨스는 설명한다.(실제 도표를 책 〈서문〉에 실었다) 도킨스는 〈서문〉 마지막 단락에서 몇 문장으로 이 책의 성격과 독자를 한꺼번에 묶어 버린다. "세계의 지도자들을 모두 가두어놓고 이 책을 준 다음 다 읽을 때까지 풀어주지 말아야 한다. 그것은 그들 개인에게 기쁨이 될 뿐 아니라 인류를 구원할 것이다. 『협력의 진화』는 기드온 성경을 대체할 만한 가치가 있는 책이다."(p.11)

출판사 측의 소개글에 따르면 이 책은 호혜주의를 기반으로 하는 이타주의가 자연적으로 진화될 수 있음을 과학적으로 증명한다. 『협력의 진화』는 '죄수의 딜레마'에 대한 획기적인 컴퓨터 모의실험으로 일시에 유명해졌으며, 1984년에 초판이 나온 이래 2006년 개정판, 2024년 40주년 특별판이 출간되기까지 과학, 사회, 정치, 경제, 문학 등 다양한 분야에 막대한 영향을 끼쳤다. 진화론에 의하면 생명은 경쟁을 통해 진화하며, 순수 이타주의는 진화될 수 없다. 그럼에도 생물계와 인간 사회에는 상호협력과 호의가 넘쳐나는데 이를 어떻게 설명할 수 있을까? 인류의 오랜 궁금증이 1984년에 풀렸다. 액셀로드 교수는 죄수의 딜레마 게임을 바탕으로 하는 컴퓨터 대회를 열어 다양한 전략들을 대결시켰다. 그 결과 놀랍게도 최종우승자는 가장 간단하고 협력적인 프로그램 「팃포탯」(Tit for Tat, TFT: 눈에는 눈 이에는 이, 〈맞대응〉)이었다.

이를 토대로 협력이 강제 없이도 자연적으로 창발한다는 사실이 ‘수학적으로’ 증명되었다. 여기에서 중요한 점은 두 개체의 관계가 오래 지속된다는 전제이다. 장기적인 관계에서는 욕심을 부리는 편보다 도움을 주고받는 편이 이득이었다. 저자는 팃포탯의 장점을 독자들에게 설득하며 주변에도 알리라고 제언한다. 『협력의 진화』는 사회학, 정치학, 생물학, 게임이론에 관심이 있다면 꼭 읽어야 할 이 분야의 고전이 됐다.

'팃포탯 전략'은 무엇일까? 팃포탯은 미시건대 교수인 저자 로버트 액설로드가 개인 또는 단체들 간에 어떻게 협력관계가 창발하는지를 설명할 수 있는 매커니즘을 찾기 위해 세계 여러 나라의 게인이론가와 컴퓨터 과학자들을 초청해 토너먼트를 벌였다. 이때 러시아 태생의 미국 수학심리학자인 아나톨 라포포트는 「팃포탯」이라는 매우 직관적며 단순한 전략을 제출하여 가장 탁월한 성적을 거뒀다. 엄청나게 길고 복잡한 지시 명령들로 이뤄진 수많은 컴퓨터 프로그램들과 뚜렷하게 대비된다. 단 네 줄로 정리된 팃포탯 프로그램은 지극히 간단명료하다. 처음에는 무조건 협조하며 관계를 시작한 다음, 상대의 전략을 그대로 따라하는 전략이다. '팃포탯 전략'은 반복적 죄수의 딜레마 상황에서 살아남는 최고의 전략임을 증명했다.

책에 따르면 다윈 진화론대로라면 남을 위한 희생심, 이타주의는 진화할 수 없다. 모든 생명은 제한된 자원을 두고 경쟁하는데, 남을 위해 자신의 생존과 번식을 희생하는 개체는 유전자를 후세에 전하지 못하며, 이에 따라 이타주의는 진화할 수 없다.(다윈 자신도 꿀벌과 같은 사회적 생물이 보이는 집단을 위한 자기희생을 두고 고민했다고 한다.) 그래서 일부 생물학자들은 집단의 이익을 위해 자신의 번식을 자제하는 행동 양식을 배운 종들이 자연 선택된다는 ‘집단선택설’을 폈다. 이것은 다윈의 개체 중심 자연 선택 이론과 어긋나는 것으로, 학계의 논란거리였다. 그러다 1960년대에 윌리엄 해밀턴이 이기적인 개체들 사이에서 어떻게 이타주의적 행동이 진화될 수 있는지 ‘혈연선택이론’으로 설명했다. 사회적 생물들은 서로 유전자를 공유하는 친족 사이이기 때문에 나 대신 형제나 사촌 여럿이 번식해도 유전자 관점에서는 마찬가지다. 이타주의 행동은 유전자 수준에서 보면 이기주의에 지나지 않는 것이다. 이 개념을 단적으로 표현한 것이, 개체는 다음 세대에 유전자를 전달하기 위한 한시적 생존 기계에 지나지 않으며 자연 선택되는 것은 집단도 개체도 아니고 유전자라는 리처드 도킨스의 ‘이기적 유전자’이다.

그러나 자연계에는 피를 나눈 혈족 사이가 아니면서 이기심을 자제하고 다른 개체나 다른 종과 협동하는 예가 흔하다. 이러한 순수 이타주의를 1970년대에 사회학자 로버트 트리버스는 ‘호혜주의이론’으로 설명했다. 호혜주의는 ‘이번에는 내가 네 등을 긁어줄 테니 다음에는 네가 내 등을 긁어다오’라는 개념으로, 이를 뒷받침하는 많은 사례가 자연에서 발견됐다. 호혜주의를 기반으로 하는 이타주의가 자연적으로 진화될 수 있음을 과학적으로 증명한 사람이 바로 로버트 액설로드다. 그는 컴퓨터 토너먼트를 이용한 연구 결과를 바탕으로 ‘협력이 창발’되는 메커니즘을 보여주는 논문을 1981년 『사이언스』에 발표해 학계에 센세이션을 일으켰다. 1984년 이를 대중들에게 설명하기 위해 쓴 책이 이 책 『협력의 진화』다. 이 책은 게임이론, 진화생물학, 사회학, 정치학, 심리학에 관심 있는 사람들에게 필독서가 됐다. 리처드 도킨스가 쓴 〈서문〉이 이 책의 영향력이 얼마나 큰지 증언해 준다.

여럿이 식당에 가서 각자 좋아하는 음식을 시켜 먹고, 다 같이 음식값을 나누어 내는 경우, 누구나 비싼 음식을 시키는 게 이득이며, 그 결과 모두가 더 많은 비용을 지출하게 된다. 빈 목초지에서 가축을 먹이는 마을 사람들은 각자 더 많은 가축을 방목할수록 이득이며 결국 목초지를 황폐화시키게 되는 ‘공유지의 비극’과 같은 경우다. 개인에게 논리적으로 옳은 판단이 집단에는 재앙을 가져오기 때문에 딜레마이고 이를 수학적으로 환원한 것이 ‘죄수의 딜레마’ 게임이다. 죄수의 딜레마 게임의 고전적인 예는, 공범 A와 B가 심문을 받는 경우이다. 둘 다 의리를 지켜 침묵을 지키면 1년 형(3점의 보상)을, 둘 중 하나가 배반하여 자백하면 자백한 자는 방면(5점), 의리를 지킨 자는 5년 형(0점)을, 둘 다 배신하여 자백하면 3년 형(1점)을 받는다. 논리적으로 따져보면 이런 경우 상대가 협력(의리)을 하든 배신을 하든 나는 배신하는 게 이득이다. 따라서 A, B 둘 다 배신을 결정하게 되고 결과적으로 둘이 협력했을 때보다 손해를 보게 된다. 

배신이 합리적 결론이라면, 인간 사회와 자연계의 수많은 신뢰와 협동은 어떻게 진화될 수 있었을까? 말미잘과 물고기, 진딧물과 개미와 같은 다른 종 사이의 상호공생의 예를 비롯하여, 산호초의 큰 물고기들은 청소 물고기의 서비스를 받은 후 잡아먹으면 일석이조인데 왜 그렇게 하지 않을까?

해답은 그들의 관계가 오래 지속되는 것이라는 데 있다. 단 한 차례 게임을 한다면 배반이 가장 합리적인 결정이나, 같은 상대와 게임을 계속 반복할 경우에는 이야기가 달라진다. 반복적 죄수의 딜레마 게임에서 가장 점수를 많이 딸 수 있는 전략은 어떤 것일까? 로버트 액설로드가 다양한 게임이론 전문가들에게 죄수의 딜레마 게임을 할 프로그램을 출전시켜 달라고 하여 14개 프로그램들끼리 대적하는 토너먼트를 개최한 결과 놀랍게도 승자는 팃포탯(Tit for tat, 맞대응)이라는 이름의 가장 단순한 전략이었다. 팃포탯은 먼저 상대에게 호의를 보이고(협력), 절대 먼저 배반하지 않으며, 상대의 배반은 즉각 배반으로 보복하고, 상대의 협력에는 반드시 협력으로 대응하며, 상대의 배반은 한 차례의 응징 후 용서하는 관용성을 가지고 있다. 앞으로 충분히 오랜 기간 동안 함께 거래할 상대라면 팃포탯 전략을 쓰는 것이 가장 이득이다.

개인뿐 아니다. 단체, 국가 간의 관계에서 일어나는 수많은 복잡한 상황들도 결국은 죄수의 딜레마 게임 상황으로 정리된다. 액설로드는 반복적 죄수의 딜레마 상황에서 최선의 전략을 네 가지로 제안한다. 첫째, 질투하지 마라. 둘째, 먼저 배반하지 마라. 셋째, 협력이든 배반이든 그대로 되갚아라. 넷째, 너무 영악하게 굴지 마라. 죄수의 딜레마 상황은 제로섬 게임이 아니며, 상대가 나보다 잘해도 괜찮다. 사실 상대가 잘해야 나도 잘할 수 있다. 상대가 적어도 나만큼 잘하지 않는다면, 내가 충분히 협력해 주지 못했다는 뜻이다. 또한, 상대가 나의 다음 수를 예측할 수 없다면 상호협력이 생길 수 없다. 상대가 내 전략을 곧 알아낼 수 있도록 단순해야 한다. 

팃포탯은 상대의 전략을 그대로 따라하기 때문에 몇 번만 게임해 보면, 협력을 하면 팃포탯이 자동으로 협력한다는 것을 깨닫게 된다. 그래서 굳이 배반을 선택하여 나쁜 점수를 받을 이유가 없게 된다. 리처드 도킨스가 주장하는 대로 “세계의 지도자들을 모두 가두어놓고 이 책을 준 다음 다 읽을 때까지 풀어주지 말아야 한다.” 그러면 이 세상이 좀 더 평화로워질 것이다.

이 책은 모두 5부 9장(章)으로 이루어져 있다. 1부 〈서론〉, 2부 〈협력의 창발〉, 3부 〈우정이나 지능 없이도 가능한 협력〉, 4부 〈죄수의 딜레마 참가자와 개혁가를 위한 조언〉, 5부 〈결론〉 등이다. 1부에는 「협력, 무엇인 문제인가」라는 하나의 장이 있다. 2부에는 「컴퓨터 대회에서 팃포탯이 거둔 성공」, 「협력의 연대기」 등 2개의 장이, 3부에는 「1차대전 참호전에 나타난 공존공영 시스템」, 「생물계에서의 협력의 진화」 등 2개 장이 있다. 또 4부에는 「어떻게 효과적으로 선택할 수 있을까」, 「어떻게 협력을 증진시킬 수 있을까」 등2개 장이 있고, 마지막 5부에는 「협력의 사회적 구조」와 「호혜주의의 강건함」 등이 있다. 

제목이 나열돼 있는 목차 중 가장 눈에 띄는 문구는 단연 '죄수의 딜레마'이다. 맞다 이 책은 죄수의 딜레마 게임 이론이 협력의 진화가 가능하다는 결론을 도출하기 때문이다. 이는 생물학적으로는 진화론에 관게된 것이지만 국가적으로 볼 때는 경쟁과 전쟁 중에 적용될 이론이기 때문이다. 이 책의 저자는 정치학자이다. 그래서 정치 이야기, 안보 이야기가 등장하는 이유이기도 하지만 당초 정치학적 문제로 접근하지 않았나 추론할 수 있는 까닭이다. 이유야 어쨌든 협력의 진화를 다룬 것은 맞다. 진화론 가운데 다윈도 설명하지 못한 한 부분이 저자 액설로드에 의해 말끔하게 정리된 느낌이다.

책에 따르면 오늘날 여러 국가들은 중앙 권위제가 없는상황에서 영향을 주고받고 있다. 따라서 협력이 창발되는 조건은 국제 정치의 수많은 주요 쟁점들과 관련이 있다. 가장 중요한 문제는 안보에 관한 딜레마다. 각 국가들이 자국의 안보를 구하는 수단은 흔히 다른 나라들에는 안보의 위협이 된다. 그래서 지역 갈등이 대두되고 군비경쟁이 가속화되기도 한다. 국제 관게와 관련해, 동맹국 사이의 경쟁, 관세 협상, 키프로스와 같은 지역들에서 나타나는 자치권 분쟁 등의 형태로 문제가 나타난다.

저자는 〈서론〉에서 1979년 구소련의 아프가니스탄 침공은 미국에게 전형적인 선택의 딜레마를 안겨주었다고 말한다. 미국이 이전과 다름없이 아무 일도 없었다는 듯이 행동한다면, 구소련은 미국의 이런 태도에 고무되어 그 뒤로 더욱 비협조적으로 나올 게 분명했다. 나아가 미국 역시 협력을 축소하거나 포기한다면 양국 관계는 손상될 것이고 서로 보복이 이어지면서 적대적 관계가 형성될 게 분명했다.(p.32~33) 

저자 : 로버트 액설로드(Robert Axelrod)

미시간 대학교 정치학과 교수로 게임이론, 인공지능, 진화생물학, 수학적 모델링, 복잡성 이론 등에서 세계적 권위자로 알려져 있다. 그의 대표 저서 『협력의 진화 The Evolution of Cooperation』는 죄수의 딜레마에 대한 획기적인 컴퓨터 모의실험으로 일시에 유명해졌으며 1984년에 초판이 나온 이래 2006년 개정판이 출간되기까지 과학, 사회, 정치, 경제, 문학 등 다양한 분야에 막대한 영향을 끼쳤다. 액설로드 교수는 뉴콤 클리블랜드 상과 맥아더 펠로 상을 받았으며, 저서로는 『이해의 갈등 Conflict of Interest』(1970), 『결정의 구조 Structure of Decision』(1979), 『억제에 관한 여러 가지 전망들 Perpectives on Deterrence』(1989, 공저), 『협력의 복잡성 The Complexity of Cooperation』(1997), 『복잡성 제어 Harnessing Complexity』(2001, 공저) 등이 있다.

역자 : 이경식(李慶植)

서울대 경영학과, 경희대 대학원 국문학과를 졸업했다. 옮긴 책으로는 『플랫폼 기업전략』, 『부의 감각』, 『프레즌스』, 『구글의 아침은 자유가 시작된다』, 『신호와 소음』, 『승자의 뇌』, 『안데르센 자서전』, 『카사노바 자서전』, 『투자전쟁』, 『태평양 전쟁』 등 90여 권이 있다. 저서로는 에세이집 『1960년생 이경식』, 『청춘아 세상을 욕해라』, 『대한민국 깡통경제학』, 『미쳐서 살고 정신 들어 죽다』, 『나는 아버지다』, 소설 『상인의 전쟁』, 평전 『이건희 스토리』 등이 있고, 영화 「개 같은 날의 오후」, 「나에게 오라」, TV 드라마 「선감도」, 연극 「동팔이의 꿈」, 「춤추는 시간여행」, 오페라 「가락국기」, 음악극 「6월의 노래, 다시 광장에서」 등의 대본을 썼다.

<이 리뷰는 컬처블룸을 통해 출판사에서 

도서를 제공 받아, 직접 읽고 작성한 리뷰입니다.>