AI 시대를 이해하기 『핸드오버』

핸드오버 - 국가, 기업에 이어 AI는 우리를 어떻게 지배하는가
데이비드 런시먼 지음, 조용빈 옮김 / 와이즈베리 / 2023년 12월

AI 시대를 어떻게 준비해야 하는지 거시적인 관점에서 생각해 볼 수 있는 책이다.

보통은 기술적인 관점에서 AI 시대를 보기 마련이지만, 『핸드오버』는 정치학 교수가 정부와 기업을 이해하고 그 연장선으로 AI를 바라보고 있어 확실히 읽어 볼 만하다.

인간, 인간이 형성하는 집단, 그리고 인간이 만드는 기계 간의 관계가 이 책에서 논하고자 하는 핵심이다. P. 30

알파고와 챗 GPT의 잇따른 등장에 대중의 관심은 '사라질 직업'과 'AI 활용하기'에 모아진 게 사실이다. 챗 GPT를 사용해 보면서 뛰어난 정보 수집 능력과 말솜씨로 점점 나의 판단과 생각을 AI에게 맡기고 있었다. 이 책 『핸드오버』는 바로 이런 점을 꼬집으며 윤리적인 측면까지 질문을 던지고 있다.

『핸드오버』의 저자인 데이비드 런시먼은 영국 케임브리지 대학교 정치학 교수이다. 교수님의 강의를 수강 학생들과 심도 있게 논의한 내용에 세미나 수업에 참가한 학생들의 질문과 의견을 더하여 얻은 아이디어로 이 책을 집필했다. 처음엔 정치학 교수가 AI 시대에 대해 무엇을 논할지 의문이 들었는데 권한 이양과 의사결정이라는 측면에서 굉장히 중요할 수밖에 없다는 것을 깨달았다.

이 책은 총 8장으로 구성되었다. 처음 1-3장은 과거를, 4-7장은 현대를, 8장은 미래를 이야기한다. 1-3장에서 이야기하는 국가와 기업에 부여하는 인공 인격이란 개념이 다소 생소하기는 하지만 꼭 이해해야 하는 부분이다. 그리고 깊이 생각해 볼 만한 부분이기도 하다.

그전에 전체 주제이기도 한 제목을 살펴볼 필요가 있다. The handover 이양, 위탁 정도로 해석할 수 있다. 무엇을 이양했는가? 바로 개인의 권리, 힘이다. 자연 생태계에서 보잘것없는 인간이 엄청난 문명을 이루며 지구의 주인처럼 군림할 수 있는 이유는 협력의 힘이다. 정부와 기업이라는 허구의 존재에 개인의 힘을 넘겨주어 개인이 할 수 없는 엄청난 규모의 장기적인 일을 할 수 있는 것이다.

현대의 국가와 기업은 거대한 규모로 성장할 수 있는 괴물 같은 기계다. 또한 이들은 우리가 어디에 속해 있고 누구에게 속해 있는지 항상 생각할 필요가 없도록 해주는 인간 해방의 수단이기도 하다. P. 148

현대 문명을 이룰 수 있는 주요 바탕인 정부와 기업의 긍정적인 측면만 생각했다. 『핸드오버』을 읽으면서 허구의 존재가 갖는 책임에 관해서는 생각 생각해 볼 수 있었다. 장기간에 걸쳐 수정 보완된 정부와 기업과는 달리 우리가 맞아야 할 AI는 정말 새로운 문제다. 인간과 같은 대화할 수 있고, 인간보다 더 효율적인 학습능력을 갖추었기 때문에 알맞은 의사결정을 하는 것처럼 보이기 때문이다.

AI와 미래에 대한 부분은 이 책의 백미이기 때문에 앞으로 『핸드오버』를 읽을 독자의 것으로 남겨두려 한다. 기억해 둘 것은 무엇이든 정확하게 분리하고 정의할 수 없다는 것이다. 우리가 사는 세계는 유기적으로 연결돼있고, 원인과 결과가 뚜렷하지 않다. 다만 불확실한 미래에 희미한 불을 비출 것이 필요하기 때문에 고민하고 예상해 보고 질문을 던져보는 것이다.

『핸드오버』는 인류 문명의 가장 큰 변화를 준 국가와 기업을 AI와 비교하며 이야기를 풀어나가기 때문에 상당히 흥미롭다. 저자가 교수님이신지라 언급한 예나 책 내용이 조금 어렵기도 하지만 조금만 찾아본다면 좀 더 풍성한 독서가 될 것이다. 그래서 아래에 『핸드오버』에서 언급한 책 중 읽어볼 만한 책을 골라서 정리해뒀다.

우리가 사는 현재는 인류가 겪은 그 어느 때보다 빠르게 변화하고 있기 때문에 미래를 예측하는 것은 굉장히 불안전하며 불가능에 가깝다. 그러나 한 가지 확실한 것은 우리의 지성을 활용하는 방법의 형태만 변했을 뿐이라는 것이다. 어떻게 활용해야 하는지를 익히고 우리가 가진 권한과 지식을 절대 다른 인공 인격에게 모두 이양하는 어리석은 행동은 하지 말아야 한다. AI 시대에 현명한 결정을 내리고 싶은 독자가 읽었으면 하는 『핸드오버』이다.

『핸드오버』에서 나와 읽어볼 만한 책

<리바이어던> 토마스 홉스

<좁은 회랑> 대런 아세모글루, 제임스 A. 로빈슨

<인간의 조건> 한나 아렌트

<국가처럼 보기> 제임스 C. 스콧

#문장수집

국가를 독특하게 만드는 것은, 인간으로 구성되어 있고 인간처럼 행동하도록 만들어져 있다는 점이다. P. 33

가면을 쓰는 것은 타인의 행동과 반응을 조종하려는 의도로 역할을 연기하는 것이다. 그렇지 않으면 가면을 쓸 이유가 없다. P. 37

인간 집단의 AI를 활용하려면 많은 시간과 노력 그리고 조직의 능률이 필요하다. P. 77

결과적으로 집단의 정체성은 끔찍한 딜레마를 야기한다. 집단이 그 구성원들의 합이 아니라는 것이 명백해질수록 집단에 책임을 묻기가 더욱 어려워진다. P. 86

회사의 목적은 법에 정의되어 있지만, 국가의 목적은 국가가 하는 일로 정의된다. P. 112

현대의 리바이어던은 어떤 일이 있어도 계속 작동하도록 설계되어 있다. 그것은 기계다. P. 165

국가는 기업을 지원하지만 너무 가까이 가지 않으며, 기업은 국가의 강압적인 권위를 이용하면서도 따라 하지 않으려 한다. P. 182

인류세(Anthropocene)의 두드러진 특징은 의식 없음(mindlessness)이다. P. 207

SNS 플랫폼이 국가와 가장 다른 점은 그 비즈니스 모델이 우리의 인지 편향을 바로잡기보다는 악화시킨다는 데 있다. P. 237

우리가 국가를 인간화시키면, 국가는 약해질 수 있다. P. 238

국가의 인공 인격은 우리와 매우 다르기에 국가의 결정은 우리를 끝없이 좌절시킨다. 이를 통해 국가가 제 역할을 하고 있다는 것을 알 수 있다. P. 240

빅 테크 기업을 포함한 기업들은 그들의 부와 힘에도 불구하고 상대적으로 좁은 의미의 인공 대리인이다. P. 248

국가는 인위적 총 대리인이다. 지능은 매우 제한적일지 모르지만 하는 일은 상대적으로 제한이 없다. P. 248

국가는 결국 불확실성의 산물이다. 우리는 다른 사람들이 무엇을 원하는지 모르기 때문에 우리를 대신해 결정할 인공 인격을 만든다. P. 285

국가는 행동할 수 있는 대리인이며, 그렇지 않으면 아무것도 아니다. 돈은 그 대리인의 수단이다. P. 286

우리가 복잡한 의사결정을 스마트 기계에 위임하되 개인적은 책임을 저버리지 않는다면, 우리는 국가와 기업의 선택원을 위임할 때와 마찬가지로 양쪽의 장점을 모두 최대한 활용할 수 있을 것이다. P. 322

국가를 인간화한다는 것은 단순히 국가를 대표할 한 사람에게만 의존하고 나머지 사람들은 내버려 둔다는 의미가 아니다. 인간과 인공의 결합해야 한다는 뜻이다. P. 332

북폴리오에서 책을 제공받아 자유롭게 작성하였습니다.

#핸드오버 #데이비드런시먼 #북폴리오 #AI #AI알고리즘 #송길영추천 #AI의지배 #AI의시대 #인공인격 #인문교양

인간, 인간이 형성하는 집단, 그리고 인간이 만드는 기계 간의 관계가 이 책에서 논하고자 하는 핵심이다. P. 30 - P30

인간 집단의 AI를 활용하려면 많은 시간과 노력 그리고 조직의 능률이 필요하다. P. 77 - P77

현대의 국가와 기업은 거대한 규모로 성장할 수 있는 괴물 같은 기계다. 또한 이들은 우리가 어디에 속해 있고 누구에게 속해 있는지 항상 생각할 필요가 없도록 해주는 인간 해방의 수단이기도 하다. P. 148 - P148

인류세(Anthropocene)의 두드러진 특징은 의식 없음(mindlessness)이다. P. 207 - P207

SNS 플랫폼이 국가와 가장 다른 점은 그 비즈니스 모델이 우리의 인지 편향을 바로잡기보다는 악화시킨다는 데 있다. P. 237 - P237

국가는 결국 불확실성의 산물이다. 우리는 다른 사람들이 무엇을 원하는지 모르기 때문에 우리를 대신해 결정할 인공 인격을 만든다. P. 285 - P285

우리가 복잡한 의사결정을 스마트 기계에 위임하되 개인적은 책임을 저버리지 않는다면, 우리는 국가와 기업의 선택원을 위임할 때와 마찬가지로 양쪽의 장점을 모두 최대한 활용할 수 있을 것이다. P. 322 - P322