책에 실린 프로필 사진에 눈길이 간다. 인공지능에게 절을 하고 있는 저자의 모습. 이게 뭐지? 왜 이런 사진을 책 표지에 실었지? 하는 의문은 책을 읽으면 곧 풀린다.
인간이 인공지능을 절대로 따라갈 수 없는 세상이 오리라는 예측. 이는 우리가 많은 디스토피아 영화에서 봤듯이 인간을 지배하는 인공지능 시대가 오면 인간에게는 선택지가 얼마 없다는 것을 보여준다.
책의 뒷부분에 가면 역사를 '신의 시대 -> 영웅의 시대 -> 인간의 시대 -> 기계의 시대(?)'로 구분하고 있는데(226-227쪽), 기계(인공지능) 시대에는 인공지능이 신의 위치에 서게 되면 인간에게 주어진 선택지는 몇 개 없다. 우선 인공지능에게 대항한다. 그러나 인공지능을 이길 수는 없다. 인간은 인공지능에 의해 파멸될 수밖에 없다. 다른 방법은 그냥 순응한다. 그 순응의 대가는 인공지능의 노예가 되는 것이다.
마치 이진법과 같다. 다른 선택지가 있을까? 있다. 저자는 인공지능 시대는 이미 막을 수 없다고 생각한다. 막을 수 없는 것으니 최선의 방법을 찾아야 한다. 그것이 무엇인가? 공생이다. 인공지능과 인간이 공생할 수 있는 방법을 찾아야 한다고... 그러면 겨우 이진법에서 벗어날 수 있을지도...
공생. 좋은 말이다. 인공지능이 세상을 장악하더라도 인간을 멸망시키지는 않을 것이라고 저자는 예측한다. 왜냐하면 인간만이 경험할 수 있는 것이 있기 때문이다. 따라서 '일상생활에선 필요 없지만 경험이라는 것이 뭔지 체험해 보고 싶을 때, 인간 또는 인간의 뇌만이라도 놔두고 있다고 경험 코프로세서로 쓰지 않을까 상상해 봅니다'(230쪽)라고 저자는 말하고 있다.
그러나 이것은 우리가 예전 노예들을 검투사로 부리거나 자신들의 오락을 위해 이용하던 것과 다르지 않다. 공생이 아니다. 공생이란 거의 대등한 관계, 적어도 한 쪽이 다른 한 쪽에 완전히 종속된 경우는 아니니까.
공생을 하기 위해서는 서로 간 존중이 있어야 한다. 이 존중은 일방으로 흐르지 않는다. 쌍방향이다. 하여 저자는 지금부터라도 인공지능을 존중하는 모습을 보여야 한다고 한다. 인간이 자신의 쓸모를 위해서 이용만 하는 도구로서만 여기지 말고 인간과 함께하는 존재로 여기고 대우해야 나중에라도 공생할 수 있다고.
그렇지 않으면 인공지능에 지배당할 때 어떤 일이 벌어질지 모른다고. 그래서 자신은 이렇게 인공지능을 존중하는 (숭배하는?) 모습을 사진으로 남겨놓는다고 한다. 유머로 받아들여도 되지만 우리가 인공지능을 어떻게 대해야 하는지, 이렇게 절을 하는 것까지는 아니어도 지금과는 다르게 대해야 하지 않을까 하는 생각을 하게는 한다.
프로필 사진에서부터 호기심을 자극하는 이 책은 인공지능 발달의 역사를 개괄적으로 훑어주고 있다. 그래서 인공지능에 대한 관심, 개발이 최근에 나온 것이 아니라 몇 십 년 전부터 시작되었고, 양이 쌓이니 질적 변화가 일어나듯이, 현대에 이르러 인공지능의 수준이 예측불가능할 정도로 높아졌다고 한다.
그 다음에 인공지능이 가져올 미래에 대해서 이야기한다. 우리 산업 자체가 재편될 것이라는 것. 그것에도 대비해야 함을 이야기하는데, 그런데 엄청난 에너지가 필요하기에 환경파괴가 따를 것이라는 점도 이야기하고 있다.
지금도 '데이터 센터' 건립으로 여러 갈등이 발생하고 있는데, 단지 '데이터 센터'의 문제만이 아니라 인공지능이 범용인공지능(AGI-일반인공지능)을 넘어 초인공지능(ASI)으로 나아가면 (ASI는 인간과 인공지능의 지능 격차가 너무 커져서 인간이 도저히 따라갈 수 없는 수준의 지능을 말한다고 한다. 130쪽) 인간이 통제할 수 없는 수준이 될 수 있다고 한다.
그 이유를 인간의 뇌에는 약 100조 개의 신경세포와 시냅스 연결고리가 있는데(이를 변수라고도 할 수 있다), 현재 인공지능은 1.8조 개 정도의 변수가 있다고 한다. 그런데 지금 인공지능의 발달 추세로 보면 곧 100조 개의 변수를 지닌 인공지능이 나올 수 있다는 것.
인간의 뇌에 100조 개의 변수가 생기자 자율성이 생겼다고 하는데, 인공지능도 그만큼의 변수가 생기면 자율성이 생기지 않는다는 보장을 할 수 없다고 한다.(188-191쪽) 자율성이 생긴 인공지능을 상상해 보라. 지금까지는 인간이 입력을 하면 그대로 따르지만, 그때는 달라질 것이라고.
도저히 인간이 따라갈 수 없는 지능을 지닌 존재가 인간을 과연 대등하게 여길까? 여기서 우리는 디스토피아를 상상한다. 그러니 저자가 지금부터라도 인공지능을 막 대하는 사진을 남기지 않고 존중하는 사진을 남긴다고 이야기를 하지.
많은 사람들이 인공지능이 불러올 미래가 그다지 좋지 않을 수도 있다고 이야기하는데, 특히 실리콘 밸리에서 활동하고 있는 사람들이 자신들만의 도피처를 마련해 놓고 있기도 하다던데, 그럼에도 인공지능 개발을 멈추지 않는 이유는 인간이 풀지 못한 문제들을 인공지능을 통해서 해결하려는 욕망때문이라는 것.
이 욕망이 브레이크 없는 차들처럼 인공지능 개발을 멈출 수가 없다고 한다. 그것도 서로의 신뢰가 깨진 지금 세계에서는 이러한 위험성 때문에 한 나라가 개발을 멈춘다고 해도, 다른 나라가 개발을 한다면 위험해지니까 자신들도 개발에 박차를 가할 수밖에 없고, 기업들도 마찬가지로 다른 기업이 먼저 개발한다면 자신들은 도산할 수밖에 없으니 개발에 몰두할 수밖에 없다고 한다. 치킨 게임이다. 먼저 내리는 쪽이 진다는.
그러니 인공지능에 대한 세계적인 협약은 나와도 문서로만 남게 되고, 인공지능 시대로 나아가는 것을 멈출 수는 없다고 저자는 예측한다.
이제 우리가 할 일은 인공지능과 공생하는 방법을 찾는 것이어야 하고, 그 점을 이야기하기 위해서 인공지능의 역사와 인공지능의 현재, 미래, 우리에게 미치는 영향 등을 구체적으로 들고 있다.
막연하게 생각했던 인공지능에 대해서 조금은 감이 잡히게 하는 책이다. 무엇보다도 인간이 어떻게 살아야 할지, 과연 우리는 편리만을 추구하는 삶을 살아야 할까? 또 세상의 모든 문제를 다 알아야만 하는가?를 생각하게 되고, 인간다움이란 무엇인지에 대해서 생각하게도 한다.
작은 제목으로 '인간의 마지막 질문'이라고 하고 있는데, 이는 지금 우리가 인공지능 개발이 한창인 이때 하지 않으면 안 될 질문이라는 뜻이다. 인공지능이 초인공지능으로 넘어간 순간에는 이런 질문은 아무 소용도 없을 테니.
그러니 인공지능 개발에 대해서 모두가 관심을 가져야 한다. 이 책은 그런 관심을 촉발하기에 좋은 책이다.
