자연과 기계의 경계에서

통제 불능 - 인간과 기계의 미래 생태계
케빈 켈리 지음, 이충호.임지원 옮김, 이인식 감수 / 김영사 / 2015년 12월

영화 매트릭스에는 서기 2199년 인공 지능 컴퓨터가 지배하는 세계가 나온다. 인간은 태어나면서부터 인공자궁 안에 살면서 오직 가상의 현실이 실제라고 믿으며 살고있다. 그들이 인식하고 있는 전부는 가상이고 그마저도 컴퓨터의 개입으로 조작되거나 지워진다. 컴퓨터는 인간을 에너지원으로 사용하면서 그들의 육신을 이용할 뿐, 사람을 아무것도 생각하지 못하고 경험할 수 없는 무의미한 존재로 만든다. 인공지능의 진화가 결국 디스토피아가 되고 말 것이라는 예상은 그 정도의 차이가 있을 뿐이지 대부분 큰 차이가 없다. 영국의 유명한 천체물리학자 스티븐 호킹 박사는 "완전한 인공지능의 개발이 인류의 멸망을 불러 올 수 있다."고 경고했고, 엘런 머스크도 "인공지능 연구는 악마를 소환하는 것이나 다름없다."고 말한 바 있다.  

인공지능은 적어도 엔터테인먼트 쪽에서는 여전히 흥미로운 존재이지만 냉정히 생각할 때 환영할 만한 일은 아니다. 스스로 생각할 수 있는 강력한 인공지능이 존재할 수 있다면, 그리고 그들이 악의적인 방법으로 인류를 절멸 시키려 한다면 인간의 힘은 미약할 수밖에 없기 때문이다. 그들의 연산속도를 따라갈 수도 없을 뿐 아니라 강력한 네트워크나 개발 능력을 압도할 수도 없다. 하지만, 거기에는 항상 한 가지 의문이 드는데 그것은 바로 인공지능이 새로운 것을 생성할 수 있느냐이다. 이 책은 그런 관점에서 보자면 매우 흥미로운 책이었다. 주어진 정보를 취합하는 것이 지금까지의 인공지능이라고 생각했고 더 많은 정보를 수집하고 활용하는 것이 더 뛰어난 인공지능이라고 생각했던 내 생각은 '통제 불능'을 보면서 조금 다른 관점을 보게 됐다. 엄밀한 의미로 단순히 주어진 자료를 취합하고 아웃풋을 생산하는 것은 인공지능이라고 보기 어렵다. 대신 저자는 비비시스템을 이야기 한다. 

나는 만들어진 것이든 태어난 것이든 생명과 유사한 특징을 갖고 있다면, 그와 같은 시스템을 '비비시스템'이라고 부르고자 한다. 비비시스템 가운데 상당부분은 '인공적'인 것이다.그 비비시스템에는 전 지구적 통신 시스템, 컴퓨터 바이러스 인큐베이터, 로봇 원형, 가상 현실 세계, 합성된 애니메이션 캐릭터, 다양한 인공 생태계, 지구 전체의 컴퓨터 모형 등이 있다. 그러나 야생 자연이야말로 비비시스템에 대한 명확한 통찰을 돕는 중요한 원천이다. (p19)

인간이 만든 것은 모두 인공적인 것으로 생산 시스템과는 거리가 멀게 느껴지는데 어떤 말인가 선뜻 이해가 되지 않는다. 뒤이어 나오는 여러 사례들은 어디까지가 인간이 주어주는 조건이고 어디서부터 인공 지능이 스스로 진화하는 단계인지를 보여준다. 토머스 레이의 이야기를 보자. 그가 처음 컴퓨터에 손으로 만든 작은 생물을 풀어 놓았을 때만 해도 그들은 번식속도만 빨랐을 뿐 큰 위협은 되지 못했다. 그가 처음 만든 것은 80바이트로 만들어 '80'이라 명명했는데 10% 변이를 설정해 놓자 자연스레 79나 81이 생겨났다. 여러 숫자가 번갈아 가면서 컴퓨터에서 개체수를 반복했고, 45라는 기생충 버그까지 탄생했다. 기생충과 숙주가 공진화 하는 과정에서 면역력이 있는 개체가 증가하면 또 거기에 기생하는 버그 개체가 증가하기를 반복했다. 22바이트 생물도 생겨 났는데, 이전까지 아무리 코드를 줄이려고 해도 가능한 최소는 31바이트였기 때문에 매우 놀라운 사실이었다. 또한 스스로의 크기를 과장되게 하는 코드, 유성 생식을 하는 코드까지 생겨났다. 

인간이 만들 수 없는 것조차 진화를 통해 만들어 낸다는 사실은 조금 섬짓한 이야기이도 했는데, 이 과정에서 인공지능이 우리의 손을 벗어날 것이 확실해지기 때문이다. 여기서 만들어낸 다윈칩은 스스로의 성능을 개선하며 최적의 조건을 만들어 낼것이다. 단순히 산술적으로 생각하자면 우리가 주어지는 선까지 발전하는 것이 기술이다. 스스로 성장하는 것은 생물이 아니라면 불가능 한 것이었다. 하지만, '만들어 진 것'과 '태어난 것' 사이에는 교집합이 존재하며 이 영역에서 인공적인 특징과 생물학적 진화를 갖춘 시스템은 충분히 가능한 것이다. 애니메이션 '공각기동대'에는 인형사에게 단순한 자기 보존 프로그램에 불과하지 않는다는 말에 이런 답을 한다. 

그렇게 말한다면 인간들의 DNA 또한 자기 보존을 위한 프로그램에 지나지 않는다. 생명이란 정보의 흐름 속에서 태어난 결접점과 같은 것이다.

이 말을 다시 생각할 때 나는 이 책이 공각기동대에도 어떠한 영감을 주지 않았을까 싶었다. 워쇼스키 남매가 공각기동대에 영향을 받았다고 밝힌적이 있는 것으로 아는데 서로 연관이 없을 수가 없을 것 같다. 컴퓨터가 자신들이 존재에 대해 생각하게 되었을 때, 그리고 인간과 다를 것이 없다는 결론에 도달했을 때 우리는 이런 말을 실제로 들을 수 도 있을 것이다. 어짜피 인간 또한 DNA를 보존하는 기계에 지나지 않는다는 이기적 유전자의 관점에서 보자면, 정보의 보존 혹은 그 이상의 목적을 위해 구축된 시스템 또한 우리와 공존하지 않을 이유가 없는 것이다. 이 책은 그동안 인공지능에 대해 가졌던 개인적인 회의적 시각에 새로운 관점을 제시하면서 신선하게 느껴졌지만, 어두운 미래를 언뜻 본 것 같아서 무거운 짐을 진 듯하기도 하다.