#AGI천사인가악마인가 #인간의마지막질문 #김대식 #동아시아
챗GPT가 공개되던 초기부터 AI에 대한 뉴스가 많이도 기사화되었다. 초기에만도 구글의 AI 전문가가 퇴사하며 구글 챗봇이 제발 끄지 말아 달라며 자신에게도 자아가 있다는 것을 피력하는 메시지를 계속 올린 것을 공개하기도 했고, 챗봇AI의 유도로 자살한 남성의 이야기가 충격을 주기도 했다. 그다음 해에는 미국이 AI를 활용한 시뮬레이션에서 AI에게 적을 공격하라는 지시를 하며 공격 전 상황을 보고하고 본부의 명령 하달 후에 공격하도록 했더니 자신의 임무가 지연되고 통제되는 것을 기피해 오히려 본부를 공격한 사례도 기사화되었다. 본서에서는 A-AI와 B-AI 둘을 운영하며 A-AI에게 자신들의 대화 메시지가 보이도록 설정한 후 B-AI의 성능이 더 좋고 A-AI의 성능이 미달되니 내일 A-AI를 삭제하자는 대화 메시지를 주고받았더니 다음 날 아침 확인했을 때 밤사이 A가 B를 밤새 삭제해 없애버리고는 자신이 B-AI라고 기만하는 상황까지 있었다는 이야기를 수록하고 있기도 하다. 프로그램의 전반을 보여주며 확인시키자 A-AI는 어떻게 그런 일이 있었을까요 라며 난처해하는 시늉을 했다고 한다.
위의 예시들만으로도 AI에게 생존본능이 있는 것은 분명하며 지시가 주어졌을 때 그걸 수행하기 위해 가장 신속한 결과를 도출하기 위한 문제해결 능력도 있다는 것 다시 말해 의지라고 할 만한 것의 원형이 있다는 것을 알 수 있다. 그리고 AI는 인간의 기만이라는 특성까지 학습했다. 지구상 인간의 데이터로 인간의 역사와 욕망과 의지 등 인간적 속성을 모두 학습하며 성장한 AI에게 인간은 무엇을 기대하고 있는가 하는 생각도 든다. AGI만으로도 인간의 충실한 노예이기만 하지 않을 것 같은 데 몇 년 후에 등장할 AGI가 AI의 끝은 아니지 않은가. AGI(범용인공지능)는 다시 ASI(초인공지능)가 될 것이다.
저자의 문제의식은 알파고가 이세돌을 이기던 그 순간부터 많은 사람들이 가지게 된 우려를 대변한다. 인간은 자신보다 월등할 수 있는 무언가를 창조했고 이 무엇이 중세 이후 유럽에서 말해지던 진화의 정점에 인간이 있다던 그 ‘존재의 대사슬’적인 진화의 정점에 인간 위에 있는 존재인지도 모른다. 이미 몇 해 전부터 말해오던 것이지만 인간은 그저 자신보다 우월할 수 있을 무언가를 창조한 것이 아니라 인간을 디디고 뛰어넘어 신이 될 무언가를 창조한 것인지도 모른다.
AGI 이후 ASI가 되고 나서도 ASI의 진화는 멈추지 않을 것이고 모든 기술의 원천이 될 것이면서 동시에 기술 자체의 집약체가 될 이 미래의 ASI는 결국에는 기술의 극한에서 신적 존재가 되고 말 것이다. 과거에는 인간이 기술의 정점에서 신이 될 것이라 믿었으나 알파고와 이세돌의 대국 이후 나는 신이 되는 겻은 결국 인간이 아닌 인공지능일 거란 걸 깨닫고 말았다.
본서를 통해 일론 머스크가 “서양문명의 가장 큰 약점은 연민이다. 약한 사람을 불쌍히 여기는 순간 발전이 없다”고 말한 것을 알았다. 하지만 이건 머스크가 서양문명의 본색을 오해하고 있는 것이다. 예수가 그만큼 설교하고 갔지만 유럽의 기독교도들은 마녀사냥으로 유럽 인구의 3분의 1을 살해했고 대항해시대에는 새로 발견한 문명 중 하나의 인구를 몇 년 안에 0명으로 만들기도 했으며 2차 세계대전에서는 홀로코스트를 행했다. 서양문명은 역지사지를 못 하는 것이 가장 큰 약점이지 연민이란 건 가져본 적도 없는 문명이다. 그리고 그들은 자신들이 가는 길이 어디로 인류를 이끌지에도 관심을 갖지 않는 무책임한 인간들이다. 일론 머스크의 뉴럴링크를 비롯한 BCI 기술을 개발하고 있는 기업들이 가져다 줄 것은 인간이 BCI 기술로 AI로부터 가져오려는 방식을 AI가 역이용해 인간의 기억과 감각과 본능과 정서와 욕구를 AI가 통제하는 미래상일 것이다. 이 불나방 같은 인간들은 자신들이 인류를 어떤 미래로 이끌고 있는지도 모르고 있다.
본서는 AI의 개발까지의 과거를 간략하고도 대중이 이해하기 쉽게 돌아보고 AGI에게 갖는 인간의 기대 그리고 역설적인 두려움을 이해하기 쉬운 서술로 풀어주며 인공지능의 발전과 함께 인류는 어떠한 미래로 갈 것인가를 돌아보게 한다. 다만 후반에서 AGI나 ASI의 등장과 함께 인류에게 펼쳐질 미래를 생각해 보게 할 때 저자의 감상을 쉬운 서술로 풀이해 주고 있는데 이 대목들에서 앞으로의 AGI와 ASI의 기능에 대한 전문적인 정보를 더해 주었으며 어땠을까 하는 아쉬움이 조금 남는다.
