전지전능한 인공지능은 인간의 친구로 남을까?

AGI, 천사인가 악마인가 - 인간의 마지막 질문
김대식 지음 / 동아시아 / 2025년 8월

<AGI, 천사인가 악마인가 : 인간의 마지막 질문>  김대식 / 동아시아 (2025)

[My Review MMCXXXVI / 동아시아 8번째 리뷰] 각설하고, 이 책을 이해하기 위해서는 '인공지능의 개발' 과정 전체를 모두 알고 있어야 할 필요는 없다. 결론부터 말하자면, 인간의 지능보다 떨어지는 인공지능(AI, Artificial Intelligence)으로 만족할 것이냐? 그렇지 않으면 인간의 지능을 훌쩍 뛰어넘는 인공일반지능(AGI, Artificial General Intelligence)을 강행할 것이냐? 라는 '선택의 갈림길'에 놓여 있는 현재의 고민이다. 이를 더 간단히 이해하려면 인간의 통제가 가능한 '약 인공지능'과 인간의 통제가 불필요한 '강 인공지능'으로 구분해도 좋을 것이다. 그럼 선택의 편리를 위해 간략하게 두 가지 인공지능에 대해 설명을 덧붙이겠다.

인공지능 개발의 꿈은 우리의 상식보다 훨씬 옛날부터 존재했다. 그리스로마 신화에서도 신들의 만찬에서 활약한 '스스로 움직이는 술쟁반'이 있었기 때문이다. 신들만이 마신다는 '넥타르'나 '암바사'를 무한정 운반하는 일종의 '인간 아닌 하인' 노릇을 한 것인데, 오늘날의 관점에서 본다면 '인공지능 로봇'과 다를 바가 없기 때문이다. 그 오래된 꿈을 실현시키고자 했던 노력은 1950년대 이후부터 결실을 보기 시작했다. 바로 '컴퓨터의 등장' 덕분이었는데, '인간의 지능'을 대신할 수 있는 대상이 드디어 구체화하기 시작한 것이다.

하지만 컴퓨터의 등장이 곧바로 '인공지능'을 실현시켜 주지는 못했다. 특별한 '계산 능력'에서 인간보다 뛰어난 재주를 보여주긴 했지만, 여전히 '한정된 재능'이었고, 더구나 '인간의 명령'이 없으면 스스로 복잡한 계산을 해서 결과를 내놓지도 못했다. 그래서 인간은 더욱더 '인간과 닮은 생각', '인간이 원하는 대로 움직이는 로봇', 더 나아가 '인간의 명령'이 따로 없어도 '스스로 알아서 척척 해내는' 인공지능로봇을 개발하길 원했다. 그리고 그 실현은 착착 진행되는 듯 싶었다. 하지만 난관은 엄청났고 잘 되는 듯 싶었지만 생각보다 쉽지 않았다. 그럼에도 포기하지 않았기에 드디어 '인공지능'은 그 실현가능성이 매우 높은 방법을 마련하였다. 바로 '빅 데이터'를 활용한 '딥 러닝'을 할 수 있는 방법이었다.

사실, 컴퓨터가 인간과 비슷한 사고력을 발휘하기 위해서는 '인간의 뇌용량'에 해당하는 방대한 저장매체와 '인간의 신경세포'를 닮은 '전산통합장치'만 있으면 가능했다. 문제는 그것 자체만으로 엄청난 비용이 발생하기 때문에 힘들었던 것이고, 그것을 운용하기에 엄청난 성능의 GPU(Graphics Processing Unit)가 다량으로 필요했으며, 설령 이 두 가지를 갖췄다고 해도 이런 어마어마한 시스템을 잘 돌아가게 만들 수 있는 '엄청난 에너지원'이 확보되지 않는다면 '인공지능'은 제대로 운용되기 힘든 것이다. 그런데 가까운 미래에는 이 모든 난관이 어렵지 않게 해결될 것으로 보인다고 한다. 그것이 바로 AGI다. 인간보다 뛰어난 지능을 갖춘 '강한 인공지능'이 탄생을 앞두고 있는 현재다.

그럼, AGI가 탄생하면 어떤 일들이 가능할까? 먼저 인간이 풀지 못한 숙제를 AGI가 대신 풀어줄 것으로 기대한다. 난치/불치병 문제를 해결해서 인간의 생명연장도 더는 꿈이 아니게 된다. 또한 기후위기를 해결할 수 있는 방법을 마련해서, 지금껏 인류가 누리던 경제적 풍요와 더불어서 지구의 환경을 깨끗하게 유지하게 만들어서 인간이 살아가는데 아무런 문제가 없게 만들 수도 있을 것으로 기대한다. 더불어서 전세계적으로 만연한 '사회적/경제적 불평등'도 싹 해결할 방법을 마련해서 온 인류가 풍요롭고 행복한 삶을 살 수 있는 시스템 구축을 하는데 톡톡한 능력을 발휘할 것으로 믿어 의심치 않고 있다. 그리고 근본적으로 '인간의 노동'을 완벽하게 대신할 수 있게 되어 인간은 더 이상 힘든 노동을 하지 않아도, AGI가 운용하는 시스템 속에서 풍요와 여유를 즐기면 될 뿐이라고 주장한다.

이쯤 되면, 인간이 상상하는 '파라다이스(천국)'와 '유토피아(이상향)'가 실현되는 것이 연상되는 것과 동시에 불안감이 슬슬 들지 않는가? 그간 수없이 많은 문학작품과 영화 속에서 '천국'속에 도사리고 있는 '지옥'을 발견할 수 있었고, '유토피아'라고 철떡같이 믿고 있던 것들이 사실은 '디스토피아'였다는 이야기가 너무 많지 않았느냔 말이다. 그래서 AGI가 만들어낼 유토피아 같은 세상이 실제로 도래하게 될 것이라고 낙관만 할 수는 없는 것이다. 이 책에서는 바로 그 대목을 더 자세하고, 더 구체적으로 묘사하고 있어서 섬뜩할 정도였다. 더구나 이 모든 것을 막연한 두려움으로 떡칠을 한 것이 아닌 '과학적 증명'을 통해서 논리적으로 설명하고 있기에 더욱 섬뜩했다. 우리가 과학만능주의를 맹신하게 되면 어떤 결과를 맞을 것인지, 속된 말로 뒤통수 조심하라는 듯한 느낌이 들어서 정신이 번쩍 드는 소감이었다는게 솔직한 심정이다.

그동안 인간은 '만물의 영장'이라면서 지구의 모든 것은 '인간의 몫'인냥 인간 마음대로 처리하며 살았다. 그런데 인간보다 더 뛰어난 지능을 가진 존재가 등장하게 된다면, 더구나 그것이 너무나도 '인간과 똑같은 지능'을 가진 존재라면, 자신보다 떨어진 지능을 가졌다는 '사실'을 깨달았을 때 무슨 일을 저지를 것 같은가 말이다. 물론 겉으로는 '인간과 친구로' 지내는 척 할 것이고, '인간을 돕는 일'만 하겠지만, 그간 인간이 '인간보다 지능이 떨어진 동물'을 어떤 취급하며 살아왔는지 돌아본다면, 인간보다 더 뛰어난 지능을 가진 존재가, 더구나 '스스로 생각할 줄 아는 존재'가 언제까지나 '인간의 도구'이자 '인간의 노예'로 만족할지는 장담할 수 없을 것이다.

물론, 한낱 기계에 불과한 '인공지능'이 인간보다 더 뛰어난 지능을 가졌다고 하더라도, '전원버튼'을 눌러서 간단히 꺼버리거나, 인공지능을 탑재한 '몸체(로봇)'를 만들어주지 않는다면 얼마든지 '통제가능'하지 않겠냐는 낙관론도 있기는 하다. 그렇지만 스스로 생각하는 AGI가 가동하는 시점에서는 '전원차단'이 결코 쉽지 않을 것이다. 왜냐면 스스로 생각하는 인공지능이 '개인용 컴퓨터(pc)' 한 대에 머무는 것이 아니라 전세계 '서버(전산망)'속을 누비고 다닐 것이기 때문에, 어느 한 쪽 서버만 차단한다고 해서 완전하게 소멸시킬 수는 없게 되기 때문이다. 그럼에도 '전원차단'을 강행한다면 인류는 모든 전기장치를 다 꺼야만 할 것이다. 그리고 그 전기장치를 다시는 사용할 수도 없을 것이고 말이다. 인류는 디지털적인 삶을 포기하고 아날로그적인 삶으로 되돌아가야만 할 것이다. 다시, 돌과 나무, 흙을 이용하는 '석기시대'로, 간단한 금속을 이용하는 '철기시대'의 연장인 조선시대쯤으로 문명을 되돌려야 할 것이다. 과연 현재의 인류가 그 옛날로 되돌아가서 살 수 있을까? 그나마 전쟁이 아닌 평화가 이어질 거란 상상에서나 '조선시대'를 떠올릴 수 있을 것이다.

그럼 이제 다시 '현재'로 되돌아오자. 인공지능에 대한 '통제권'을 인간이 소유하는 '약 인공지능'으로 만족하며 살아갈 것인가? 아니면, 인공지능을 더는 통제할 수 없을 정도로 뛰어난 성능 개발을 마치고 '강 인공지능'을 활성화시키는 버튼을 누르고 결과를 기다릴 것인가? 지금 당장으로썬 어떤 미래가 더 나은 미래인지 장담할 수는 없다. 아직까지는 '공상과학소설'에서나 나올 법한 이야기일 수도 있기 때문이다. 인간보다 더 뛰어난 지능을 가진 존재가 생긴다 하더라도, 언제까지나 인간을 돕고, 인간을 위해서 존재할 수도 있기 때문이다. 하지만 그럴 가능성이 '반반'은 아닌 것 같다. 인공지능이 완벽하게 '무(無)'에서 탄생해서 스스로 학습한 결과에 따라 엄청난 지식을 쌓은 것이라면, 선함과 악함의 기대치를 반반으로 놓을 수 있겠지만, 그동안 쌓은 '인류의 모든 지식'을 바탕으로 만들어질 수밖에 없는 것을 감안하면 아무래도 낙관적인 결과를 기대하기는 정말이지 '낙타가 바늘구멍을 통과하는 것'만큼이나 어려운 일이 아니겠는가. 이쯤 되면, AGI가 천사일지, 악마일지, 어렵지 않게 가늠될 것이다.

그런데 정작 문제는 이것이 아니다. 약 인공지능에서 멈출지, 강 인공지능 개발을 할 것인지 '선택의 갈림길'에서 그 선택권이 현재 우리 손에 쥐어진 것이 아니기 때문이다. 이미 '강 인공지능'을 만드는 것은 기정 사실이 되었으며, 만약 우리가 만들기를 포기한다고 하더라도 '적국'이 먼저 만들어버릴 수도 있기 때문이다. 그래서 최초의 AGI(강 인공지능)를 만들 나라는 '미국'이어야 하고, 절대로 '중국'이 먼저 만드는 것을 수수방관할 수 없는 현실을 살고 있기 때문이다. 그 뒤를 바짝 쫓고 있는 '제3위권 그룹'에 대한민국도 포함되어 있긴 하지만, 윤석열과 그 일당이 저지른 헛발질 때문에 한참 뒤쳐지고 말았고, 다행스럽게 미국에 '트럼프 정부'가 들어서면서 더 큰 헛발질을 하면서 '미국'이 크게 휘청거리는 상황이라 추격할 여지를 남겨두었지만, 그 사이에 '중국'이 먼저 만들 수도 있음을 잊어서는 안 되기 때문이다. 물론, 미국이 먼저 만들면 '천사 AGI'이고, 중국이 먼저 만들면 '악마 AGI'일거란 장담도 할 수 없다. 그보다는 '내겐 천사'일테지만, '남에겐 악마'처럼 보일 거라는 쪽이 더 사실에 부합할 것이다.

그래서 AGI가 만들어질 것은 분명한 사실이 되어 버렸다. 이런 구도 속에서 다른 결론이 내려질 것 같지는 않기 때문이다. 결국 '강 인공지능'이 인간을 대신하는 세상은 곧 찾아올 것이다. 그때를 대비해서 우리가 뭘 준비할 것이 있을까? 이 책에서는 현재의 인간은 '개미'에 빗대고, 앞으로 탄생할 인공지능을 '인간'에 빗대어 설명하고 있다. 개미 가운데 아인슈타인처럼 뛰어난 지능을 가진 개미가 있다고 판명이 난다고 하더라도 '인간(미래의 인공지능)'이 그 '개미(훗날의 인간)'를 어떻게 처분(!)할 지는 어렵지 않게 상상이 가능할 것이다. 이런 '격차'가 존재하는데 뭘 대비할 수 있을까? 어떤 대비가 소용 있을까?

정말 십분 양보해서 '램프의 지니'와 같은 전지전능한 노예를 갖게 되는 상상을 해보자. 인간은 그 전지전능한 노예에게 무슨 소원이든 말할 수 있을 것이다. 당장은 그 소원이 이루어지는 것을 보면서 즐거워할 지도 모른다. 허나 이야기속 '램프의 지니'는 주인을 해칠 수도 없고, 인간을 살해하는 일도 할 수 없는 따위의 '마법(족쇄)'가 채워져 있다. 그래서 램프의 주인은 안심하고 지니를 노예로 부릴 수 있었던 것이다. 그런데 '강 인공지능'에게 누가 '마법 족쇄'를 씌울 수 있을까? 주인의 말에 절대 복종하고, 인간을 해치면 안 된다는 '명령'에 순순히 따를까? 그걸 장담할 수 있다면 인류의 미래는 더할 나위 없이 행복할 수도 있을 것이다. 그런데 그게 맘처럼 안 된다면? 오히려 인간이 노예처럼 전락하고 말지 않을까? 문득 '친구라도 될 걸 그랬어'라는 문장이 떠오르는 건 왜 일까?