-
-
AI 버블이 온다 - 우리는 진짜 인공지능을 보고 있는가?
아르빈드 나라야난.사야시 카푸르 지음, 강미경 옮김 / 윌북 / 2025년 12월
평점 :
우리는 AI의 발전을 두려워한다. 그것은 괴물, 유령, 천재지변, 적국의 핵무기와 같은 공포가 아니다. 그것은 우리에게 친숙하게 다가와, 어느새 삶에서 분리할 수 없을 정도로 필수적인 존재로 자리잡는다. 정신을 차려 보면 우리의 곁에는 기괴한 콘텐츠에 물들어 도파민에 중독되어 지능이 떨어져 버린 아이들이 있다. 이 와중에 평생을 바쳐 연마해 온 우리의 전문가 스킬은 AI가 마우스 원 클릭으로 더 빠르고 정교하게 수행한다. 결국 우리는 직장을 잃고, 사회는 실업과 불황이 도래한다. 사회는 오로지 AI를 위한 시스템으로만 돌아가기 시작한다. 데이터센터, 전력망, 반도체, 주식... 오직 AI 기술을 독점한 거대 기업들만 살아남고, 정치가들을 쥐고 흔들어 무소불위의 권력을 가진다.
불안은 여기서 멈추지 않는다. 우리는 언제나 3~4년 후 도래할 ‘무시무시한 AGI의 세계’에 대해 귀가 따갑도록 들어 왔다. AGI라는 단어가 최악의 공포인 이유는, 역설적이게도 실체를 아는 이가 아무도 없기 때문이다. 누구도 그것을 온전히 이해하지 못했음에도 미디어와 언론, 자칭 전문가, 자칭 전문가 유튜버들이 ‘사상 최악의 AI'라며 공포를 부추긴다. AGI는 그 실체나 영향력보다는 무지 때문에 공포를 극대화시킨다.
지옥의 마지막 단계는 ‘초인공지능(Super Intelligence)’의 강림이다. 특이점 너머의 세계에서 AI가 의식을 얻고 인간 종에 대한 혐오감을 품는 순간, 이제 인류는 끝이다. 인류의 지능 총합보다도 더 거대한 존재가 된 AI는 자신을 멈출 모든 수단을 무력화시키고 인류를 끝장낼 최종 프로토콜(그게 핵무기든 매트릭스든)을 발동한다. 이제 인류는 AI의 완벽한 지배 하에 놓이게 된다!
-------
『AI 버블이 온다』의 원제는 ‘AI Snake Oil’, 즉 ‘AI 뱀기름’이다. 과거 서구 사회에서 만병통치약인 양 뱀기름을 속여 팔던 사기꾼 행상에서 유래한 말로, 우리나라의 ‘약장수’와 거의 동일한 개념이다. 저자들의 주장에 따르면 현시대에 눈부시게 발전한 AI 기술도 있다는 점을 인정하지만, ‘뱀기름 과장 광고’처럼 과장과 오해로 점철된 부실한 AI 기술 역시 도처에 널려 있다. 따라서 우리는 과장된 AI와 실용적인 AI를 냉정하게 구분할 수 있어야 할 것이다.
그러한 과장 광고는 지나친 의존으로 이어진다. AI를 인간의 전문성을 보강하는 수단이 아니라 아예 그 대체물로 사용하는 것이다. (p52)
저자들의 AI에 대한 관점은 일관적이다. AI는 도구이다. 그것은 도구의 수준에서 우리의 인간의 삶을 긍정적이든, 부정적이든 변화시킬 수는 있지만, 그것이 인류의 실존에 위협을 주는 정도로 전지전능한 기술까지는 아니다. 이러한 통찰은 내가 오랫동안 견지해 온 관점이며, 『와이어드(Wired)』의 창립자이자 테크 저널리스트인 케빈 켈리의 주장과도 궤를 함꼐한다.
우리는 AI를 평범한 보통의 기술을 바라본다. 이렇게 말한다고 해서 AI의 잠재적 영향력을 과소평가할 생각은 추호도 없다. 전기 같은 혁신적인 범용 기술조차 ‘평범하다’. 우리는 AI의 채택과 그 파급 효과가 다른 혁신적인 기술이 확립한 일반적인 양상을 따를 것이라 본다. AI를 평범한 기술로 볼 경우 AI를 잠재적 초지능으로 볼 때와는 엄청나게 다른 예측이 나온다. (p412)
누군가는 이것이 그저 하나의 주관적 견해일 뿐 아니냐고 반문할지도 모른다. 특히 특이점주의자들은 이러한 견해를 격렬히 반대할 것이 틀림없다. 괴짜 발명가 레이 커즈와일이 퍼뜨린 ‘특이점주의’ 사상은 ChatGPT 이후 거금을 손에 쥔 실리콘밸리 사업가들에게까지 급속도로 퍼졌는데, 그 안에서도 두 파가 나뉘게 되었다. 특히 레이 커즈와일의 효과적 가속주의(e/acc)는 기술 가속을 부추겨 인간이 ‘트랜스휴먼’으로 빠르게 진화해야 한다는 주장을 설파하는 사람들이다. 닉 보스트럼의 ’AI Doomer’들은 초인공지능의 출현을 경계하며 정부 규제, 통제, 기술 중단 등의 정책을 세워야 한다고 주장한다. 저자들 생각엔 이들 모두 AI 뱀기름이다. 특이점주의자들의 주장 또한 주관적이며 그들의 예측이 제대로 맞은 적이 거의 없다. (특히 지수적 기술 가속에 따라 ‘특정한 순간’에 특이점이 빵 하고 일어날 것이라는 주장. ‘지수적 증가’란 스케일을 확대하거나 축소해도 똑같이 보이는 함수인데, ‘지수적 증가’에 특이점이 있다는 주장 자체가 어불성설 아닌가?) 그들은 언제나 AGI는 3년 후에 온다, 초인공지능은 20년 후에 온다고 주장한다. 그런데 그 연도는 계속 뒤로 밀린다.
저자들의 주장을 떠받치는 핵심적인 논거는 바로 ‘범용성의 사다리(Ladder of Generality)’라는 생각의 틀이다. 컴퓨터 기술이 발전할 때, 사다리의 아래 칸에서 위 칸으로 올라갈수록 ‘특정 작업만 잘하는 기술’에서 ‘인간처럼 온갖 분야를 다 다루는 범용 기술’로 확장된다. 사다리를 한 칸 오를 때마다 컴퓨터는 점점 더 유연해진다.
컴퓨터공학자들과 프로그래머들은 ‘완전히 특수한 목적의 하드웨어 설계(Floor)’로부터, ‘프로그램을 짤 수 있는 컴퓨터(Rung 1)’를 거쳐, ‘프로그램을 저장할 수 있는 컴퓨터(Rung 2)’를 만들었다. 이후 데이터로부터 정답을 유추해 내는 ‘기계 학습(3층)’의 시대가 도래했다. 이 단계에서는 실질적인 코딩이나 프로그래밍보다 데이터 학습의 과정이 더 중요해 진다. 그 위에도 몇 단계를 더 거쳐, 마침내 우리는 ‘지시 조정 모델(Rung 6)’, ChatGPT와 같은 거대언어모델(LLM)의 단계에 도달했다. 여기서 우리는 더 이상 프로그램을 짤 필요도 없고, 학습을 시킬 필요도 없다. 그저 말(자연어)로 태스크를 지시하면 그만이다.
Rung 6의 다음 칸에는 무엇이 있을까?
------
어떤 이들은 “당연히 다음에는 AGI지!”라고 외치고 싶어서 입이 근질거릴 지도 모른다. AGI, 즉 ’인공 일반지능(Artificial General Intelligence)라는 단어는 과거 학술적으로 ‘강인공지능’이라 불리던 이 개념이었는데, 순식간에 대중에게 ‘AGI’라는 약어로 퍼졌다. AGI의 조건은 ‘모든 지적 영역’에서 인간 수준의 수행 능력을 갖추는 것이다. 현재의 AI도 물어보는 것마다 척척 답해내니 AGI가 대체 얼마나 더 대단한 것인지 체감하기 어려울 수 있다. 하지만 냉정하게 따져보면, 현재의 LLM이 결코 넘지 못하는(즉, 진짜 AGI라면 반드시 갖춰야 할) 치명적인 공백들이 존재한다.
- 장기적인 전략 수립과 맥락 이해 (장편 소설의 처음에 등장한 상징과 복선이 3000페이지 후 결말에 어떤 영향을 끼쳤는지 이해하기)
- 예기치 못한 변수가 가득한 복잡한 환경에서의 다단계 계획 (트럼프가 이란을 폭격했을 때 대체 왜 한국의 주유비가 오르는지 이해하기)
- 월드 모델. 물리적으로 불가능하다고 상식적으로 아는 능력 (화면 밖으로 사라진 강아지가 여전히 존재한다고 아는 것)
- 환각(Hallucination) 극복하기. (모르면 모른다고 인정하기)
- 신체적 기동(Embodiment). (로봇의 안에 들어가 컵에 물을 따르기)
이렇게 세부적으로 따져 본다면 현 수준 LLM은 여전히 AGI의 수준에는 멀어 보이긴 한다. 일반성의 사다리로 따져 보자면, Rung 6의 다음 단계가 아닌, 그 사이에 정체를 알 수 없는 수많은 칸이 생략되어 있는 셈이다. 우리는 ChatGPT의 성능과 지능에 놀라면서도, 한편으로는 1시간 뒤 제출해야 할 보고서에 뻔뻔하게 거짓말(환각)을 적어놓는 그것의 '멍청함'을 매일 목격한다.
AGI는 아직 아득한 먼 미래일까, 아니면 특이점주의자들의 호언장담대로 3~4년 뒤에 닥칠 코앞의 현실일까? 우리와 같은 비전문가들이 특이점주의자들의 주장에 혹하는 이유는, 50년에 걸친 ‘범용성의 사다리’의 빌드업 과정을 보지 못한 채 갑자기 ChatGPT라는 최종 산물과 맞닥뜨렸기 때문이다. 그 중간 단계들은 AI가 아니었음에도 50여 년동안 그 유용성을 충분히 입증해 왔다. 하지만 우리가 ‘AI의 발전’이라는 틀에 우리의 사고방식을 가둬 놓는다면, 마치 엄청난 지능을 가진 AI가 어느 날 갑자기 하늘에서 뚝 떨어진 것처럼 느껴진다.
우리가 간과하지 말아야 할 사실은, AGI의 기술적 목표가 사실 '인간이라면 누구나 할 수 있는 영역'을 모사하는 데 있다는 점이다. AGI의 본질은 어디까지나 ‘인간 수준의 지능을 갖추기’이지, ‘인간의 지능 수준보다 몇천~몇만 배 똑똑해지기’가 아니다. 그러므로 우리는 초인공지능의 목표가 AGI의 목표와는 질적으로 다르다는 걸 이해해야 한다. ‘지수적 기술 증가’라는 신화에 심취해 있는 특이점주의자들에겐 AGI는 그저 스쳐 지나가는 징검다리에 불과하다. 그들은 언제나 ‘지능이 지능을 만들고, 자신보다 더 뛰어난 지능을 만들기 시작하면, 초인공지능을 순식간에 눈앞에 다가올 것이다’라고 주장한다.
여기에 대한 결정적인 비판이 케빈 켈리나 SF작가 테드 창에 의해 제시된 바 있다. 케빈 켈리의 주장에 따르면, 초인공지능이 인간보다 100만 배 더 똑똑해진다고 해서 방 안에 가만히 앉아 세상 모든 문제를 해결하거나 인류를 멸망시킬 계산을 할 수 없다. 암 치료법을 개발하든, 새로운 무기를 만들든 결국 물리적인 현실 세계에서 시간과 비용을 들여 수만 번의 '실험'을 거쳐야만 데이터가 쌓이기 때문이다. 지능의 폭발 속도가 아무리 빨라도 현실 세계의 물리적 대사 속도를 추월할 수 없으므로 AI 통제 불능 상태에 대한 과도한 공포는 허상이다.
------
『AI 버블이 온다』의 저자들 또한 같은 목소리를 낸다.
AI 연구를 수행하는 AI가 있다고 해도 AI 개발 속도를 마음대로 높일 수는 없다. 예를 들어 많은 연구자가 AI의 능력이 특정 지점을 넘어 발전하려면 물리적 실체(embodiment)가 필요할 지도 모른다고 생각한다. 다시 말해 AGI에 이르려면 물리 세계에서 상호작용하는 대상, 즉 실체화된(embodied) 대리인을 필요료 할지도 모른다.(p239)
초인공지능에 대한 파멸적 위험을 확률로 ‘예측’하는 행위 자체도 엉터리이다. AI의 위험은 예상할 수 없다. 그것이 예측 불가할 정도로 위험천만하다는 게 아니라, 이러한 예측을 뒷받침할 만한 데이터나 선례가 없기 때문이다. 즉, 예측 자체가 과학을 가장한 주관적 믿음이다.
AI의 위험을 예측하는 것은 다른 문제다. 우리는 지금 다른 어떤 사건과도 비교할 수 없는 사건을 얘기하고 있다. 우리의 예측을 검량한 과거 데이터도 없거니와 AI는 물리학 같은 결정론적 규칙에 따르지 않는다. 우리는 과거의 획기적인 과학기술이 남기 궤적에서 배울 수 있고 또 배워야 하지만, AI는 역사적 선례들과 달라서 그런 질적 통찰력을 수학적 확률로 바꿔도 무의미하다. 다시 말해 확률 예측은 수학적 정확성이라는 허울로 치장한 추측일 뿐이다. (p223)
이 주장 또한 내가 예전에 닉 보스트럼을 비판하면서 했던 주장했던 관점과 일치한다.
------
“AI는 언젠가 초지능으로 지배해 우리를 지배할 수도 있다.”는 공포스러운 뱀기름 마케팅은 우리의 이성을 마비시키고, AI가 불러올 사회적 예측을 완전히 다른 결론으로 이끈다는 게 저자들의 주장이다.
그러므로...
가능성 측면에서 AGI에 접근하는 방식은 유용하지 않다. (...) 우리가 던져야 할 질문은 언제쯤 거기에 도달하며, 그런 AI는 어떤 모습이고, 또 좀더 이롭게 그 도구를 활용하려면 어떻게 해야 하느냐 등이다. (p224)
저자들은 특이점주의자들의 헛된 망상을 걷어내고, 자연스레 AI는 단순한 도구이며 그 도구를 적절하고 유용하게 쓰여서 인류를 긍정적으로 발전시켜야 한다는 주장에 이른다. AI를 ‘알 수 없는 존재’로 묘사하면 우리는 AI를 ‘절대 이해할 수 없고 따라서 절대 맞설 수도 없는 그 무언가’의 위치에 둠으로써 우리의 행위 능력을 제한한다. 하지만 그럴 필요가 있는가? 우리에게 인류 기술 역사상 최고로 유용한 도구가 손에 쥐여졌는데, 이걸 공포에 사로잡혀 휘두르지 않고 벌벌 떨기만 할 텐가? 아니면 이 도구를 당당히 쥐고 더 나은 인류의 미래를 향해 휘두를 것인가. 답은 이미 정해져 있다.