인간에게 해를 입힐 수 없도록 금하고 있는 로봇공학 제1원칙은 통상 눈으로 볼 수 있는 육체적인 위해를 말하지. 그것은 눈으로 쉽게 볼 수 있는 것이고 판단을 내리기도 어렵지 않다네.(p98)... 너 자신의 즐거움은 제3원칙에 해당하는 것이고 내 명령에 복종하는 것은 제2원칙에 해당하는 거니까, 제2원칙이 우선한다는 말이지?(p51) <로봇과 제국 1> 中


  아이작 아시모프(Isaac Asimov, 1920 ~ 1992)는 로봇공학의 3원칙(Three Laws of Robotics)을 적용해서 많은 SF 작품을 쓴 유명작가다. 위의 <로봇과 제국 Isaac Asmov's Robot> 역시 그의 SF 작품들 중 하나인데, 작품 속 로봇들은 기본적인 원칙의 지배하에 있으며, 작품 속에서 로봇들은 많은 경우 기본원칙 간의 충돌이 일어나는 한계상황에 놓이게 된다. 소설 속에서 로봇들은 기본 원칙 충돌되었을 때 오작동을 일으키지만, 프로그래밍이 되지 않은 학습능력을 갖춘 AI(Artificial Intelligence 인공지능)을 탑재한 로봇들도 같은 문제를 일으킬 것인가? 레이 커즈와일(Ray Kurzweil, 1948 ~ )는 그렇지 않다고 대답한다. 그에 말에 따르면 AI는 인간의 뇌와 같은 기능을 가지고 있으며, 일부에서는 더 우수한 면을 가진다.


 간혹 뇌는 컴퓨터와 달라서 뇌 기능에 대한 통찰을 비생물학적 구조에 바로 적용할 수는 없다고 말하는 사람들이 있다. 자기조직적 구조에 대한 이해가 없어서 하는 말이다.(p402)... 2020년대 중반이나 말이 되면 우리는 아주 정교한 뇌 모델들을 가질 것이다. 새 모델들 덕분에 우리의 도구상자가 풍성해질 것이고 뇌의 실제 작동 양식에 대한 심도 깊은 이해를 바탕에 든든히 깔 수 있을 것이다. 뇌 고유의 전략 중 하나는 처음부터 모든 지식을 고정되게 기억하는 대신 학습을 통해 유연하게 배운다는 점이다... AI의 학습 속도는 사람보다 훨씬 빠를 것이다. 사람이 스무 해는 걸러야 배울 수 있는 기초적 소양들을 기계는 몇 주도 안 되어 배울 수 있다. 비생물학적 지능끼리는 학습한 지식 패턴을 쉽게 공유할 수 있으므로, 하나의 AI가 기술을 배우면 그것으로 충분하다.(p403) <특이점이 온다> 中


 커즈와일은  <특이점이 온다 The Singularity is near>에서 2005년에 이미 학습이 가능한 AI의 출현을 예측한다. 아시모프가 그린 로봇은 프로그램에 의존하는 수동적인 존재지만, 커즈와일의 AI는 인간의 뇌에 근접한 수준의 능동적인 존재라는 점에서 차이가 있다. 한발 더 나아가 커즈와일은 유전학, 나노, 로봇의 혁명이 특이점(Singularity)을 불러올 것을 예측한다. 특이점. 이 지점에서 학습능력을 갖춘 인공지능에 대해 인간은 통제력을 상실하게 되는데, 인류의 희망과 위험이 공존한다는 것이  커즈와일의 주장이기도 하다.


 21세기 전반부에 우리는 세 개의 혁명이 꼬리를 물고 중첩되어 발생하는 것을 보게 될 것이다. 유전학의 혁명, 나노기술의 혁명, 로봇 공학의 혁명이다. 그로써 내가 제5기라 칭한 시대, 즉 특이점의 시대가 시작될 것이다. 현재 우리가 처한 지점은 'G(Genetics, 유전학)'혁명의 초기 단계다.(p278)... 일단 생물학의 작동 원리를 완벽히 이해한 뒤 손질을 가하기 시작하면 그때는 더 이상 생물학의 도구만으로는 부족하리라는 뜻이다. 생물학의 한계를 넘게 해줄 것은 'N(Nanotechnology, 나노기술)' 혁명이다. 우리 몸과 뇌, 우리가 사는 세상을 분자 수준으로 정교하게 재설계하고 재조립하게 해줄 것이다. 가장 강력한 혁신은 다가올 'R(Robotics, 로봇공학)' 혁명이다. 인간의 지능을 본받았지만 그보다 한층 강력하게 재설계될 이간 수준 로봇들이 등장할 것이다. R혁명은 최고로 의미 있는 변화다. 지능이란 우주에서 가장 강력한 '힘'이기 때문이다.(p278) <특이점이 온다> 中


 이러한 커즈와일의 2005년 예측을 제리 카플란(Jerry Kaplan은 <인간의 필요없다 Humans Need Not Apply: A Guide to Wealth and Work in the Age of Artificial Intelligence>와 <인공지능의 미래 Artificial Intelligence>에서 구체화하고 있다. 


 인공지능의 철학은 컴퓨터와 더 나아가서 기계들, 아니면 자연에 기원을 두지 않은 모든 것들에 마음이나 생각할 수 있는 능력이 있다고 말해도 되는가라는 질문을 던진다. 간단히 놓고 보면 그 질문의 답은 '마음'이나 '생각'을 어떻게 정의하느냐에 달려 있다.(p125) <인공지능의 미래> 中


 2016년 인공지능 알파고가 이세돌을 바둑에서 이기고 난 후 더이상 AI의 능력에 대해 의심을 품는 이는 거의 없다. 최근 논의는 AI가 불러올 변화로 옮겨가, AI로 인해 얼마나 많은 노동력이 대체될 것인지, 그로 인해 사회는 얼마나 바뀔 것인지로 사람들의 관심이 옮겨가는 모양새다. 알파고가 가져온 충격이 컸기에 AI에 대한 논의는 갑작스럽게 활발하게 이루어졌지만, 우리는 과연 AI에 대해 얼마나 정확히 알고 있는 것일까? 이에 대해 카플란은 <인공지능의 미래>에서 AI에 대한 과도한 공포를 경계하고 있다.


 기계학습 기술은 중요한 실질적인 의의가 있는 엄청난 발전이지, 이를 전반적인 지능을 갖춘 인공의 존재가 나타날 눈앞의 징조로 예측할 근거는 거의 없으며, 특히 현재 우리가 사는 이 시대에 예기치 못했던 무언가를 갑작스럽게 일깨울 잠재적 도화선이 될 리는 더더욱 없다.(p252) <인공지능의 미래> 中


 이제 우리는 인간의 통제에 따라 주어진 임무를 수행하는 피조물인 로봇시대를 넘어 로봇이 '지능'을 갖게 된 시대를 맞이했다. 16세기 인클로저 운동(Enclosure)을 통해 양들에게 인간이 쫓겨가 산업화 시대를 맞이한 이후, 21세기 AI에 의해 다시 인간들은 어디론가로 쫓겨갈 듯하다. 이러한 현실에서 우리가 할 일이 있을까.


[그림] ENCLOSURE MOVEMENT(출처 : https://www.historycrunch.com/enclosure-movement.html#/)


 유감스럽게도 인공지능이 노동의 자본 대체 현항을 가속화하기 때문에, 자본이 있는 사람들은 노동 능력이 주요 자산인 사람들의 희생으로 득을 보게 될 것이다. 소득불평등은 이미 절박한 사회적 문제로 떠올랐는데 앞으로는 더욱 악화될 가능성이 높다.(p225)... 현재 우리가 취할 수 있는 한 가지 실질적인 대처방안은 인공지능 시스템을 개발하고 테스트하는 과정에 적용할 전문적인 개발기준을 마련하는 것이다.(p265) <인공지능의 미래> 中


 카플란에 따르면 우리에게 할 일이 남아있다. 인공지능 개발 기준 마련이 얼마나 중요한 것인지는 플라톤(Platon, BC 427 ~ BC 347)의 대화편을 통해 살펴보도록 하자.

 

선생님은 제우스가 인간에게 정의와 염치를 보냈다고 하셨고, 또 말씀하시는 중에 여러 번 정의, 분별, 결건, 그런 모든 것을 합쳐서 하나, 곧 덕이라고 하셨지요. 그런데 덕은 하나의 어떤 것이고 정의와 분별과 경건은 덕의 부분들일지, 아니면 제가 지금 이야기한 이런 것들이 모두 동일한 하나의 것의 이름들인지, 그것을 논변으로 엄밀하게 설명해 주시죠.... 그건 대답하기 쉽지요, 소크라테스, 덕은 하나이고, 당신이 묻는 것들은 덕의 부분들입니다."(329c ~329d) <프로타고라스> 中


 <에우튀프론>의 아포리아가 위장된 아포리아라고 생각하는 사람들은 경건한 것이 정의로운 것의 부분이라는 이야기는 소크라테스 자신도 받아들인 것이라고 생각한다. 경건한 것이 정의로운 것의 부분이라는 이야기를 꺼낸 사람이 에우튀프론이 아니라 바로 소크라테스이기 때문이라는 것이다.(p48) <에우튀프론> 해제 中


  플라톤의 대화편 <프로타고라스 Protagoras>와 <에우튀프론 Euthyphron>에서 소크라테스(Socrates, BC 470 ~ BC 399)는 경건에 대해 서로 다른 주장을 펼친다. <프로타고라스>에서 소크라테스는 경건이 덕의 부분이라는 프로타고라스의 주장에 대해 반박을 하는 반면, <에우튀프론>에서 소크라테스는 경건이 정의의 부분이라는 상호 모순된 주장을 펼친다. 동일인물의 상호 모순된 주장을 AI는 어떻게 받아들일 것인가? 이러한 학습의 우선 순위를 정하는 것이 미래 우리 인간이 해야할 일이 아닐까.


 5G, 사물인터넷(IOT), AI(인공지능), 자율자동차 등 우리 삶을 변화시킬 신기술에 대한 많은 정보가 쏟아지는 요즘 인간(Human)의 자리는 점차 없어지는 듯 보이는 요즘이지만, 거대한 변화의 태풍의 중심에는 인간이 해야할 일이 있음을 새삼 깨닫게 된다. 대규모 자본에 의한 기술 발전의 변화 속에서 인간이 어떤 길을 가야할 것인가는 많은 고민이 필요하겠지만, 새로운 희망과 기회도 있음을 발견하면서 이번 페이퍼를 갈무리한다.


댓글(0) 먼댓글(0) 좋아요(33)
좋아요
북마크하기찜하기 thankstoThanksTo