[마이리뷰] 위대한 바다

위대한 바다 - 지중해 2만년의 문명사
데이비드 아불라피아 지음, 이순호 옮김 / 책과함께 / 2013년 2월

(페르낭) 브로델의 접근 방법에는 ‘모든 변화는 느리게 진행된다‘는 것과 ‘인간은 자기 힘으로는 어찌할 수 없는 운명에 속박되어 있다‘는 사상이 내포되어 있다. 이 책은 두 가지 관점 모두에 반대되는 입장을 취한다.(p23)

AI(인공지능)이 인간을 완전히 대체할 수 있을까?

 인간에게 해를 입힐 수 없도록 금하고 있는 로봇공학 제1원칙은 통상 눈으로 볼 수 있는 육체적인 위해를 말하지. 그것은 눈으로 쉽게 볼 수 있는 것이고 판단을 내리기도 어렵지 않다네.(p98)... 너 자신의 즐거움은 제3원칙에 해당하는 것이고 내 명령에 복종하는 것은 제2원칙에 해당하는 거니까, 제2원칙이 우선한다는 말이지?(p51) <로봇과 제국 1> 中

  아이작 아시모프(Isaac Asimov, 1920 ~ 1992)는 로봇공학의 3원칙(Three Laws of Robotics)을 적용해서 많은 SF 작품을 쓴 유명작가다. 위의 <로봇과 제국 Isaac Asmov's Robot> 역시 그의 SF 작품들 중 하나인데, 작품 속 로봇들은 기본적인 원칙의 지배하에 있으며, 작품 속에서 로봇들은 많은 경우 기본원칙 간의 충돌이 일어나는 한계상황에 놓이게 된다. 소설 속에서 로봇들은 기본 원칙 충돌되었을 때 오작동을 일으키지만, 프로그래밍이 되지 않은 학습능력을 갖춘 AI(Artificial Intelligence 인공지능)을 탑재한 로봇들도 같은 문제를 일으킬 것인가? 레이 커즈와일(Ray Kurzweil, 1948 ~ )는 그렇지 않다고 대답한다. 그에 말에 따르면 AI는 인간의 뇌와 같은 기능을 가지고 있으며, 일부에서는 더 우수한 면을 가진다.

 간혹 뇌는 컴퓨터와 달라서 뇌 기능에 대한 통찰을 비생물학적 구조에 바로 적용할 수는 없다고 말하는 사람들이 있다. 자기조직적 구조에 대한 이해가 없어서 하는 말이다.(p402)... 2020년대 중반이나 말이 되면 우리는 아주 정교한 뇌 모델들을 가질 것이다. 새 모델들 덕분에 우리의 도구상자가 풍성해질 것이고 뇌의 실제 작동 양식에 대한 심도 깊은 이해를 바탕에 든든히 깔 수 있을 것이다. 뇌 고유의 전략 중 하나는 처음부터 모든 지식을 고정되게 기억하는 대신 학습을 통해 유연하게 배운다는 점이다... AI의 학습 속도는 사람보다 훨씬 빠를 것이다. 사람이 스무 해는 걸러야 배울 수 있는 기초적 소양들을 기계는 몇 주도 안 되어 배울 수 있다. 비생물학적 지능끼리는 학습한 지식 패턴을 쉽게 공유할 수 있으므로, 하나의 AI가 기술을 배우면 그것으로 충분하다.(p403) <특이점이 온다> 中

 커즈와일은  <특이점이 온다 The Singularity is near>에서 2005년에 이미 학습이 가능한 AI의 출현을 예측한다. 아시모프가 그린 로봇은 프로그램에 의존하는 수동적인 존재지만, 커즈와일의 AI는 인간의 뇌에 근접한 수준의 능동적인 존재라는 점에서 차이가 있다. 한발 더 나아가 커즈와일은 유전학, 나노, 로봇의 혁명이 특이점(Singularity)을 불러올 것을 예측한다. 특이점. 이 지점에서 학습능력을 갖춘 인공지능에 대해 인간은 통제력을 상실하게 되는데, 인류의 희망과 위험이 공존한다는 것이  커즈와일의 주장이기도 하다.

 21세기 전반부에 우리는 세 개의 혁명이 꼬리를 물고 중첩되어 발생하는 것을 보게 될 것이다. 유전학의 혁명, 나노기술의 혁명, 로봇 공학의 혁명이다. 그로써 내가 제5기라 칭한 시대, 즉 특이점의 시대가 시작될 것이다. 현재 우리가 처한 지점은 'G(Genetics, 유전학)'혁명의 초기 단계다.(p278)... 일단 생물학의 작동 원리를 완벽히 이해한 뒤 손질을 가하기 시작하면 그때는 더 이상 생물학의 도구만으로는 부족하리라는 뜻이다. 생물학의 한계를 넘게 해줄 것은 'N(Nanotechnology, 나노기술)' 혁명이다. 우리 몸과 뇌, 우리가 사는 세상을 분자 수준으로 정교하게 재설계하고 재조립하게 해줄 것이다. 가장 강력한 혁신은 다가올 'R(Robotics, 로봇공학)' 혁명이다. 인간의 지능을 본받았지만 그보다 한층 강력하게 재설계될 이간 수준 로봇들이 등장할 것이다. R혁명은 최고로 의미 있는 변화다. 지능이란 우주에서 가장 강력한 '힘'이기 때문이다.(p278) <특이점이 온다> 中

 이러한 커즈와일의 2005년 예측을 제리 카플란(Jerry Kaplan은 <인간의 필요없다 Humans Need Not Apply: A Guide to Wealth and Work in the Age of Artificial Intelligence>와 <인공지능의 미래 Artificial Intelligence>에서 구체화하고 있다. 

 인공지능의 철학은 컴퓨터와 더 나아가서 기계들, 아니면 자연에 기원을 두지 않은 모든 것들에 마음이나 생각할 수 있는 능력이 있다고 말해도 되는가라는 질문을 던진다. 간단히 놓고 보면 그 질문의 답은 '마음'이나 '생각'을 어떻게 정의하느냐에 달려 있다.(p125) <인공지능의 미래> 中

 2016년 인공지능 알파고가 이세돌을 바둑에서 이기고 난 후 더이상 AI의 능력에 대해 의심을 품는 이는 거의 없다. 최근 논의는 AI가 불러올 변화로 옮겨가, AI로 인해 얼마나 많은 노동력이 대체될 것인지, 그로 인해 사회는 얼마나 바뀔 것인지로 사람들의 관심이 옮겨가는 모양새다. 알파고가 가져온 충격이 컸기에 AI에 대한 논의는 갑작스럽게 활발하게 이루어졌지만, 우리는 과연 AI에 대해 얼마나 정확히 알고 있는 것일까? 이에 대해 카플란은 <인공지능의 미래>에서 AI에 대한 과도한 공포를 경계하고 있다.

 기계학습 기술은 중요한 실질적인 의의가 있는 엄청난 발전이지, 이를 전반적인 지능을 갖춘 인공의 존재가 나타날 눈앞의 징조로 예측할 근거는 거의 없으며, 특히 현재 우리가 사는 이 시대에 예기치 못했던 무언가를 갑작스럽게 일깨울 잠재적 도화선이 될 리는 더더욱 없다.(p252) <인공지능의 미래> 中

 이제 우리는 인간의 통제에 따라 주어진 임무를 수행하는 피조물인 로봇시대를 넘어 로봇이 '지능'을 갖게 된 시대를 맞이했다. 16세기 인클로저 운동(Enclosure)을 통해 양들에게 인간이 쫓겨가 산업화 시대를 맞이한 이후, 21세기 AI에 의해 다시 인간들은 어디론가로 쫓겨갈 듯하다. 이러한 현실에서 우리가 할 일이 있을까.

[그림] ENCLOSURE MOVEMENT(출처 : https://www.historycrunch.com/enclosure-movement.html#/)

 유감스럽게도 인공지능이 노동의 자본 대체 현항을 가속화하기 때문에, 자본이 있는 사람들은 노동 능력이 주요 자산인 사람들의 희생으로 득을 보게 될 것이다. 소득불평등은 이미 절박한 사회적 문제로 떠올랐는데 앞으로는 더욱 악화될 가능성이 높다.(p225)... 현재 우리가 취할 수 있는 한 가지 실질적인 대처방안은 인공지능 시스템을 개발하고 테스트하는 과정에 적용할 전문적인 개발기준을 마련하는 것이다.(p265) <인공지능의 미래> 中

 카플란에 따르면 우리에게 할 일이 남아있다. 인공지능 개발 기준 마련이 얼마나 중요한 것인지는 플라톤(Platon, BC 427 ~ BC 347)의 대화편을 통해 살펴보도록 하자.

선생님은 제우스가 인간에게 정의와 염치를 보냈다고 하셨고, 또 말씀하시는 중에 여러 번 정의, 분별, 결건, 그런 모든 것을 합쳐서 하나, 곧 덕이라고 하셨지요. 그런데 덕은 하나의 어떤 것이고 정의와 분별과 경건은 덕의 부분들일지, 아니면 제가 지금 이야기한 이런 것들이 모두 동일한 하나의 것의 이름들인지, 그것을 논변으로 엄밀하게 설명해 주시죠.... 그건 대답하기 쉽지요, 소크라테스, 덕은 하나이고, 당신이 묻는 것들은 덕의 부분들입니다."(329c ~329d) <프로타고라스> 中

 <에우튀프론>의 아포리아가 위장된 아포리아라고 생각하는 사람들은 경건한 것이 정의로운 것의 부분이라는 이야기는 소크라테스 자신도 받아들인 것이라고 생각한다. 경건한 것이 정의로운 것의 부분이라는 이야기를 꺼낸 사람이 에우튀프론이 아니라 바로 소크라테스이기 때문이라는 것이다.(p48) <에우튀프론> 해제 中

  플라톤의 대화편 <프로타고라스 Protagoras>와 <에우튀프론 Euthyphron>에서 소크라테스(Socrates, BC 470 ~ BC 399)는 경건에 대해 서로 다른 주장을 펼친다. <프로타고라스>에서 소크라테스는 경건이 덕의 부분이라는 프로타고라스의 주장에 대해 반박을 하는 반면, <에우튀프론>에서 소크라테스는 경건이 정의의 부분이라는 상호 모순된 주장을 펼친다. 동일인물의 상호 모순된 주장을 AI는 어떻게 받아들일 것인가? 이러한 학습의 우선 순위를 정하는 것이 미래 우리 인간이 해야할 일이 아닐까.

 5G, 사물인터넷(IOT), AI(인공지능), 자율자동차 등 우리 삶을 변화시킬 신기술에 대한 많은 정보가 쏟아지는 요즘 인간(Human)의 자리는 점차 없어지는 듯 보이는 요즘이지만, 거대한 변화의 태풍의 중심에는 인간이 해야할 일이 있음을 새삼 깨닫게 된다. 대규모 자본에 의한 기술 발전의 변화 속에서 인간이 어떤 길을 가야할 것인가는 많은 고민이 필요하겠지만, 새로운 희망과 기회도 있음을 발견하면서 이번 페이퍼를 갈무리한다.

[마이리뷰] 제리 카플란 인공지능의 미래

제리 카플란 인공지능의 미래 - 상생과 공존을 위한 통찰과 해법들
제리 카플란 지음, 신동숙 옮김 / 한즈미디어(한스미디어) / 2017년 2월

노동 인구의 상당수는 사람들보다 더 잘, 더 빠르게, 더 낮은 비용으로 수행하는 시스템들에 대항하는, 패배가 확실한 경쟁에 나서야 할지 모른다. 그런 상황에서 우리가 고민해야할 부분은 그에 따른 증대된 부를 어떻게 공평하게 나눌 것인가의 문제다.(p232)

뜻밖의 딸아이 선물을 받고서

자녀의 삶에 영향을 끼치기 위해 부모가 뭔가 대단하고 강렬한 일을 할 필요는 없다. 다른 지역으로 이사를 가고 아이를 보낼 학교를 선택하는 것만으로도 당신은 아이가 살아갈 인생의 항로를 바꿀 수 있다.(p477) 「양육가설」중

주디스 리치 해리스의 「양육가설」에서 부모의 역할은 제한적이다. 자녀의 성장에 결정적인 영향을 미치는 또래 집단을 선택하는 정도가 부모의 통제권에 속한다는 저자의 주장은 부모들, 특히 한국의 부모들에게는 충격으로 다가온다. 그렇다면, 자녀의 성장을 위해 부모가 해야하는 것은 무엇일까? 「양육가설」에서는 이에 대한 답도 제시한다.

안타깝게도 부모가 자녀의 교우관계에 개입할 수 있는 여지는 자녀가 성장할수록 줄어든다.(p480)... 부모도 자녀를 괴롭힐 수 있다. 그리고 자녀는 부모의 이런 성향을 금세 파악하고 학습한다. 그렇다고 아이가 모든 사람이 그럴 것이라고 생각하지는 않는다. 하지만 부모와의 관계는 나빠질 것이다. 부모의 억압적 행동이 오랫동안 계속된다면 부모-자녀의 관계는 영원히 회복불가능할만큼 훼손될 수 있다... 아이가 아직 어렸을 때에 다정하게 대하라. 그러면 아이도 당신이 늙었을 때애 당신에게 잘 할 것이다.(p486) 「양육가설」중

「양육가설」에 대한 자세한 이야기는 다음 리뷰에서 풀어가기로 하고, 이와 관련된 개인 이야기를 페이퍼에서 이어가겠습니다.

어제 딸아이 연의와 모처럼 긴 시간을 뛰어놀았습니다. 그 시간이 인상적이었는지 어제 밤늦게까지 무엇인가 만들더니 아침에 선물이라고 편지를 두 장 보여주었습니다. 그림 하나와 글씨 편지 하나. 어제 함께 보낸 시간이 좋았구나 하는 마음에 고마움과 함께 미안한 마음이 듭니다. 아이가 원하는 것은 큰 게 아닌데, 그것을 채우는 것은 왜이리 쉽지 않은지요...

어제 받은 편지를 보니, 아직 너무 늦지 않았다는 생각이 들어 다행입니다. 이 편지를 보면서 「대학」에서 말하는 것처럼 날마다 새로워지고 또 새로워져야겠다는 생각을 해봅니다.

마침 부모님 댁 인테리어 공사가 있어, 당분간 3대가 한 집에 살며 5월 가정의 달을 보내게 되었습니다. 아직 아이가 다 크기 전, 부모님이 함께 계시는 동안 ‘다정하게‘ 대할 것을 굳게 다짐해 봅니다. 딸의 선물이 아빠의 부족함을 깨우는 것을 보면 양육을 통해 아이와 부모가 함께 성장함을 깊이 느끼며 이번 페이퍼를 마무리 합니다.^^:)

<물리와 철학> : 사실과 경험 그리고 언어의 차이

물리와 철학 - 근대 과학의 혁명
베르너 하이젠베르크 지음, 조호근 옮김 / 서커스(서커스출판상회) / 2018년 4월

 코펜하겐 해석을 이해할 때의 진정한 어려움은 다음의 유명한 질문으로 표현할 수 있다. "그렇다면 원자 수준의 사건에서 '실제로는' 무슨 일이 벌어지는 것인가?"... 이 경우 관찰로 얻어낸 결과는 확률함수, 즉 우리가 아는 사실에 대한 가능성 또는 경향성에 대한 수학적 표현일 뿐이다.(p57) <물리와 철학> 中

 만약, 하이젠베르크(Werner Karl Heisenberg, 1901 ~ 1976)의 <물리와 철학 Physics and Philosophy>을 관통하는 핵심어를 묻는다면, '관찰(觀察, observation)'이라 생각된다. 양자론(量子論 Quantum theory)의 세계에서 관찰이라는 행위는 사건 결과에 큰 영향을 미치며, 행위 결과는 확률함수의 주관적 요소 때문에 불연속적으로 나타난다는 것으로 정리될 수 있다. 이는 저자의 '불확정성 원리(不確定性原理, uncertainty principle)' 내용 중 일부이기도 하다.

 관찰 자체는 확률함수를 불연속적으로 변화시킨다. 모든 가능한 사건 중에서 실제로 일어난 사건 하나를 선택하는 것이다. 관찰을 통해 계(界)에 대한 우리의 지식이 불연속적으로 변화했기 때문에, 이를 수학적으로 표현한 결과 또한 불연속적으로 변화하여 소위 말하는 '양자 도약 quantum jump'이 발생한다... '가능성'이 '실재'로 번환되는 사건은 관찰이라는 행위가 벌어지는 도중에 발생한다.(p62) <물리와 철학> 中

 확률함수에는 객관적인 요소와 주관적인 요소가 혼재되어 있다. 그 일부는 가능성이나 더 나은 쪽을 향하는 경향성과 관련된 기술이며, 이런 기술은 완벽하게 객관적이라 관찰자에 따라 변하지 않는다. 다른 일부는 계에 대해 알고 있는 지식과 관련된 기술이며, 이는 관찰자가 바뀌면 달라지는 요소이므로 당연히 주관적이다.(p60)... 상호 작용을 감안하면, 한때 '단순 사건'이었던 확률함수에는 경향성에 의한 객관적인 요소와 불충분한 지식에 의한 주관적인 요소가 혼재하게 된다. 이런 이유 때문에 관찰 결과를 확실하게 예측하는 일이 불가능한 것이다.(p61) <물리와 철학> 中

 현대 물리학자인 하이젠베르크의 입장에서 철학은 어떤 의미일까. 저자에 따르면, 그리스 철학의 많은 부분이 현대 물리학 명제를 설명하는 듯 보이지만, 그것은 정확한 실상(實狀)이 아니다. 현대 물리학은 관찰과 실험에 의해 이론이 지지되지만, 고대 철학은 일반 경험에 기반한 이론에서 비롯되었기 때문에 주관적이며, 물리학에 비해 현실의 한계가 명확하다. 특히, 철학과 물리학의 차이점은 '언어(言語 language)' 문제에서 보다 극명하게 드러난다. 

 고대 철학의 주장 중 일부는 현대 물리학의 명제에 꽤나 근접해 있는 것이 사실이다. 이는 실험을 수행하지 않아도, 자연계에 대한 일반적인 경험을 쌓고, 이 경험에서 일반 법칙을 도출하고 질서를 부여하려는 부단한 노력을 반복하면, 인간의 사상이 어디까지 도달할 수 있는지를 확실히 보여준다.(p90) <물리와 철학> 中

 현대 물리학과 그리스 철학 사이에는 엄청난 간극이 존재하며, 이는 현대 과학이 가지는 실험과 실증적 탐구 방식에서 유래한다. 갈릴레오와 뉴턴의 시대 이래로 현대 과학은 자연에 대한 세밀한 탐구와 실험에 의해 입증된, 아니면 적어도 입증될 수 있는 공리에 기반을 되어왔다... 현대 과학은 그 시작점부터 그리스 철학보다 훨씬 보편적이고 훨씬 단단한 기반 위에 서 있는 것이다.(p69) <물리와 철학> 中

 저자에 따르면 일상 생활에서 사용되는 언어(또는 철학 언어)로 물리학의 많은 부분을 이해할 수 있지만, 모든 것을 이해할 수 없다. 일상 언어로 설명되지 않는 내용에 대해서는 결국 '수학의 언어'가 활용될 수 밖에 없게 된다는 저자의 말은, 현대 물리학의 단단한 기반은 수학 위에 기초한다는 이야기로 바꿀수 있다.

 양자론의 수학 기호와 일반 언어의 개념은 명확한 상호 관계를 형성하며, 실험 또한 이 상호 관계를 통해 충분히 해석할 수 있다. 결국 이번에도 문제가 남는 것은 사실쪽이 아니라 언어 쪽인데, 일반 언어로 기술할 수 있는 '사실'의 개념에 대한 문제이기 때문이다.(p223)... 모호하고 체계적이지 않은 방식으로 언어를 사용하다가 난점이발생하면, 물리학자는 그냥 수학 공식으로 퇴각해서 공식과 실험적 사실 사이의 명확한 상관관계로 돌아가면 되는 것이다.(p224) <물리와 철학> 中

 온갖 난해한 정의와 판별을 피하려면 언어를 사실, 즉 실험 결과를 기술하는 일에만 한정하면 된다. 그러나 원자의 입자 자체에 대해 언급하고 싶으면 오직 수학의 언어를 사용하여 자연언어를 보완하거나, 또는 변용된 논리나 명확하게 정의되지 않은 논리를 사용하는 언어와 조합해야 한다.(p232) <물리와 철학> 中

 생각해보면, 철학 내에서도 우리는 이미 언어의 모호성을 경험한다. 스피노자의 '나투라 나투란스(Natura naturans 能産的 自然)과 노자 <도덕경 道德經> 안의 '자연(自然)'이 결코 같은 의미가 아님에도 같이 '자연'으로 번역되기에 우리는 이를 이해할 때 다소 혼란을 겪을 수 밖에 없다. 이러한 언어의 차이에서 오는 문제가 다른 분야 학문을 설명할 때 생기는 모호함은 더 클 수 밖에 없을 것이다.

 정리하면  <물리와 철학>에서 저자 하이젠베르크는 '관찰'이라는 행위를 통해 상대성 이론의 세계와 양자론의 세계를 설명하고, '실험'과 '경험'을 통해 '수학 언어'와 '일상 언어'의 세계인 물리학과 철학의 세계의 차이를 밝힌다. 이 과정을 논리적으로 설명하기에 독자들에게 현대 물리학과 철학의 차이, 양자론과 상대성 이론의 차이가 간결하고도 알기 쉽게 설명된다. 또한, 리뷰에서 언급하지 못한 다양한 철학자들의 우주론(宇宙論 Cosmology)가 <물리와 철학>소개되기에 독자들에게 또 다른 즐거움을 준다. 다만, 간략하지만 많은 철학사상과 물리학 이론이 핵심적으로 소개되기에 용어가 낯선 독자들은 어려움을 느낄 수 있으리라 여겨진다. 때문에, 이 책을 너무 깊이 있게 읽기보다 용어 정도 익숙해진다음, 다른 과학 교양서를 읽는다면 의미있는 독서가 되리라 생각하며 이번 리뷰를 마친다.