유럽 도시 기행 1

유럽 도시 기행 1 - 아테네, 로마, 이스탄불, 파리 편 ㅣ 유럽 도시 기행 1
유시민 지음 / 생각의길 / 2019년 7월

아테네, 로마, 이스탄불, 파리를 다니는 유시민의 기행문. 여정을 거치며 살펴보는 그 나라의 역사와 문화, 거기에 더해지는 그의 감상. 나름 재미있게 읽었는데, 책의 장점인지 단점인지, 직접 가보고 싶은 생각이 점점 줄어든다. 아마 난 여행을 별로 좋아하지 않는 모양이다. 

... 보나파르트 나폴레옹은 모순으로 점철된 인생을 살았다. 대혁명의 전사로서 왕당파의 반란을 진압했고, 자유의 깃발을 높이 흔들며 주변 군주국의 동맹을 깨뜨리고 유럽을 평정했다. 하지만 그렇게 해서 얻은 인기를 이용해 황제가 됨으로써 대혁명의 정신을 배반했다.

...

  카이사르는 황제가 되기 전에 암살당했지만 나폴레옹은 황제가 됨으로써 과거의 자신을 죽였다. 그는 1802년 8월 아부꾼들의 부추김을 받고 국민투표를 시행해 만장일치에 육박하는 찬성표를 받아 황제가 되었다. 나폴레옹이 부르봉 왕가의 예배당이었던 생드니 성당을 내치고 노트르담 대성당에서 즉위식을 열었을 때, 왕의 목을 잘랐던 대혁명의 깃발은 땅에 떨어졌다. 왕정을 폐지한 혁명이 겨우 10년 만에 제정으로 귀결되었으니, 역설도 이런 역설이 없었다. 

...

  영국을 겨냥한 대륙봉쇄령이 유럽 대륙에도 심각한 경제 위기를 몰고 온 것도 나폴레옹의 몰락을 부추겼다. 참다못한 러시아가 대륙봉쇄령을 위반하자 나폴레옹은 1812년 60만 대군을 일으켜 러시아를 침공했다. 러시아군이 도시와 들판에 불을 지르고 후퇴한 탓에 프랑스군은 손쉽게 모스크바를 점령했지만 식량 부족과 혹독한 추위를 견디지 못하고 철수하다가 추격해 온 러시아군에 전멸당했다.

  고전을 거듭하던 프랑스는 1814년에 파리를 빼앗겼고, 나폴레옹은 이탈리아 중부 서쪽 앞바다의 엘바섬으로 쫓겨났다. 유럽 전역에서 왕정복고의 반동이 밀어닥쳤다. 그런데 루이 16세의 동생인 루이 18세가 왕이 되어 형 못지않게 어리석고 무능한 짓을 계속하자 나폴레옹은 엘바섬을 탈출해 파리로 돌아와 황제 자리를 되찾았다. 하지만 그의 치세는 '백일천하'로 끝나고 말았다. 워털루 전투에서 영국과 프로이센 연합군에 완패한 나폴레옹은 남대서양의 영국령 세인트 헬레나섬에서 갇혀 체스와 영어 공부로 소일하면서 자신의 인생과 세계관을 구술한 회고록을 남기고 1821년 5월 5일에 사망했다. 유해는 1840년 프랑스 정부가 영국 정부의 협조를 받아 앵발리드 성당에 안치했다. (273~275 페이지)

오늘이란 역사

하루하루가 역사로 쌓인다. 개인도 그렇고, 국가도 그렇다. 내 역사는 나만 알겠지만, 국가의 역사는 많은 이들이 알고 교훈을 얻는다. 오늘날 이런 일이 있었다는 것을 기록해 놓는다. 

출처: https://v.daum.net/v/20231028090507140

내 개인의 삶은 공적인 것과 거리가 멀지만, 기록의 중요성에 대해 위의 책을 보면서 다시금 깨닫는다. 기록할 때는 오직 진실만을 적을 수 있기를. 누구는 다음의 책을 들고 다니던데 과연 역사에 대한 두려움을 가지고 있을지. 

인공지능 로봇의 권리?

<테넷Tenet>에 나왔던 존 데이비드 워싱턴 주연의 SF 영화인 <크리에이터The Creator>가 최근 개봉했다. 요새 영화에서 많이 다루는 주제인 AI가 여기서도 나오는데, 이제는 AI가 인간과 어울려 평화롭게 살 '권리'에 대한 질문을 던지고 있다. 

인간은 주변 사람들이 자신과 같은 의식을 갖는 존재라는 생각을 갖도록 진화되어 있다. 다른 사람의 내면이 실제로 어떤지 몰라도 그렇다. 주변의 사람들에게 자신과 같은 감정이 있다고 생각하지 않는 인간은 반사회적 사이코패스일 것이다. 더욱이 우리는 종종 사물인 인형에게도, 심지어 자동차에게도 자신을 투사하여 마치 의식이 있는 것처럼 말을 걸기도 하고 이름을 지어주기까지 한다. 

만약 주변에 AI 로봇이 있다면 어떻게 대해야 할까? 이 AI 로봇은 마치 사람처럼 행동하고 말한다. 그렇다면 우리는 그를 인간처럼 권리를 갖는 존재로 대해야 할까? 만약 영화에서처럼 AI 로봇을 모두 폐기하기로 결정했다면, 마치 생명을 빼앗는 것처럼 가슴 아파해야 할까? 영화에서는 인간의 모습을 한 AI를 죽이며(또는 폐기하며) 인간은 계속 "이건 단지 프로그래밍일 뿐이야"를 되뇌인다. 

과연 AI 로봇에게 의식이 있을까. 많은 컴퓨터 과학자들은 그렇다고 믿는다. 우리가 그 존재와 대화하여 인간인지 아닌지 알아낼 수 없다면 인간과 마찬가지로 의식이 있다는 것이다. 이것이 '튜링 테스트'이다. 하지만 울프 다니엘손은 그렇지 않다고 말한다(<The World Itself> 5장). 의식은 육체와 결합한 특별한 현상이며, 논리만으로, 또는 소프트웨어로 만들어낼 수 없다고 믿는다. 그는 AI를 인간의 형태로 만들면 위험하다고 생각한다. <크리에이터> 영화에서 다루듯 우리는 인간과 닮은 로봇에게도 우리와 같은 내면이 있다고 믿는 경향이 있기 때문이다. 로봇은 인간을 위해 만들어진다. 인간과 같이 '실존이 본질에 앞서는' 존재가 아니다. 그런 의미에서 AI 로봇은 만들어진 '본질'을 떠나서는 권리가 없다. 인공지능이 인간으로부터 독립된 자율성을 획득하면 어떨지에 대한 두려움이 있는데, 현재로서는 범용 인공지능은 가능하지 않다는 것이 여러 전문가들의 견해이다. <크리에이터>는 재미있는 오락영화이지만, 오락영화 이상은 아니다. 

잠수함에 대한 잡학적 지식

잠수함 리얼리티 - 전직 함장이 들려주는 진짜 잠수함 이야기
최일 지음 / 행북 / 2022년 4월

잠수함에 대한 역사, 상식, 시사 등의 이야기를 모았다. 저자는 독일에서 우리 해군의 214급(손원일급) 잠수함을 인수한 초대 함장이었다는데, 우리 해군이 운용하는 잠수함에 대한 이야기는 의도적으로 회피한 느낌이 든다. 마지막 장은 그가 독일에 파견 근무하면서 알게 된 유보트에 관한 정보와 독일 유보트협회에 대한 내용이다. 전반적으로 크게 깊이가 있지는 않다. 시사를 다룬 장에 천안함 사고는 정부 발표가 옳다는 내용이 한 섹션으로 나온다. 자세한 논의는 역시 없다. 잠수함에 대한 책이 나온 것이 반가웠는데 읽으면서 기대에 못 미친다는 생각을 했다. 

‘특이점‘이라는 신화

특이점의 신화 - 인공지능을 두려워해야 하는가
장가브리엘 가나시아 지음, 이두영 옮김 / 글항아리사이언스 / 2017년 12월

특이점(singularity)란 원래 수학 용어로서, 1/x과 같은 함수에서 x가 0으로 접근하면서 무한대로 발산하는 성질을 지칭하는 말이다. 근래 이 말은 인공지능이 인간의 지능을 초월하는 시점을 나타내는 말로 쓰이고 있다. 특이점에 도달한 이후의 세상에 대해서는 비관적 관점과 낙관적 관점이 모두 존재하는데, 특이점 이후가 이전의 세상과 질적으로 다르다고 본다는 점에서는 공통점이 있다. 비관적 관점을 표하는 사람으로는 스티븐 호킹, 일론 머스크 등이 유명하며, 이들은 특이점 이후의 인공지능이 인류의 생존에 야기시킬 위험에 대해 심각하게 고민해야 한다고 주장한다. 영화 <터미네이터>에서 묘사된 인류를 절멸시키려는 인공지능 로봇이 이러한 관점을 반영한다고 볼 수 있다. 낙관적 관점은 레이 커즈와일이 대표하는데, 그는 특이점 이후에는 엄청나게 진보한 컴퓨터에 인간 의식을 옮기는 마인드 업로딩이 가능할 것이며 이를 통해 인간이 영생할 수 있을 것이라는 전망을 내놓기도 했다. 

저자는 이 책을 통해 왜 이러한 주장이 ‘신화’인지에 대해 다양한 논의를 통해 파헤친다. 무엇보다도, 특이점이 필연적으로 온다는 ‘특이점 추종자들’이 근거로 드는 컴퓨터 기술의 지수함수적 발전이 미래에도 지속적으로 가능하리라는 보장이 없다는 점을 지적한다. 컴퓨터 기술의 진보를 이야기할 때 예로 드는, 마이크로프로세서의 트랜지스터 수가 18개월에서 24개월마다 2배씩 늘어난다는 ‘무어의 법칙’은 단지 경험적 관찰일 뿐이며 지금까지 성립해 왔더라도 미래에도 지속적으로 성립하리라는 보장은 없다는 것이다. 결국 원자의 크기라는 물리적 한계에 부딪힐 것이기 때문이다. 저자는 정당한 과학으로서 시작한 인공지능 연구가 일종의 ‘사기hype’인 ‘초인공지능’이라는 변질된 개념으로 나아갔음을 역사적, 철학적, 문화적으로 검토한다. 

흥미로운 것은 계시종교인 기독교나 유대교에서 출발했지만 결국 그 속에서 내용이 변질된 그노시스주의(영지주의)와의 비교이다. 겉모습은 그대로이지만 속 내용이 달라진 변형을 저자는 가상(假像, pseudomorphose)이라고 부른다. 생물의 유기물 분자가 다양한 무기물로 바뀌어 형성된 화석을 가상의 예로 들 수 있다. 원래 ‘pseudo’에는 ‘유사’, ‘가짜’라는 의미가 있다. ‘pseudoscience’가 겉모습은 과학처럼 보이지만 사실은 과학이 아닌 유사과학, 가짜과학인 것과 같다. 저자에 따르면 ‘특이점’이라는 개념도 인공지능 연구에서 출발하여 결국은 과학을 넘어선 이야기, 신화일 뿐이다. 그노시스주의와의 비교는 단순한 ‘가상’ 비유를 넘어서는데, 그노시스주의가 물질과 영혼의 분리라는 이원론에 기반하고 있는 것과 마찬가지로 많은 특이점 추종자들에게도 이원론적 사고의 혐의가 보이고 있기 때문이다. 마인드 업로딩이라는 생각이 그렇다. 

특정한 업무를 수행하는 약한 인공지능은 우리 주변에서 이미 널리 쓰이고 있다. 빅데이터를 통해 학습한 약한 인공지능이 얼마나 강력할 수 있는지는 우리가 최근 여러 예에서 실감하고 있다. 저자가 그것을 부인하는 것은 아니다. 저자의 비판은 인간과 같이 일반적 상황을 판단할 수 있는 범용 인공지능(AGI, Artificial General Intelligence)이 현재 실체가 없다는 것이다. 인공지능이 지수함수적으로 발전하여 결국 인간의 지능을 능가하는 범용 인공지능이 도래한다는 주장은 결국 과학적 근거가 희박한 신화라고 할 수 있겠다. 오히려 이러한 특이점에 대한 두려움을 동반한 우려보다는 인공지능과 연관된 다른 이슈와 위험에 대해 고민하는 것이 더 올바른 태도인 듯싶다. 

책 속 몇 구절:

... 결국 [기계의] 강화 학습도, 교사가 있는 학습도 자율성은 없다. 실제로 강화 학습 알고리즘을 사용할 때는 인간이 최적의 선택을 하도록 기준을 설정하고, 기계는 이를 변경할 수 없게 되어 있다. 

  따라서 ... 스티븐 호킹, 일론 머스크, 빌 게이츠, 스튜어트 러셀 등이 잇달아 발표한 우려를 뒷받침하는 것은 아무 것도 없는 것이다. 분명 지금까지의 경험상, 기계 학습처럼 단시간 안에 눈부신 발전을 이룬 수법은 어떤 문제를 야기할 위험성을 내포하고 있다. 그렇다고 해서 우리 인간이 귀환 불능 지점에 도달하고, 그 이후에는 기계에 의해 지배되리라고 말할 수는 없을 것이다. (73~74 페이지)

  존 설이 강한 인공지능이라는 용어를 설명의 도구로 쓴 것은 1980년대 초였다. 이 강한 인공지능이야말로 앞서 정의한 인공지능의 가상이다. 왜냐하면 강한 인공지능과 본래 의미에서의 인공지능은 이름이 서로 비슷하지만 목표와 방법은 전혀 다르기 때문이다. 과거 컴퓨터로 시뮬레이션을 하고, 실험을 통해 검증하는 데 기초를 둔 과학의 한 분야였던 것이 지금은 논증에만 기초한 철학적 접근법이 되고 있다. 이전에는 지능을 컴퓨터로 재현할 수 있는 기본적인 기능으로 분해한다고 했었는데, 지금에 와서는 기본적인 인지 기능으로부터 정신과 의식을 재구성한다고 말한다. 석화 작용과 마찬가지로 강한 인공지능은 약한 인공지능에서 외형만 그대로인 채 처음의 구성 요소를 계속 바꿔가면서 완성된 것이다. (84~87 페이지)

... 강한 인공지능과 범용 인공지능은 같은 것이 아니다. 전자는 철학적 연구를 기원으로 하고 있지만, 후자는 이론 물리학자들의 연구로부터 탄생했다. 범용 인공지능이 강한 인공지능의 아이디어를 차용하곤 있지만, 강한 인공지능이 본래 철학적 논의만을 근거로 하고 있는데 반해 범용 인공지능은 꽤 난해한 수학 이론과 정보기술에 근거하고 있다. 

  이러한 차이에도 불구하고, 오늘날 강한 인공지능과 범용 인공지능의 추진자들은 서로의 주장에 작은 차이가 있기는 하지만, 서로 손을 맞잡고, 특이점의 제창자와도 많은 시점을 공유하며 협력하고 있다. 게다가 거츨, 허터, 슈미트후버를 비롯한 많은 이가 매년 열리는 특이점 정상회담에 참가해 여러 트랜스휴머니즘 단체와 관계를 맺고 있다. (88~91 페이지)

... 특이점 가설이 그리는 미래상에서는 마침내 기계가 인간의 뇌를 능가하는 능력을 손에 넣어 인간의 의식을 업로드할 수 있게 된다고 한다. 그렇게 되면 이미 세포의 노화라는 피할 수 없는 운명을 받아들이지 않아도 되고, 운 좋게 그 혜택을 누릴 수 있는 사람들은 불사까지는 아니더라도 수명을 대폭 연장할 수 있게 될 것이다. 즉 이것은 인간의 정신이 육체에서 완전히 분리되는 것을 의미한다. 육체로부터 완전히 구별된, 자율적인 존재가 된다. 이보다 더 극단적인 이원론이 또 어디에 있겠는가? (102~103 페이지)

... 현대의 과학기술과 먼 옛날의 신화가 공존하는 듯 한 모습에는 놀라지 않을 수 없다.... 저명한 과학자와 대기업의 수장, 유명한 엔지니어와 같은 인물들이 자신들의 영향력을 이용해 통속적인 공상을 사람들의 의식 속에 주입하려 하고 있다.... 과학과 공상을 명확히 구분하지 않는다면 혼란만 야기할 뿐이다. 그들은 양자의 구별을 애매하게 함으로써, 진정한 미래의 모습을 숨기고 있다. 단순히 하나의 가능성에 불과한 시나리오를 전혀 피할 수 없는 운명인 것처럼 말해 그 외에도 존재할 수많은 선택을 숨기고, 특이점 이외의 것을 선택한다면 어떤 결과가 생길지 혹은 그 선택이 인간의 행동을 얼마나 자유롭게 할지 등을 생각하지 못하도록 하고 있다. (142~143 페이지)