인공지능의 현황 및 정치적 위험성

T-Minus AI: Humanity's Countdown to Artificial Intelligence and the New Pursuit of Global Power (Hardcover)
Michael Kanaan / Benbella Books / 2020년 8월

인공지능(artificial intelligence, AI)의 역사와 현재 그리고 정치적 남용에 대해 경고하는 글이다. 전체 구성은 이렇다: 1부는 대략 컴퓨터의 역사, 2부는 AI의 역사 및 현황, 3부는 AI의 정치적 함의 및 위협, 특히 권위주의 정권(ex. 중국)이 어떻게 AI를 남용하고 있는지에 대한 설명과 민주주의 국가에서 어떻게 AI 정책을 세우고 있는지에 대한 논의이다. 컴퓨터의 역사부터 시작해서 정리해주니 좋기는 한데, 사실 AI 자체에 대해 알고 싶으면 2부만, 또는 2부의 9장만 읽으면 될 것 같다.

책을 통해 내가 알고 싶은 인공지능에 대한 궁금증을 해소한 부분은 다음과 같다.

1. 의식(consciousness)과 지능(intelligence)은 다르다. 인공지능은 의식과는 아무런 상관 없이 의도한 업무를 인간보다 훨씬 빨리 할 수 있다. 원문을 인용하면 "In this new world of ours, intelligence and consciousness are not interdependent." (6장, p. 66)

2. 현재 급격한 진보를 이루고 있는 AI는 의도한 특정한 업무만을 잘 할 수 있으며, 인간과 같이 모든 영역에서 판단을 내릴 수 있는 범용 인공지능(artificial general intelligence, AGI)이나 모든 영역에서 인간을 초월하는 초지능(superintelligence)은 앞으로 새로운 돌파구가 생기지 않는 한 나타날 가능성이 없다(9장의 내용). 한 마디로, <터미네이터>는 (현재로서는) 영화일 뿐이다. 특정한 업무만을 하는 현재의 인공지능을 좁은(narrow)[또는 약한(weak)] AI, 범용 인공지능이나 초지능을 강한(strong) AI라고 한다. 인류의 인공지능에 대한 두려움은 강한 AI에 대한 것이다.

(약한) AI는 이미 널리 사용되고 있으며, 앞으로도 지속적으로 그 적용 범위가 확대될 것이다. 민주주의 국가는 개인의 자유와 프라이버시를 보호하기 위해 노력하겠지만, 이러한 서구적 가치를 공유하지 않는 독재 또는 권위주의 국가는 이미 개인의 자유를 침해하는 수준으로 AI를 남용하고 있다. 이러한 인권 침해적 AI 알고리즘의 타국으로의 수출에 대해 저자는 주의를 촉구하는데, 사실 쉽지 않은 문제라는 생각이 든다. 예컨대 저자의 주장을 해석해서 적용하면, 중국에서 만든 앱은 사용하면 안 된다. 의문의 해소와 또 다른 과제를 받은 느낌으로 독서를 마쳤다.

<파란하늘 빨간지구> 밑줄 긋기

   우리는 살아가기에 적합한 환경이 먼저 조성되어야 그곳에서 생명체가 살 수 있다고 생각한다. 하지만 지구가 겪어온 과정을 보면 남세균처럼 생명체가 직접 적합한 환경을 만들어내기도 한다. 즉, 생명체와 환경이 함께 진화하는 것이다. 그러므로 지구환경이 지속할 수 있으려면 그 안에 사는 생명체도 건강해야 한다. 아무리 하찮아 보이는 생명체라도 함부로 다루어서는 안 되는 이유가 여기에 있다. 

   탄생한 생명체가 번성하려면 기후가 안정되어야 했다. 달이 그 역할을 했다. 화성과 비슷한 크기의 원시 행성이 원시 지구와 충돌했으며, 그 과정에서 달이 만들어졌다. 달이 세차운동이라고 부르는 지구 자전축의 흔들림을 안정시켰다. 혼자 뱅글뱅글 도는 사람이 있고 손잡고 함께 도는 사람이 있을 때, 둘 중 누가 더 안정적일까? 달과 지구가 그런 셈이다. 만일 달이 없었다면, 지구 자전축의 변화가 지금보다 더 커서 날씨 변화가 극심했을 것이다. 극심하게 변하는 기후에서는 인류 문명이 탄생하기 어려웠을 것이다. 

   ...

   대충돌이 지구 자전축을 기울어지게 만들었고, 그 덕분에 계절이 생겼다. 지구 자전축이 기울어지지 않고 공전 면과 수직이라면 지구 어디서든 밤낮 길이는 12시간으로 똑같다. 그랬다면 계절 변화가 없었을 것이고, 적도 지역은 더 뜨겁고 북극과 남극 지역은 더 추운 기후가 되었을 것이다. 자전축이 지금보다 더 기울어졌다면, 적도 부근을 제외한 대부분의 지역이 지금보다 심한 계절 변동을 겪을 것이다. 중위도에서 봄과 가을은 거의 없어지고 길고 극심한 여름과 겨울만이 있었을 것이다. (20~21 페이지)

   2만 년 전에서 1만 년 전까지 대기 중에서 약 100ppm의 이산화탄소가 상승하면서 10만 년 가까이 이어지던 마지막 빙하기가 끝났다. 그 후 산업혁명이 시작된 1750년대까지 대기 중 이산화탄소 농도는 280ppm을 유지했다. 하지만 인간이 화석연료를 사용하면서 대기 중 이산화탄소 농도가 300년도 안 되는 사이에 125ppm이나 급격하게 치솟았다. 이는 오늘날 인간이 지구에 미치는 영향이 어느 정도인지를 명백하게 보여준다. (30 페이지)

   인류는 생태계에서 한구석을 차지하고 있을 뿐이지만 이제는 그 구석이 너무 커져 전체를 왜곡하고 있다. 인간 활동은 태양에너지 변화, 화산 분출, 빙하 주기와 지각판 운동보다 더 큰 크기의 속도로 지구에 영향을 준다. 지구시스템에 미치는 인간의 영향력이 자연의 힘을 능가하는 새로운 시대에 들어셨다 (54 페이지)

중국의 백지시위와 시민사회

시사IN(시사인) 제796호 : 2022.12.20
시사IN 편집국 지음 / 참언론(잡지) / 2022년 12월

"백지 들고 봉쇄 깬 시진핑의 아이들" 기사에서:

   톈안먼 항쟁은 사실 중국인에게 '잊혀진 반란'이다. 당국의 역사 검열 교육을 받아온 젊은 세대에게는 더욱 그렇다. 톈안먼 항쟁 사진을 본 중국 학생이 "이거 한국의 5.18 사진이죠?" 하며 물었다는 일화도 있다. 동시에 '실패한 반란'이기도 하다. 톈안먼 항쟁을 연구해온 서울시립대 하남석 교수(중국어문화학)는 "1978년 베이징 시민들이 민주와 인권을 요구하며 벽에 대자보를 붙인 '민주의 벽' 사건 이후 축적된 중국 시민사회 동력이 톈안먼 무력 진압 이후 사라졌다. 톈안먼 항쟁이 오히려 중국이 신자유주의로 나아가는 계기가 됐다는 평가도 있다"라고 말했다. 중국의 비판적 지식인 첸리췬 전 베이징대학 교수는 톈안먼 항쟁 이후 중국 사회가 '가장 나쁜 사회주의와 가장 나쁜 자본주의의 결합'이 되었다고 비판했다.

   남는 질문은 이것이다. 이번 백지 시위가 중국 사회에 어떤 기억으로 남을 것인가. 일단은 방역 완화 조치를 이끌어냈다는 점에서 톈안먼 항쟁처럼 실패한 반란으로 잊히지는 않을 것이다. 다만 이미 시작된 시위 참가자 색출 작업을 통해 저항세력을 '외부의 적'으로 몰아세우며 고립시킬 공산이 크다. 국내 중국 연구자들은 조만간 대대적인 피바람이 불 것이라고 입을 모은다. 중국의 현대사항을 연구해온 조경란 연세대 국학연구원 연구교수는 "시진핑 퇴진 구호가 베이징 중심가에서 터져 나왔다는 건 분명 중요한 민심의 변화다. 그러나 규모가 크고 사람이 많은 중국은 변화가 늦다. 시간이 오래 걸릴 것이다"라고 말했다. (38 페이지)

역시 재미있는 굽시니스트의 본격 시사만화: 신진검사대부의 부상

경도의 비밀에 얽힌 사랑

전날의 섬
움베르토 에코 지음, 이윤기 옮김 / 열린책들 / 2001년 11월

에코의 책이 늘 그렇듯, 이 책도 상당히 다기한 내용을 담고 있으며, 중세에서 근세로 넘어가는 역사적 배경을 바탕에 두고 있다. 전반적으로는, 주인공인 로베르토가 난파한 배에 갇혀 남긴 글을 발견한 화자가 상상을 덧붙여 쓴 소설의 형식을 취하고 있다. 군주의 계승을 둘러싼 전쟁, 경도 180도에 있는 '전날의 섬', 경도를 알아내는 방법, 천동설과 지동설, 공간과 시간, 그리고 이룰 수 없는 사랑 등에 대한 얘기들이 날줄과 씨줄처럼 얽혀 있다. 한 마디로, 당대 한 귀족 지식인 청년의 내면을 통해 시대상을 그리고 있다. 

우리말 번역은 이윤기 선생이 했는데, 이전 글들에서 지적했던 것처럼, 아쉬움이 있다. 편집상의 아쉬움(오타 등)도 있고, 번역 자체에 대한 아쉬움도 있다. 이윤기 선생이 '옮긴이의 말'에서 고백하듯 악전고투하신 것 같은데, 이제 <장미의 이름>처럼 직접 다시 다듬으실 수도 없으니 또 다른 번역이 나오면 좋을 듯 싶다. 

움베르토 에코의 이 책에서는 무엇을 얻을 수 있을까. 에코의 지식에 대한 사랑과 그가 지닌 지식의 방대함. 주인공 로베르토를 통해 느끼는 삶의 유한함과 헛됨. 당시의 사회상. 사랑이 이야기를 이끌어 가는 큰 주제 중 하나인데, 솔직히 현대의 사랑과 너무 달라서 공감하기 힘들었다. 결국, 난파한 배 속의 로베르토는 우리 자신의 운명을 빗대고 있는 것이 아닐지. 유한한 지구에서, 무언가를 (헛되이) 갈망하며 사는 우리를....

공간과 시간에 대한 대화

<전날의 섬>에는 공간과 시간에 대한 대화도 들어 있다. 파리의 철학자 동아리에서 파스칼(1623~1662)로 생각되는 청년도 함께 참여해서 했던 논의를 회상하는 부분이다.

  ... 자유 사상가 동아리 중의 하나가 그 말을 받았다. ⌜... 허공은 시간과 같아. 시간은 질량의 운동이 아니라네. 왜냐? 운동은 시간에 종속되어 있지만 시간은 운동에 종속되어 있지 않거든. 시간이라고 하는 것은 무한한 것, 창조의 대상이 아닌 원천적인 존재인 것, 영속적인 것이거든. 시간은 공간의 결과가 아니야. 시간은...... 말자자면 그 자체로서의 그것인 것, 허공도 마찬가지라네. 역시 그 자체로서의 그것인 것이라는 말이네.⌟ (594~595 페이지)

   “... The Void is like time,” one of the Roberto’s libertine friends commented. “Time is not the quantity of movement, because movement depends on time and not vice versa; it is infinite, increate, continuous, it is not an accident of space... Time is, and that is that. And the Void is. And that is also that.” (p. 432)

절대공간, 절대시간에 대한 생각이 위의 진술에 들어있다. 번역이 좀 어렵긴 하지만 원문의 뜻을 전달하고 있다. 디뉴 신부가 부연한다.

   누군가가, 어떤 사물을 설명하면서 정의에 접근하지 않고 <그 자체로서의 그것인 것>은 정밀하지 못한 태도라고 항변했다. 거기에 대해 디뉴 신부가 이런 말을 했다. ⌜여보게들. 옳은 말이네. 공간은 시간도 물체도 아니고 기(氣)도 아니야. 굳이 설명을 요구한다면 무형물이라고 해도 좋겠지. 하지만 그렇다고 해서 이것이 실재하지 않는다는 말은 아니네. 시간과 공간은 어떤 원인의 우유적(偶有的)인 결과도 아니요, 그렇다고 해서 실체인 것도 아니야. 그런데도 불구하고 천지창조 이전부터 있어 오던 것, 어떤 우유적인 결과나 실체에도 선행하는 것, 모든 실체가 그 모습을 감추고 난 뒤에도 계속해서 존재하게 될 어떤 것이라네. 그 안에 무엇을 어떻게 넣건, 시간과 공간이라는 것은 바꿀 수 없는 것, 변경시킬 수 없는 것이라네.⌟ (595 페이지)

   Some protested, saying a thing that is and that is that, without having a definite essence, might just as well not be. “Gentlemen,” the Canon of Digne then said, “it is true, space and time are neither body nor spirit, they are immaterial, if you like, but this does not mean they are not real. They are not accident and they are not substance, and yet they came before Creation, before any substance and any accident, and they will exist also after the destruction of every substance. They are immutable and invariable, whatever you may put inside them.” (p. 432)

20세기 초, 상대성 이론은 절대공간, 절대시간이란 개념을 부숴버리고 새로운 개념—시공간—을 도입했다. 이제 공간과 시간은 더 이상 절대적이고 변하지 않는 존재가 아니다. 어쨌든 과학혁명이 시작되어 곧 뉴튼의 만유인력 법칙으로 절정을 맞게 될 시점에서, 이들의 논의를 지켜보는 것은 흥미롭다. 

에코는 이후, 로베르토를 통해 의식과 영혼에 대한 상념을 이어가며 돌의 생각에 대한 언설도 늘어놓는다.

   하느님 맙소사...... 나에게 영혼이 있다는 것이 대견하다. 돌도 영혼이 있다는 것을 대견하게 여길 것이다. 그런데 나는 돌에게도 영혼이 있다는 바로 그 사실에서, 내 영혼이 내 육신을 살려 내지 못한다는 것을 깨닫게 된다. 그런데 나는 왜 돌 노릇을 즐기면서 돌에 대한 생각을 계속하는가? 죽으면 나에 대한 것은 아무것도 모르게 될 터인데...... (660 페이지, 밑줄 추가)

위의 번역에서는 잘못된 부분(밑줄)이 있다. 

   My God, I could enjoy the soul, and even the stones could enjoy it, and precisely from the soul of stones I learn that my soul will not survive my body. Why am I thinking and playing at being a stone, when afterwards I will know nothing further of myself? (p. 480, 밑줄 추가)

“my soul will not survive my body”에서 “survive”는 ‘~보다 오래 살다’의 의미이므로 결국 ‘내 육신이 죽으면 내 영혼도 사라진다’는 말이다. 이렇게 번역해야 뒤의 “죽으면 나에 대한 것은 아무것도 모르게 될 터”라는 문장이 잘 이어진다. 의식에 대한 현대의 ‘물리주의’적 관점을 잘 보여주고 있다. 책을 읽다보면 로베르토와 그의 “자유 사상가” 친구들의 우주와 인간에 대한 생각이 매우 현대적이라는 것을 알 수 있다. 아마 당시의 시대상을 보여주기 위해 에코가 의도한 바이리라.