-
-
넥서스 - 석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사
유발 하라리 지음, 김명주 옮김 / 김영사 / 2024년 10월
평점 :
유발 하라리의 [사피엔스], [호모데우스], [21세기를 위한 21가지 제언] 등 ‘인류 3부작’ 이후 읽은 본서는 AI 혁명에 이르기까지의 여정과 그에 대한 우려를 담은 서이다. 저자는 문자 혁명과 인쇄 혁명에서 AI 혁명에 이르는 여정에서 인류는 진실을 추구하지 않았고 질서를 추구했다고 말하고 있다. 이러한 정보체계의 발전은 사실과 진실을 명확히 하거나 찾아가거나 구현하는 길을 따르지 않았고 데이터 기반의 세계에서는 사실의 정립보다 사회질서의 재편 등이나 지속 등에 작용할 수 있다는 것이다.
저자는 AI가 무오류성을 나타내지 않는다며 알고리즘의 문제와 데이터 조작 등이나 정렬(얼라인먼트) 문제에 대한 언급하고 있기도 하다. 데이터 조작의 사안은 모두가 직시하는 것이고 알고리즘의 문제부터 이야기하자면 이미 코로나 시기와 백신 보급시기를 지난 바이든 정부부터 이전 트럼프 정권에서 주장하던 코로나 연구실 제조와 조작 문제 등을 언급 못하게 해오던 사안을 바이든 정부에서는 우한 연구소 제조와 미국 질병청의 지원으로 중국 우한 연구소에서 기능획득 연구라는 인간에게 전염이 잘되도록 조작해 그에 대한 대응을 연구하는 유전자 조작까지 시행하도록, 미국 정부 산하의 조직차원에서 중국 연구소에 대한 지원이 있었다는 사안까지 모두 사실인 것을 밝히기도 했다. 또한, 미국 질병청 산하 조직이며 미국에서 백신보급 문제 및 코로나19 대응 문제의 총책임자였던 앤서니 파우치 ‘NIAID’의 책임자가 백신 제조사들로부터 로비자금을 받았던 것 등이 뉴스화되기도 하였다. 더욱이 미국 청문회에서도 영국과 유럽 청문회에서도 백신 보급 전에 코로나19 의 치명률 0.1~0.01 %보다 백신 접종 사망률은 3%로 훨씬 높다는 사실을 백신보급 이전에 각 백신사들이 이미 알고 있었다는 사안이 노출되기도 했다.(백신 보급은 10,000명 중 1명에서 1,000명 중 1명을 죽이지 않기 위해 100명 중 3명을 죽이는 길을 선택한 이해 못할 제도였다는 말이다) 미국 법원이 모더나 사인가 특정 백신 제조사의 백신 연구 자료를 단계적으로 발표하라고 판결해 이미 상당한 백신제조와 백신 보급에 대한 정보가 공개되고 있다. 이 모두가 백신 보급 시기가 시작되고 1년~2년 후부터 펼쳐진 현실로 팩트만이 이렇다. 사실이 이런데도 백신 보급 이후 당시만이 아니라 지금까지도 백신에 관한 뉴스들은 유투브 차원에서 차단되기 시작해 NTD뉴스(한국 유투브에도 NTD Korea 채널이 있다) 등 미국 보수 언론에서 방송한, 미국 보험사에서 발표한 미국 근로자 보험 가입자의 사망률이 백신 보급 이후 수배 늘었다는 뉴스나 미국 소아암 전문 의학자가 인터뷰한 백신 보급 이후 소아암과 소아질환들이 수배에서 수십배 증가했다는 뉴스들이 차단당하고 삭제당했다. 전 세계 스포츠 선수 사망률과 발병률이 백신 보급 이후 급증 했다는 뉴스도 차단당했고 말이다.
이런 문제는 알고리즘처럼 AI가 정보의 공개와 차단을 선별하는 것으로 이미 사실관계가 명확하거나 전문가가 나서서 문제 제기를 하고 문제를 직시하도록 지적하는 정보까지 접근을 AI로 차단하는 경우이다. 알고리즘과 정렬 문제가 다 혼합된 문제로 AI에게 백신 언급 정보차단과 삭제를 명령하면 AI는 각 정보가 신빙성 있는지 없는지를 확인하는 절차를 거치기보다 백신 언급 자체만으로 정보의 유통을 차단하고 마는 것이다. 이런 정보 차단으로 대중은 숙고의 기회를 가져보지 못하고 정부의 방역 사안에 맹목적으로 따르게 되었다. 나로서는 가짜뉴스보다 정부나 국제기구 차원에서 사실관계가 명확한 정보에도 대중의 접근을 차단하는 것이 더 큰 문제임을 코로나 시국을 거치며 알게 되었다.
유발 하리리도 이런 견지에서 AI에 대한 지나치게 순진하고 낙관적인 시각을 경계하라고 했다. AI는 무오류의 존재가 아니며 AI는 ‘강력한 자정 장치가 없을 경우 왜곡된 세계관을 조장하고, 심각한 권력 남용을 가능하게 하며, 무시무시한 마녀사냥을 선동할 수 있다’고 말이다.
2023년 출간된 [세계미래보고서 2024-2034]에서는 AGI 출현을 앞둔 현시점에 각국의 대응안들이 제시되기도 했다. ‘AGI에 관한 유엔 협약이 실효성을 가지려면 어떤 집행 권한이 필요할까?’라는 항목에서 보자면,
-익명 : OECD의 AGI 실존적 위험관리(은퇴)
‘최후의 날’ 장치를 만들어 모든 인류를 위험에 빠뜨리는 것을 막기 위해, 필요한 경우 한 국가를 침공하고 지도부를 교체할 수 있는 권리를 포함해 궁극적이고 절대적인 집행 권한이 필요하다. 이는 합법적이어야 할 것이고, 원하는 결과를 달성하는데 필요한 최소한의 개입만 추구해야 한다.
-벤 괴르첼
전 세계적으로 AGI 개발을 통제하고 싶다면 조지 오웰의 소설 [1984] 스타일의 파시스트적 집행이 필요할 것이다. ... ... 강력한 파시즘 없이 궁극적으로 AGI에 대한 정부의 통제가 가능할지 모르겠다.
이미 세계는 AI를 명분으로 타국을 침공하고 타국 지도부를 교체하는 강력한 권한이나 [1984]적인 파시스트적 통제를 합리화하기까지 시작했다. 아마도 이 사안들은 향후 머지 않은 미래에 시행되고도 남을 것이다. AI 자체에 내재한 문제점들과 그를 증폭하는 인간의 문제적 속성이 만나 대안 없는 총체적 난국을 불러오고 말 것이다. 아마도 인류는 멸망할지도 모르지만 그렇다고 우주적 차원에서 무언가 손실이거나 피해라기보다는 우주적 차원의 선이 구현되는 긍정적인 결과인지도 모를 일이지 않나 싶기도 하다. (인류가 대항해 시대라고 자찬하는 타국가 멸망과 타민족 말살을 불러온 역사를 보아도 그렇고 현 AGI에 대한 대응도 그렇고 인류가 서로에게 행한 역사가 우주로 파급될 것을 감안한다면 인류는 자멸하는 게 나을지도 모르겠다)
저자는 본서의 중요한 메시지를 ‘우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 모두 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다소 재미없는 일에 전념해야 한다’고 이러한 사안에 대해 언급하고 문제제기를 하는 것이 이 책의 중요 메시지란 식의 결론을 에필로그에서 이야기하고 있다. 본서는 AGI에 대한 문제에 다수가 관심을 갖는 현재, 모두가 돌아보아야 할 사안을 제기하고 있고 주목해야만 하는 책이 아닌가 싶다.
#넥서스 #유발하라리 #김영사 #AI혁명 #AGI대응