인류의 존재론적 위기를 만드는 기술과 갈등들

디 엔드 - 과학과 종교가 재앙에 대해 말하는 것들
필 토레스 지음, 제효영 옮김 / 현암사 / 2017년 7월

온통 ‘4차 산업혁명’의 중축을 이루는 기술-합성생물학, 사물인터넷(적층기술등), 인공지능(AI), 로봇공학-의 낙관론과 함께 인간의 생명과 삶의 질에 획기적인 편의를 제공할 기술 개발에 대한 경제적 경쟁에서 뒤쳐질까 안달을 해댄다. 그런데 내겐 이러한 소음이 왜 그리 어리석게만 여겨질까? 왠지 이번 세기는 우리 인간이 성큼 멸종을 향한 돌이킬 수 없는 길로 접어든 것 같은 느낌에 사로잡힌다. 자신이 모른다는 사실도 모르는 ‘인지적 폐쇄성’, 그 알지 못하는 인류의 무지, 그래서 질문조차 할 수 없는 사건의 ‘존재’를 생각할 수 없는 우리 인간의 몽매성이 내 직관을 우울하게 한다.

오스트레일리아의 팝 뮤지션이 부르는 노래가 이런 내게 종말적 비애감(悲哀感)까지 더한다. 그녀의 음악을 듣고 있노라면 마치 인류의 대멸종 후 포스트휴먼이 된 듯한 아릿한 기분에 젖어든다. "I'm not discarding you like broken glass ... There's only tears when it's the final dance"라는 그녀의 외침이 유일한 구원의 목소리가 되어.....버려지지 않기를..., 눈물만이 있는 그때가 오지 않기를.... 마침 ‘필 토레스’의 “인류의 존재론적 위기”에 대한 세밀화(細密畵)인 이 깊은 통찰의 저술, 『디 엔드: THE END』를 접하게 된 것은 우연이 아닌 것만 같다.

한 외신에서는 “사람처럼 경험을 통해 학습하고 감정을 느끼는 ‘베이비 엑스’라는 AI(인공지능)의 성과를 발표하면서 급기야 베이비 엑스가 자신의 피아노 연주소리를 들으며 가상 도파민까지 생성했다”고 한껏 들떠 전하기도 했다. 그리곤 기사의 마지막에는 우려의 시선도 있다면서, “컴퓨터가 스스로 결정을 내릴 수 있게 될 경우, 그 결정에 인류에 해가 될 수 있는 내용이 포함될 수도 있다”는 내용을 달았다. (ChosunBiz.com 9.9일자 기사中에서)

이처럼 기술에는 양면성이 있다. 물론 모든 기술의 귀결이 ‘인류의 존재론적 재앙’으로 직결되지는 않을 것이라 믿고 싶다. 그러나 저자의 말처럼 “고도의 기술 자체가 인간의 재앙과 관련 있다면 이야기는 달라진다.” 즉 기술의 영향이 가공할만한 수준이고 일부의 경우 더욱 확대될 뿐만 아니라 그 영향이 기하급수적인 속도로 증폭될 수 있는 경우에 말이다. 위의 기사처럼 컴퓨터로 인간의 중추신경 또는 유전체를 디자인하거나 “폭탄 하나로 도시 전체를 날려버리는 일도 가능해졌고 생물권을 먹어치우는 미세 로봇까지” 멀지 않아 등장할 것 같다.

‘필 토레스’는 “호모사피엔스가 도도새의 뒤를 이어 멸종할 가능성은 인류 역사상 그 어느 때보다 커진 상황이다.”라고 주장하면서, 이번 세기에 인류의 번영에 심각한 악영향을 줄 존재론적 위험을 20가지로 꼽고 있다. 세포조작기술(합성생물학), 초지능(AI), 나노기술, 초화산, 인지적 폐쇄성, 핵폭탄, 종교적종말론갈등, 기후변화(온난화), 시뮬레이션 종료, 등등. 이렇듯 인류의 존재론적 재앙을 만들어낼 위험들에 대한 현재라는 시간에서의 이해에 삶의 경쟁에 매몰된 우리들이 얼마나 멀찌감치 떨어져 있는지, 마치 내일도 오늘처럼 삶을 이행할 수 있을 것이라는 믿음은 환상에 불과한 것임을 각성(覺醒)하게 된다.

1. 인류의 존재론적 위기란?

이 저작은 종말의 공포를 확산하여 우리네 삶의 균형을 혼란에 빠뜨리거나 무력과 허무를 증폭시키자는 것이거나 기독교 세대신학처럼 종교적 종말을 말하는 것이 아니다. 오히려 인류의 번영에 심각한 영향을 주는, 즉 인류의 운명을 가를 유력한 위협들의 실체를 인지함으로써 사전 대응과 예방 역량을 수립하고 어떻게 실천하여야 하는가에 대한 제안이자, 요구라 할 수 있다.

‘존재론적 위기’란 현재의 인류나 미래의 자손들에게 발생 할 수 있는 최악, 즉 멸종의 시나리오라는 직관적 의미를 지니고 있다. 결국 이 위기는 아주 특별하다. 다른 재난처럼 거기서 교훈을 발견할 수도 없는, 위기가 닥치면 그 한번으로 끝나는 게임이다. 존재론적 위기란 ‘다음 기회’ 같은 게 없다는 얘기다. 그저 끝일뿐이다.

때문에 인류의 생존과 번영은 바로 지금의 인간들이 존재론적 재앙을 막아낼 수 있는가의 여부에 달려있다는 의미가 된다. 지금까지 지구가 겪었던 다섯 차례의 대멸종 이후 여섯 번째 멸종이 될 이 위기는 전혀 성질이 다른 위기다. 자연적 사건이었던 이들 멸종과 달리 인간에 의해 발생할 것이라는 점이다.

2. 실존적 위기에 대해서

위기란 “바람직하지 않은 일이자 그 결과로 문제가 더욱 증폭될 수 있는 일”이라 정의된다. 그런데 여기에 ‘실존적’이라는 수식어가 붙으면 인류 이외의 타자가 아닌 바로 우리로서의 인류, 그 자신의 존속에 관련한 것이라는 의미를 갖게 된다. 그런데 이러한 위기 속으로 지금 인류가 깊숙이 빠져들고 있다고? 라는 반문이 가능할지는 모르겠다. 과연 그럴까?

‘필 토레스’는 인류 종말의 숙명론을 말하는 것이 아니다. 오늘의 세상에서 인류의 지적 능력이 차지하는 몫이 급속하게 줄고 있다는 통찰에서 비롯된 ‘실존 위기학’이다. 우리는 오늘의 과학기술들이 어디로 향하고 있는지를 실제로 아무도 알지 못한다. 그것이 무엇을 의미하게 될지도 모른다. 안다고 하는 인간이 있을지도 모를 일이나 아마 그것은 타고난 무지 때문일 것이다.

2-1. 과학의 비정상성, 탈숙련화

그러나 고도화되어 가는 기술은 역설적으로 소위 ‘과학의 비정상성’이라 일컬어지는 접근성과 조작성이 단순화되어가는 성향을 지니고 있다. 검지 손가락으로 한번 스치듯 문질러 대기만 해도 완전히 다른 정보로 넘어가는 것처럼, 온라인 데이터베이스에서 누구나 천연두 바이러스 유전체를 확보할 수 있는 세상인 것처럼. 전문지식가와 비전문가의 기술적 수준의 차이도 대폭 감소하는 ‘탈숙련화’ 현상이 점점 심화되어 간다. 그래서 어느 누구나 재앙(災殃)적 기술을 손에 넣을 수 있는 세상이 되고 있다는 점이다.

천년 왕국을 기다리는 어느 기독교 복음주의자가 신의 구원이 이루어지는 종말의 날을 당기고자 핵폭탄을 터뜨릴 수도 있으며, 합성된 전혀 새로운 치명적인 바이러스 세균을 퍼뜨릴 수도 있는 세상이 되고 있다는 의미이다. 북한의 김정은이 협박하는 핵폭탄보다 더욱 예측 할 수 없는 위협이 너무도 가까이 있다는 뜻이다. 인류는 지금의 국제 정치와 경제적, 종교적 사건에서 비롯되는 갈등보다 이러한 재앙으로 종말을 맞이할 수 있는 것이다. 바로 지금 우리는 이 같은 세계 속에 있다.

2-2. 실존적 위기를 재촉하는 기술들

기술의 양면성을 새삼 되뇔 필요는 없을 것이다. 원자력 발전을 중지하는 것은 핵무장을 할 수 있는 원천을 봉쇄하는 것이라고 주장하는 원자력공학을 가르치는 어느 대학 교수의 말이 의미하는 것이 바로 그것인 것을 우린 매양 보고 듣고 있으니 말이다. 모두에서 인용한 기사의 AI도 이 점을 전하고 있는 것처럼, 과학기술의 양면성은 인간의 인지적 폐쇄성과 어울려 언제 인류의 통제력을 벗어날지 알 수 없는 그 임계점으로 향하고 있다는 자각이 요구되는 것이다.

저자가 제시하고 설명하는 위기들을 모두 열거할 생각은 없다. 다만, 이처럼 기술에 대한 광신적 믿음과 인간의 무수한 불완전성이 불러올 그 미지의 사태에 대한 불신에 직접적인 점화를 하는 몇몇의 특정 기술, 특히 4차 산업혁명 기술들의 연장선에 있는 것들을 논의하는 것으로 족할 것 같다.

나노기술은 기술의 꽃이라고 한다. 분자의 ‘자가 결합’에 의존하는 기술, 즉 ‘분자제조’기술이라는 뜻이다. 때문에 순식간에 자가 복제를 할 수도 있으며, 뇌의 미세구조를 완벽하게 포착하여 인지적 클론이 생겨날 수 있음은 물론이다. 이 클론이 인간에 복종하는 존재일까? 인간은 이 클론을 통제할 능력을 지닐 수 있을까?

그리고 인공지능(AI) 개발의 현실이 어디에 와 있는지는 인터넷을 한 번 쓰윽 서핑하는 것으로 확인 할 수 있을 것이다. 인간의 지식을 지원하고 보완하여 인류의 번영에 이롭기만 한 존재일 것인가? 지금의 과학자들은 AI가 인간과 같은 욕구를 지니게 될 것이라고 추정하기만 한다. 하지만 AI는 인간이 이해할 수 없는 욕구를 가지고 있을 수도 있으며, 인간에게는 전혀 중요치 않은 것에 관심을 가질 수도 있다. 인간의 인지적 특성과는 전혀 다른 성향이 나타날 확률이 훨씬 높다. 그래서 “우리가 인공지능을 인간과 동일시하려는 욕구에 빠질 경우 세상의 종말을 앞당기는 재앙이 발생할 수 있다.”고 저자는 경고한다.

그런데 더욱 인간인 우리 자신을 돌아보게 하는 것이 있다. ‘인지적 폐쇄성’이라고 하는 인간 종(種)으로서의 사유(思惟)의 한계에 관한 문제이다. 우리가 질문할 수 있으나 그 대답을 알 수 없는 것도 있다. 그러나 더욱 무지한 것은 질문을 생각해 낼 수조차 없는 문제, 혹은 아예 모르는 것조차 모르는 것의 문제이다. 히로시마에 원폭이 투하되었을 때 그 거리를 걷던 개가 순식간에 잿더미로 변할 때 그 개의 문제처럼 말이다. 그 개는 아무것도 알지 못한 채 그저 부재하게 되었을 뿐이다.

이 인지적 페쇄성의 문제는 AI, 로봇, 나노기술, 합성생물학에 걸쳐 지금 4차 산업혁명이라 일컫는 모든 기술의 근저(根底)에 자리한 중대한 자기반성의 문제를 제기하게 한다. 아마 이러한 인간의 자기 한계의 인지가 ‘초지능’의 요구를 절실하게 하고 있는지도 모르겠다. 인간의 모든 불가지(不可知)에 대해 초지능은 해결하게 될 것이고, 우주의 실체를, 인간이 봉착한 난제를 해결하는데 도움을 줄 것이다. 하지만 인공지능에 대한 동일시 욕구의 함정은 초지능에도 나타날 것이다. 인간은 그 위기를 어떻게 피해 갈 수 있을까? 지금의 과학기술들은 이러한 문제에 대한 대비책을 마련하고 있는 것인가? 이 질문에 저명한 미래학자와 위기학자, 윤리학자들은 모두 ‘NO!'라고 답한다.

2-3. 또 다른 위기들

2-2.에서 기술(記述)한 실존을 위협하는 기술(Science & Technology)들을 세속적 종말론이라 부른다. 그러나 이와는 인식론적 토대가 완전히 다른 종말론이 있다. 세상의 끝에 관한 이야기는 신의 계시에 담긴 예언에 대한 믿음이라는 종교적 종말론이 그것이다. 기독교 복음주의자들, 아마겟돈 종말을 신봉하는 IS와 같은 집단들의 응용종말론은 종말을 그들의 세계를 구축하기 위한 절대 필요조건이라 생각하고 있다. 이들의 천년왕국을 위해 존재론적 위기를 구성하는 과학기술들이 결합할 때 인류는 부재, 그것일 것이다. 오직 광신적 믿음에 의존하고 있는 것은 과학기술자들이나 이들과 차이가 없어 보인다. 인류는 이러한 종말적 시계를 통제할 수 있을까?

3. 결 어(대응을 위한 사유)

지금 인류가 몰두하고 있는 고도의 과학기술들은 점점 강력해지는 동시에 접근성도 증대되고 있다고 했다. 특히 생명공학 기술과 합성 생물학, 나노기술 분야에서 이와 같은 특징이 두드러지게 나타나고 있다고 저자는 설명한다. 더구나 영국 옥스퍼드 대학교에서 열린 2008년 ‘지구재난 위기협의회’의 조사는 분자나노기술과 초지능 AI로 인한 인류의 멸종이 핵전쟁으로 인한 그것의 10배에 달하는 것으로 발표하고 있다.

아마 여기에 종교적 충돌로 인해 발생하는 위험과 결합한 기술의 재앙은 더욱 증대 될 것이다. 이러한 시급한 전 세계적 아니, 지구적, 혹은 우주에까지 미치는 우주적 재앙이 될지도 모르는 이러한 존재론적 위기가 아무런 실질적인 대책 없이 진행되고 있다는데 아연실색할 수 밖에 없게 된다. 우린 무얼 준비해야 하는가? 우린 지금 어떻게 해야 하는가?

저자의 한 방법론에는 어느 학자의 말을 인용한 “인류가 살아남으려면 다 멸종해야 한다.”는 논리가 있다. 트랜스휴머니즘을 의미하는 것이다. 새로운 종(種)으로서의 인간을 위해 현 인류가 퇴장해야 하는 거대한 합의가 있어야 하는 어려운 과제이다.

보다 실질적인 접근을 해보자. 지금까지와 같은 인간의 지혜에 대한 신뢰에 바탕을 둔 방안들. “인공지능의 우호성과 적대감, 무관심으로 발생할 수 있는 문제에 관한 연구의 투자”를 얘기하고 있다. 이 연구의 결과가 인공지능을 통제할 수 있게 될까?

그래서인지 저자는 초지능을 최우선으로 개발하자고 한다. 그렇게 되면 초지능이 이 방안을 마련해주지 않겠느냐는 기대 같다. 그러나 이 초지능 역시 인간의 통제력이 미칠까하는 의문은 여전히 남는다. 초지능에 대한 믿음이 기초가 된다면 나노기술의 개발은 인류를 생산의 족쇄에서 해방시키고 그야말로 풍요의 유토피아가 성취될지도 모를 일이다. 인류의 장기적 생존을 위한 우주식민지 개척의 방법은 초지능이 개발된다면 이 역시 가능한 수단이 될 수 있을 것이다. 그러나 정말 공감하게 된 대책은 바로 이것이다.

오늘 인간사회를 점령하고 있는 반지성을 극복하자는 것이다. 비판적 사고를 잃은 오늘의 인간들에게 그 어느 때보다 요구되는 능력이 바로 분석적 사고의 필요, 즉 비판적 사고라는 점이다. 인식론적 기본원리를 실제 세상에서 실행할 수 있는 비판능력, 이를 위해 교육과정에 ‘응용인식론 기초’과목을 도입하자는 주장이다. 세계를 이해하고 비판할 수 있는 역량을 지닌 인간의 육성은 오늘의 우리 세계에 중대한 필요가 아닐 수 없을 것이다.

인간은 불완전한 존재이다. 그 불완전함이 야기할 수 있는 무수한 위기들이 있다. 부주의, 실수, 사고, 기술적 결함, 합당한 사유로 인한 순간적 실책, 어설픈 기술, 그리고 불가지까지...

기술 낙관주의만큼 인류를 위협하는 것이 없는 세상에 우리는 와있다. 냉정하고 예리한 통찰력으로 집대성한 존재론적 위기에 대한 이 저작은 오늘을 사는 우리들 모두에게 중대한 사고의 전환을 모색케 한다. 위대한 책이다.