인류가 존재하는 거의 대부분 동안 거시 구조의 발전 속도는 지금보다 느렸다. 5만 년 전에는, 1,000년이라는 세월 동안 단 하나의 중요한 기술적 발명도 이루어지지 않았고, 인간의 지식이나 이해력은 두드러지게 증가하지 않았으며, 범세계적으로 의미 있는 정치적 변화도 일어나지 않았다.
그러나 미시적 관점에서 변화무쌍한 인간사는 생과 사 그리고 다른 개인적이고 지역적으로 의미 있는 일들로 적당히 꿈틀거렸다. 홍적세의 평범한 사람의 하루는 지금보다 더욱 흥미진진했을지도 모른다.
만약 거시 구조의 발전 속도를 마음대로 바꿀 수 있는 마법적인 제어기를 가지게 된다면 어떻게 하겠는가? 가속할 것인가, 감속할 것인가, 그도 아니면 그대로 둘 것인가?
사람과 상관없는 (비인격적인) 관점에서 가정한다면, 이와 같은 질문은 존재적 위험에 대한 영향을 고려해야 한다. "상태적 위험(state risk)"과 "단계적 위험(step risk)" 두 종류의 위험을 구별하자, 상태적 위험은 어떤 상태에 놓여 있기 때문에 생기는 위험으로, 시스템이 노출되는 전체 상태적 위험의 양은 시스템이 그 상태에 얼마나 놓여 있는지에 대한 함수이다. 자연에 의한 위험은 주로 상태적 위험이다. 위험에 오래 노출될수록, 소행성 충돌, 초화산 분출, 감마선 폭발이 일어나거나, 자연발생적으로 전 세계적으로 유행병이 돌거나 또다른 무엇인지는 모르지만 우주적 대재앙이 일어날 가능성이 높아진다. 일부의 인위적 위험 또한 상태적 위험이다. 개인의 차원에서 보면 군인이 방어벽 밖으로 머리를 오래 내밀고 있을수록 적군 저격수의 총에 맞을 누적 가능성이 높아진다. 존재적 위험 정도에 비견될 만한 인위적인 상태적 위험이 또 있다. 즉 국제적 무정부 상태가 오래 지속될수록 원자핵 아마겟돈(Armageddon : 세계의 종말이 올 때의 선과 악의 최후의 대결전장/옮긴이)이나 다른 형태의 대량 살상 무기를 사용하는 세계전쟁이 일어나서 문명을 초토화시킬 누적 가능성이 높아진다.
이와는 대조적으로 단계적 위험은 필요하거나 가치 있는 전이(transition)와 관련된 별개의 구별된 위험이다. 일단 전이가 완료되면 위험은 사라진다. 전이와 관련된 단계적 위험의 양은 보통 전이에 걸린 시간에 따라 변하는 단순 함수가 아니다. 지뢰 밭을 2배 빨리 가로지른다고 위험이 반으로 줄지는 않는다. 빠른 도약에만 한정하면 초지능의 창조는 단계적 위험일수도 있다. 도약과 관련된 어떤 위험이 있을 것이고 그 규모는 어떤 준비가 되어 있느냐에 달려 있을 것이다. 그러나 위험의 양은 도약이 20밀리초가 걸리든 20시간이 걸리든 별로 상관이 없다.
최선의 인간 본성이 나타나서 문제를 해결하기를
지능 대확산이 일어날 전망이 보이기 이전에는, 인간은 마치 폭탄을 가지고노는 작은 어린 아이들과 같은 존재이다. 이것은 장난감이 가진 힘과 인간행위의 미성숙성 사이의 부조화를 잘 보여준다. 초지능은 현재 준비되지 않았고 또한 한동안 준비될 수 없는 힘겨운 목표이다. 언제 폭발이 일어날지에 대해서는 거의 예측이 불가능하지만, 만약 그 장치를 우리 귀에 가까이 가져다 대면 비록 희미하게나마 똑딱거리는 소리를 들을 수 있을 것이다.
폭발하지 않은 폭탄을 손에 들고 있는 아이가 해야 할 현명한 행동은 조심스럽게 폭탄을 내려놓고 조용히 방 밖으로 나와서 가장 가까이에 있는 어른에게 알리는 것이다. 그러나 이제 우리가 다루려는 문제에서는 아이가 한 명이 아니라 다수이고, 아이들 각자가 독립된 격발장치를 가지고있다. 위험물을 모두 내려놓게 하는 지각 있는 방법을 찾을 기회는 거의 없다. 몇몇 바보같은 녀석들은 무슨 일이 벌어질지 보려고 점화 버튼을 누를 것이다.
그 누구도 하늘 전체를 뒤덮으면서 전 방위적으로 내리꽂히는 지능 대확 산의 폭풍으로부터 안전하게 도망칠 수는 없을 것이다. 그 경우에는 사건을 알려서 도움을 청해야 할 눈에 띄는 어른도 그곳에는 없을 것이다.
이런 상황에서는 어떤 유쾌한 경탄의 소리도 어울리지 않을 것이다. 소스라침과 두려움이 더 근접한 표현일 것이다. 아마도 가장 적합한 태도는 마치 우리가 우리의 꿈을 이루거나 꿈을 짓밟을 수 있는 어려운 시험을 준비하듯이, 우리가 할 수 있을 만큼 정당하게 고된 결정을 내리는 것이다.
이것은 광신도들이 내리는 처방전 같은 것이 아니다. 지능 대확산은 여전히 수십 년 이후의 일일 것이다. 우리가 맞닥뜨리고 있는 도전에 대처하기 위해서는, 비록 이 도전이 가장 비정상적이고 인간미가 없는 문제임에도 불구하고 우리의 인성, 즉 우리의 근본, 상식 그리고 푸근한 품위 같은 성향에 어느 정도 의지해야 한다. 이 해결책의 단초를 담고 있는 모든 인적 자원을 총동원해야 한다.
그럼에도 불구하고 세계적으로 의미 있는 것이 무엇인지를 파악하는 것도 놓치지는 말아야 한다. 매일매일 안개 속에서 사는 듯한 하찮은 일상을 통해서도 우리 시대의 근본적인 임무를 희미하게나마 감지할 수 있다.
이 책에서 우리는 이와 같은 시도를 하지 않았다면, 여전히 비교적 정형화 되어 있지 않고 부정적으로 정의되어 있었을 수도 있는, 미래에 대한 견해를 조금이라도 더 파악하려고 시도했다. 이것은 (개인적이고 세속적인 것은 배제한 견해에서 보았을 때) 우리의 주된 도덕적 우선순위로서, 존재적 위험을 줄이려고 하고, 인류가 가진 우주의 무한한 자산을 온정적이고 즐겁게 사용하도록 이끌어서 성숙한 문명을 성취하려고 하는 인류의 미래의 꿈일 것이다.
|