인공지능과 딥러닝 deep Learning 시스템이 우리 모두를 ‘특이점singularity‘으로 어떻게 인도하는지를 다룬 글을 읽는 건 특별하지도 않다. singularity는 ‘개별적인, 유일무이한, 비길 데가 없는‘을 뜻하는 라틴어 singularis에서 파생한 단어이다. 그러나 여기에서는 미래학자 레이 커즈와일 Ray Kurzweil 이 규정한 개념, 즉 어떤함수가 무한값을 취하는 시점을 뜻하는 수학적 의미를 가리킨다. 커즈와일은 2045년이 되면 인공지능이 인간의 지능을 넘어설 것이고, 생물학적 지능과 비생물학적 지능이 나타날 것이며, 기계 지능이 무한한 속도로 우주를 채울 것이라고 예언했다. 그야말로 극단적인 상상으로, 이렇게 되면 우리는 힘들이지 않고 우주를 식민지로 만들 수 있을 것이다.
복잡한 시스템을 장기적 관점에서 모형화하는 작업은, 그럴듯한 극단적 의견에서 비롯한 결과를 실현해보려고 애쓴다. 종말론과 특이점이 대표적인 두 극단이고, 우리 미래는 이 둘을 아우르는 범위 내 어딘가에 있기 마련이다. 요즘 미래 예측에서 특히눈에 띄는 것은, 두 극단을 부정하는 많은 증거에도 불구하고 두극단 중 하나로 경도된다는 것이다. 과거에는 이분법에 기우는이런 경향을 재앙론자와 기술만능주의자의 충돌로 묘사했지만, 이런 명칭도 감성의 극단적 양극화를 반영하기에는 너무 점잖은 듯하다." 이러한 양극화에는 구시대적인 계량적 예측을 인용하는 경향이 뚜렷이 수반된다. - P365
계량적 예측은 크게 세 범주로 나뉜다. 가장 작은 범주레는 어떻게 작동하는지 잘 알고 역학 관계가 한정된 일련의 과정을 다루는 예측이 포함된다. 두 번째로 훨씬 더 큰 범주에는 올바른방향을 가리키지만 구체적 결과에 대해서는 상당히 불확실한예측이 포함된다. 끝으로 세 번째 범주에는 내가 에너지와 환경에 관해 언급한 사례처럼 공상소설에 가까운 예측이 포함된다. 이런 예측도 수치로 가득할 수 있지만, 그 수치는 미심쩍은 가정의 결과일뿐이다. 게다가 컴퓨터로 작성한 동화 같은 이야기가 추적한 과정은 현실 세계와 확연히 다르기 십상이다. 물론 그런 공상적 예측을 만들어내는 사람은 그러한 예측에 담긴 발견적가치heuristic value, 즉 문제 해결에 도움을 주는 가치를 변명거리로 내세우겠지만, 경험이 일천한 사람은 그 결론을 들먹이며 자신의 편견을 강화하거나 다른 합리적 대안을 일축할 수 있다. - P367
과거의 허황된 예언에 비추어보면, 둘 모두 망상에 불과하다.
지금 우리가 누리는 문명은 1970년대 초에 예측하던 세계, 즉 지구 전체가 굶주림에 허덕이는 세계도 아니고, 비용이 들지 않는 핵분열로 에너지를 얻는 세계도 아니다. 따라서 지금으로부터 한 세대 뒤에 우리는 진화의 끝에 있지도 않을 것이고, ‘특이점‘에 의해 변형된 문명에 있지도 않을 것이다. 2030년대에도우리는 지금과 비슷한 상황에 있을 것이다. 빛의 속도로 모든 것을 처리하는 인공지능의 상상할 수 없는 혜택을 누리지는 못하더라도 여전히 불가능한 것을 해내려고 노력하며 장기적인 예측을 시도할 것이다. 더 곤혹스럽고 더 우스꽝스러운 예측이 있을 테고, 예상치 못한 사건들로 인해 놀라는 경우도 있을 것이다. 극단적 상황을 예상하고 상상하기는 매우 쉽다. 하지만 관성에 의한 발전과 예측하지 못한 중단에서 비롯되는 현실적인 미래를 예상하는 건 여전히 어렵다. 예측 모형이 아무리 많아도 그어려움을 해소하지는 못한다. 따라서 우리의 장기 예측은 앞으로도 계속 틀릴 것이다. - P377
이런 결론은 모순도 아니고, 미래 예측을 일축하려는 ‘예측‘은 더더욱 아니다. 복잡한 시스템에 내재한 관성의 예측할 수 없는 상호작용에 근거한 결론, 필연적이지는 않지만 무척 개연성이 높은 결론일 뿐이다. 그 복잡한 시스템의 한쪽 끝에는 장기적으로 항상 내재하는 필수적인 요소가 있고, 반대편에는 기술적 요인(가전제품의 등장, 전기 저장 분야의 획기적 돌파구)이나 사회적 요인(소련의 붕괴, 더욱 독해진 팬데믹)으로 인한 급작스러운 단절과 중단이 있다. 여하튼 요즘 들어 예측하기가 더 어려워진 이유는 중대한 변화가 엄청난 규모로 일어나기 때문이기도 하다. - P378
상투적으로 말하듯 유일하게 남은 세계초강대국이 간호사와 의사에게 간단한 개인용 보호 장비, 예컨대 장갑과 마스크, 모자와 가운 같은 저차원적 물품조차 충분히제공하지 못하는 데 그런 공상적 목표를 추구한다는 게 납득이되는가?
그 결과 미국은 팬데믹이 창궐하는 중에 병원이 폐쇄되는 것만이라도 막기 위해 턱없이 부족한 양의 보호 장비를 공수해야했고, 중국에 터무니없이 많은 돈을 지불했다. 뛰어난 세계화설계자들이 생존에 필요한 거의 모든 기본적인 물품의 생산을중국에 몰아놓은 탓이었다."매년 군사비로 5,000억 달러 이상(모든 잠재적 적국의 군사비를 합한 액수보다 많다)을 쓰는 국가이지만, 발생이 절대적으로 확실한 사태에 대해서는 아무런 대비가되어 있지 않았다. 기본적인 의료품도 충분히 갖추어져 있지 않았다. 국내 생산에 수억 달러만 투자했더라도 수조 달러로 추정되는 코로나19로 인한 경제적 손실을 크게 줄일 수 있었을 것이다. - P388
게다가 실효성 있는 노력에는 많은 비용이 들겠지만, 온실가스 배출을 완전히 없애지는 못하더라도 크게 줄이는 결과를 얻어내려면 적어도 두 세대 동안 지속해야 한다. 현실적으로 예상할 수 있는 수준을 넘어서는 과감한 감축도 수십 년 내에는눈에 띄는 결과를 끌어내지 못할 것이다. 여기서 세대 간 정의 intergenerational justice라는 무척 까다로운 문제가 제기된다. 다시 말하면, 미래를 디스카운트하는 우리의 변하지 않는 성향이 여실히 드러난다. - P396
세계 평균 기대 수명(2020년에는 약 72세)이 그대로 유지된다면, 21세기 중반경에 태어나는 세대가 기후변화를 완화하기 위한정책으로부터 경제적 누적 순편익을 처음으로 누리게 될 것이다." 부유한 국가의 젊은 시민들이 즉각적 이득보다 먼 편익을더 중요하게 생각할 각오가 되어 있을까? 또 인구가 꾸준히 증가하는 저소득 국가들은 기본적인 생존의 문제로 화석 탄소에대한 의존을 늘려가는데, 부유한 국가의 젊은이들이 반세기 이상 동안 절약해야 하는 삶을 기꺼이 수용할까? 지금 40~50대도자신들은 생전에 누리지 못할 보상을 후세에 전해주기 위해 그런 삶에 기꺼이 동참할까? - P398
1장을 시작하며 말했듯 나는 비관론자도 아니고, 낙관론자도아니다. 과학자이다. 세계가 ‘실제로‘ 어떻게 움직이는지 이해하는 데 필요한 절대 강령은 없다.
과거와 현재, 불확실한 미래를 현실적으로 파악하는 게 우리앞에 펼쳐질 불가지의 시간에 접근하는 최고의 지름길이다. 우리가 미래를 구체적으로 알 수는 없지만, 진보와 후퇴, 극복할수 없을 듯한 어려움과 기적에 가까운 발전이 뒤섞인 미래가 가장 그럴듯한 전망이라는 건 알고 있다. 여느 때와 마찬가지로 미래도 이미 결정된 게 아니다. 미래의 모습은 지금 우리가 어떻게행동하느냐에 따라 달라진다. - P402
|