미래의 어느 시점에는 기계가 인간 지능 기준선(이 기준은 2014년을 기준으로 잡은 고정된 값처럼 취급한다. 즉 지금부터 기계지능이 도약을 하는 동안 인간 지능이 꾸준히 발전한다고 하더라도 기준선은 거의불변일 것이다)에 거의 근접할 수도 있을 것이다. 바로 이 시점이 도약의 시작이라고 볼 수 있다. 시스템의 지적 능력이 계속 증대되어 어느 순간에 이르면, 모든 인류의 지적 능력을 합친 것이 "문명 기준선"과 거의 비슷한 값을 가질 것이다(역시 현재의 수준을 기준으로 해서 비교해보면 큰 차이가 없을 것이다). 이렇게 계속 시스템의 능력이 향상되면 결국 동시대 인류의 모든 지능을 합친 것보다도 훨씬 뛰어난 수준의 "강한 초지능"에 이를 것이다. 강한 초지능에 이르는 그 시점이 바로 도약의 완성이겠지만, 아마 시스템은 거기서 멈추지 않고 계속 지적 능력을 키워나갈 것이다. 도약 과정 중에 "교차점"이라고 불리는 한 시점을 지날 것인데, 이 시점 이전에는 외부로부터 가해진 요인에 의해서 시스템의 개선이 이루어지지만, 이 교자점을 지나면 주로 시스템 자신의 행동에 의해서 개선이 이루어지게 된다. - P123
인공지능은, 우리의 입장에서 보기에는, 갑작스러운 지능 증가를 보일 수도 있을 것이다. 지능을 가지고 있는 모든 개체들의 폭넓은 지능지수 분포(예를 들면 지능지수 0에서 수백까지의 범위/옮긴이)에서 보면, "동네 바보"와 "아인슈타인"의 지능이 별로 대단한 차이가 없는 것처럼 보일 수도 있겠지만, 인간들만을 중심으로 생각해보면, 이 둘의 지능은 거의 극과 극이기 때문이다. 우리에게는 지능이 모자란 인간보다도 더 지능이 떨어지는 모든 대상을 그저 "멍청하다"고 표현하는 경향이 있다. 따라서 인공지능의 지능이 서서히 증가하여 쥐와 침팬지의 수준을 넘더라도, 인공지능이 말을 유창하게 하지 못하고 과학 논문을 작성하지 못하기 때문에 여전히 "멍청하다"고 생각할 것이다. 그러다가 인공지능의 지능이 계속 증가해서 한 달이나 그와 유사한 짧은 기간 동안에 마침내 동네 바보와 아인슈타인 사이의 아주 작은 간격을 넘게 되면, 갑자기 도약한것처럼 보이게 된다. - P136
에뮬레이션의 경우에도 앞에서 살펴본 콘텐츠와 저항성의 관계와 마찬가지로 적용할 수 있다. 고속 에물레이션 방법을 사용하면, 생물학적 인간보다도 같은 과제를 더 빨리 해결할 수 있다는 사실뿐만 아니라, 과제와 관련된 기술이나 전문지식 같은 알맞은 콘텐츠를 더 많이 축적할 수 있다는 점에서도 큰 이득이 된다. 그러나 빠른 콘텐츠 축적능력의 짐재력을 완전히이끌어내기 위해서는 그에 상응하는 대랑의 메모리 용량이 필요할 것이다. 전복(abalone. 백과사전 a 항목의 초반부를 의미하기 위해서 사용된 단어/옮긴이)에 대해서 읽을 즈음에 이미 땅돼지 (aardyark. 백과사전의 가장 첫 항목을 의미하는 단어로 사용옮긴이)에 관한 내용을 잊어버린다면, 도서관의 책들을 전부 단순히 읽는다고 하더라도 별 의미가 없는 것이다. 인공지능은 적절한 수준의 메모리 용량을 가지고 있겠지만, 인간의 뇌를 모방한 에뮬레이션은 메모리 용량의 측면에서 인간의 한계를 어느 정도 물려받았을 가능성이 크다. 따라서 에물레이션의 경우, 무한 학습(unbounded learning)을 할수 있으려면 먼저 구조적 개선이 이루어져야 할 것이다. - P139
요약해보면, 인간 수준의 소프트웨어가 개발되었을 때, 이런 프로그램들을 빠른 속도로 아주 많이 구동할 수 있을 만큼 충분한 하드웨어적 기반이이미 존재할 가능성, 즉 하드웨어 공급 누적 상황을 생각해볼 수 있다. 앞에서 살펴본 것처럼 소프트웨어 지항성은 정확하게 예측하기가 더 어렵지만, 어쩌면 하드웨어 저항성보다는 더 낮을 가능성이 있다. 특히 인간과 동등한 수준에 도달한 시스템이 접할 수 있는 (예를 들면 인터넷 같은) 기존의 콘텐츠가 대단히 많이 축적되어 있는 콘텐츠 누적의 가능성도 있다. 기존에설계된 알고리즘상의 발전이 누적되어 만들어진 알고리즘 누적도 있을 수있지만, 다른 경우에 비해서는 가능성이 떨어진다. 따라서 위의 모든 사실을 종합해보면, 일단 인간 수준에 다다른 디지털 지성체는 더 나은 하드웨어를 사용하거나 그 수를 늘려서 상당히 쉽게 수행력을 최고 수준으로 증가시킬 수도 있고, 거기에다 소프트웨어 향상(알고리즘이든 콘텐츠든 방법으로 잠재적 수행능력을 몇 제곱(order)만큼 더 향상시킬 수 있을 것이다. - P142
하나의 기계지능 개발 프로제트가 경쟁에서 너무나 앞서서 확실한 전략적우위, 즉 완전히 세계 독점이 가능할 만한 기술 수준과 기타 다른 강점들을가지게 될 것인가? 만약 확실한 전략적 우위를 획득한다면, 그 프로젝트는다른 경쟁자들이 개발되는 것을 막고 독점적 지배체제(singleton) (전 세계적차원에서 보았을 때, 단 하나의 의사결정 기관이 존재하는 세계질서)를 형성할 것인가? 그리고 만약 어떤 특정 개발 프로젝트가 이 경쟁을 선도한다면, 그것의 크기 (물리적인 크기나 투입된 예산의 크기가 아니라 얼마나 많은 사람들의 요구가 그 프로젝트에 반영되었는지의 정도)는 얼마나 클 것인가? - P150
|