초지능으로 향하는 동역학(kinetics)과 연관되어 있으면서도 구분되어야 할 질문은, 바로 초지능체가 하나만 존재할 것인지, 아니면 여러 개가 존재할 것인지 하는 질문이다.
제4장에서는 초지능의 개발을 선도하는 세력과 그것에 가장 근접한 경쟁자들 사이에 생길 수도 있는 간격의 크기를 가늠할 수 있는 핵심적인 요인 한 가지를 살펴보았다. 그것은 바로 인간 수준의 지능에서 강한 초지능으로 이행하는 속도이다.
선두주자와 후발주자 사이의 격차에 영향을 주는 한 요인은 선두주자가 가지고 있는 경쟁력(그것이 무엇인지는 모르지만)의 확산 속도이다.
여기서 핵심적인 질문은, 얼마나 많은 프로젝트들이 동시에 도약을 할 것인가가 아니라, 도약을 이룬 여러 프로젝트 팀들 중에서 확실한 전략적 우위를 차지하지 못하고 기술적으로 아주 비슷한 수준에 머무는 팀들이 얼마나 많은가이다.
초지능의 잠재적인 영향력을 생각할 때, 그것을 인간 기준에서 의인화하여 바라보지 않는 것이 중요하다. 인간 중심적인 기준은 씨앗 인공지능의 성장 궤도와 성숙한 초지능의 심리, 동기, 그리고 능력에 대해서 근거 없는 기대를 가지게 한다.
|