당신은 지금 두개골 안의 그것 덕분에 이 책을 읽고 있다. 바로 그것, 즉 인간의 뇌는 다른 동물들의 뇌가 할 수 없는 몇 가지 능력을 갖추고 있다. 이러한 독특한 능력 덕분에 인류는 지구에서 지배적인 위치를 점할 수있었다. 다른 동물들은 우리보다 더 강한 근육과 날카로운 발톱을 가졌지만, 우리는 그들보다 더 똑똑한 뇌를 가졌다. 인류는 일반 지능 (generalintelligence)을 가지고 있다는 그다지 대단한 것도 아닌 장점만으로도 언어,
기술, 그리고 복잡한 사회조직을 만들었다. 이전 세대가 달성한 것을 기반으로 후속 세대가 계속해서 새로운 업적을 쌓아가면서, 그 작은 장점의 효과가 증가한 것이다.
미래의 어느 날 우리가 인간의 일반 지능을 능가하는 기계 두뇌(machinebrain)를 만들게 된다면, 이 새로운 슈퍼인텔리전스(superintelligence, 초지등)는 매우 강력한 존재가 될 것이다. 그리고 마치 지금의 고릴라들의 운명이 그들 스스로가 아니라 우리 인간에게 달린 것처럼, 인류의 운명도 기계초지능의 행동에 의존하게 될 것이다.
(고릴라보다) 우리가 유리한 점이 딱 하나 있다. 바로 우리는 우리 손으로 초지능을 만든다는 것이다. 이론상으로, 우리는 인간 가치를 수호하는초지능을 만들 수도 있다. 우리에게는 그렇게 할 만한 강한 동기가 있다.
그러나 실제로는, 초지능을 통제하는 문제는 상당히 까다로워 보인다. 또한 초지능을 통제하기 위한 기회는 단 한번뿐일 것이다. 일단 인류에게 비우호적인 초지능이 만들어지면, 그것을 대체하거나 변경하려는 시도는 그 비우호적인 초지능에 의해서 가로막히게 될 것이다. 그렇게 되면 우리의 운명은 돌이킬 수 없게 된다.