어딜 가나 AI라는 말을 듣게 되는 세상이다. 심지어 대통령 비서관 가운데도 AI수석이라는 직책이 만들어지기도 했으니 말이다. 이 책의 저자는 AI를 단순히 인공지능(Artificial Intelligence)을 넘어 외계 지성(Alien Mind)이라고 부른다(Alien Intelligence라고 했으면 더 좋았을 텐데). 외계인이 가지고 온 무엇이라는 의미가 아니라, 그만큼 우리의 외부에 존재하는 무엇이라는 뜻이다.
저자는 이 외계의 지성을 제대로, 잘 사용하는 것이 중요하다고 말한다. 이를 위해서는 이른바 적절한 학습, 이 책에서 말하는 ‘정렬’ 과정이 필요하다. 만약 우리가 잘못 정렬되면 그건 단순한 불편을 넘어 우리에게 실제적인 위협이 될 수도 있다. 책 속에는 AI 전문가들이 2100년까지 AI가 전 세계 인구의 최소 10퍼센트를 “죽일” 확률이 12퍼센트라고 추정하고 있다는, 조금은 무시무시한 문장도 보인다.
한편 또 저자는 이 AI를 “공동지능”으로 사용해야 한다고 적극 권장한다. 우리 뇌의 확장으로서 AI를 이용하자는 뜻이다. 팔의 힘의 한계를 극복하기 위해 굴삭기를 쓰고, 시력의 한계를 넘어서기 위해 망원경을 사용하듯이. 그리고 여기에 도움이 될 네 가지 원칙(또는 요령)을 제시한다. 작업에 항상 AI를 초대함으로써 그 들쭉날쭉한 한계를 인식해야 한다는 첫 번째 요령이 특히 눈에 들어온다.
