이 책에서는 AI기술외에 의료, 환경, 일자리, 걍제, 사회, 의식주에 이르기까지 AI가 신기술과 걀합해 가져올 미래를 예측해보고 이러한 기술이 올바른 윤리의식을 바탕으로 인류의 행복에 기여하기 위한 전제조건들이 어떤 것들이 있는지 그러한 것들을 규제할 국제규모의 각종 제도와 기구의 운영을 위한 제안도 빠뜨리지 않았다. 이렇게 각종 기술과 제도가 갖춰지고 올바른 방향으로 이용하게 됨에 따른 변화로 인류가 행복해지는 미래를 10개의 카테고리로 분류해 소개 한다.
기본 소득제도, 사교육의 소멸, 다시 돌아오는 자급자족의 미래, 세계시민의 삶, 특히 베이비붐세대의 고령화가 노인을 행복하게 만드는 미래상등 희망을 이야기 한다.
AGI가 도래하기 전 규칙, 안전장치, 지속적인 감사 등의 국제규제 시스템을 마련하지 못하면 인류를 위협하는 ASI가 등장으로 이어질 수 있다. AGI는 10년이내에 도래할 수 있으므로 지그부터 잠재적인 AGI거버넌스 문제와 모델을 국제적으로 탐색할 필요가 있다.
미래 인류의 이익을 위협하는 ASI가 등장하지 않게 하기위한 초기 AGI의 핵심조건, 규칙, 보호책은 무엇일까?
우리는 풍부한 자기 성찰과 연민능력을 갖춘 AGI를 구축하고 이를 잘 교육해야 한다. 유익한 프로젝트에서 함께 일하고 탈 중앙화 된 통제하에 두며, 우리 중 일부는 이들과 '융합'하도록 하여야 한다. 여기서 가장 중요한 것은 경험을 통한 학습이다. 만약 AGI가 사람을 죽이고, 필요 없는 물건을 팔고, 사람들을 감시하고, 그융거래를 통해 사기를 치는 일을 하면서 스스로 학습 된다면 끔찍한 ASI로 진화 될 것이다. 하지만 AI가 아이들을 가르치고, 의료를 돕고, 과학과 수학을 연구한다면 유익한 AI로 진화될 것이다. 따라서 AI동기부여 시스템을 어떻게 계측하고 어떤 경험을 제공하느냐와 관련이 있다. 이는 윤리기준보다 누가 AGI의 개발과 사용을 통제하느냐가 더 중요한 의미가 된다.
AI의통제가 가능한 정부와 기업의 권력자들로 하여금 윤리를 핵심가치로 삼도록 하는 것이 급선무인 것이다.