‘세계미래보고서 2026-2036‘을 읽고서...

세계미래보고서 2026-2036 - 이미 시작된 AGI, 미래 지도를 다시 그리다
박영숙.제롬 글렌 지음 / 교보문고(단행본) / 2025년 11월

<이 리뷰는 출판사로부터 도서를 제공 받아서 읽고 제 의견을 담아서 작성하였습니다.>

매년 이맘 때면 내년을 전망해보는 서적들의 출간이 봇물처럼 쏟아지는 것 같다. 올해도 예년과 같이 다양한 트렌드 분석서와 경제전망 서적들이 출간되고 있는데, 그 중에서도 많은 독자들에게 꾸준히 사랑받는 책 중의 하나가 바로 이 책 세계미래보고서 시리즈인 것 같다. 올해 발간된 이 책에서는 범용 인공지능인 AGI(Artificial General Intelligence)에 대해 집중적으로 조명을 하고 있다.


'AGI가 일상이 되면 이는 다시 ASI(Artificial Super Intelligence, 인공 초지능)로 이어질 것이다. ASI는 최첨단 인지 기능과 인간의 능력을 뛰어넘는 사고 체계를 가진 시스템을 말한다. 현재 지구상에서 가장 지능적인 존재는 인간이다. 하지만 ASI 시대가 오면 이야기는 달라진다. 인간의 모든 지적 능력을 넘어서기에 인류가 이제껏 직면해 온 난제를 해결해줄 것이다. 다만 ASI가 인간의 통제를 벗어나면 사회 인프라를 흔들고 인류에 적대감을 보일 수도 있다. 최악의 경우 ASI가 인간을 지배할지도 모른다.' 저자가 우려하는 ASI가 인간을 지배하는 세상이 올까봐 솔직히 나는 매우 두렵다.


현재 한국은 AI 기술과 데이터 인프라를 국가 차원에서 통합하고 확장해 AI 산업 경쟁력을 강화하기 위한 국가 전략인 AI 고속도로를 추진 중이다. AI 고속도로는 크게 세 가지 핵심 요소를 통해 구축된다. 첫 번째는 AI 인프라 확충이다. 두 번째는 데이터 및 기술 개발이다. 세 번째는 인재 양성이다. 이러한 핵심 요소들은 AI 산업이 활발하게 발전할 수 있는 디지털 기반을 전국적으로 조성해  AI 기술력을 강화하고, 경제적 파급효과를 극대화하는 것을 목표로 한다.


AGI 시대가 도래하면 다양한 위험에 직면할 수 있다. 첫째는 통제력 상실이다. 둘째는 데이터 편향이나 불공정성 문제다. 셋째는 그에 따른 개인정보 침해와 프라이버시 문제다. 넷째는 일자리 대량 감소와 사회적 혼란이다. 마지막은 악의적 오용 및 무기화다. ASI 시대에는 위험의 성격이 조금 달라진다. 첫 번째 위험은 인류 통제력을 완전히 상실하는 것이다. 두 번째는 예측 불가능성과 이해 불능이다. 세 번째 위험은 전략적 이점 확보와 권력 장악이다. 네 번째는 가치 정렬 실패의 극단적 결과다. 마지막 위험은 경제적, 사회적 파괴다. 이러한 위험들은 아직 먼 미래의 이야기처럼 들릴 수 있지만, AI 기술의 발전 속도를 고려할 때 미리 대비하고 논의해야 할 중요한 과제들이다.


이 책에서 다루고 있는 미래가 밝은 면만 있는 것은 아니어서 다소 두렵기도 한 것이 사실이다. 하지만 AGI를 넘어 ASI 시대로 가야만 하는 것은 당연지사로 이해되는 상황에서 무작정 막고 반대를 할 수만은 없다고 생각한다. 어차피 수용해야 하는 것이 현실이라면 제대로 준비를 갖춰가면서 ASI 시대에 대응해 나가는 것이 옳지 않을까? 전력 부족문제 및 AI 인재유출 등 다양한 해결해야 할 문제들이 있을 것이다. 이 책에서 그리고 있는 AGI 시대의 긍정적인 면이 좀 더 부각될 수 있도록 만반의 준비를 이제부터라도 해나가야 할 것이다.