기계와 인간의 공진화

넥스트 인텔리전스
로랑 알렉상드르 지음, 임호경 옮김 / 열린책들 / 2025년 3월

* 네이버 책과 콩나무 카페 서평단 자격으로 작성한 주관적인 리뷰입니다.

지구 멸망설의 단골 소재 가운데 하나가 인공지능이다. 인류는 인공지능을 통제할 수 있을까. 과학자들과 전문가들의 의견이 분분하다. 실리콘밸리 내부의 입장도 서로 갈린다. 구글의 공동 창업자인 세르게이 브린과 페이스북의 창업자인 마크 저커버그는 통제할 수 있다는 낙관론 측에 서 있고, 반면에 일론 머스크는 통제할 수 없다는 강한 비관론 측으로, 인공지능이 핵무기보다 더 위험하다고 엄중하게 경고했다.

마이크로소프트의 창업자인 빌 게이츠는 인공지능 개발이 단기적으로는 이익이지만 장기적으로는 해가 될 수도 있다는 견해를 품는다. 챗GPT의 개발자 샘 올트먼은 인간의 지능을 뛰어넘는 강인공지능의 장점은 최대화하고 단점은 최소화하자는 실용적인 입장이다. 그럼에도 불구하고, 샘 올트먼은 이렇게 경고한다. "인공지능은 매우 높은 확률로 세상의 종말을 초래할 것입니다. 하지만 그러기 전에 멋진 기업들이 탄생할 것입니다." 또 이렇게도 경고한다. "챗GPT는 자본주의 시스템을 파괴할 수 있다."

실리콘밸리 외부, 상아탑 엘리트의 경고음은 더욱 거세다. 물리학자 스티븐 호킹은 인공지능을 통제할 수 없다면 기계의 노예로 전락하거나 호모 사피엔스의 전멸을 보게 될 거라는 경고를 발한 바 있다. 심층 신경망의 발명자 가운데 한 사람인 제프리 힌튼은 인공지능을 통제하는 우리의 능력에 대해 우려를 표하며, 인공지능이 인류를 전멸시킬 가능성을 배제할 수 없다고 했다. 미국 루이빌대학교 사이버보안연구소의 로만 얌폴스키는 100년 이내에 인공지능이 인간을 멸종시킬 수 있다는 불길한 예측을 내놓았다.

"우리가 이미 인공지능에 바둑을 가르쳤다는 사실을 잊어서는 안 된다. 바둑은 속이고, 포위하고, 교묘하게 상대를 제압하는 게임이다. 적대적인 인공지능은 언젠가는 인류를 상대로 바둑을 둘 수도 있을 것이다. 다만 게임의 도구로 흑백의 바둑알이 아니라, 원자력 발전소, 항공관제 센터, 수력발전 댐, 자율 주행 자동차, 천연두 바이러스 보관소 같은 것을 사용할 것이다."(487쪽)

프랑스의 미래학자 로랑 알렉상드르는 인류의 인공지능 개발이 현재 기회와 위기가 병존하는 '개와 늑대 사이'의 해질녘에 있다고 강조한다. 여기서 개는 확실성과 안전을, 늑대는 불확실성과 위험을 의미한다. 저자는 진화냐 전멸이냐, 유토피아냐 디스토피아냐의 이분법 대신에, 범용 인공지능이 교육, 노동, 정치, 권력 등 사회 전반에 걸쳐 초래할 변화를 탐구한다.

바야흐로 인공지능의 봄날이 왔다. 인공지능은 '인지 자본주의'의 엔진이다. 인지 자본주의란 "지식, 정보, 문화적 내용과 같은 인지적 자원이 주요 경제적 가치와 성장 동력으로 작동하는 새로운 형태의 자본주의"를 말한다. 딥 러닝 알고리즘, 엄청난 컴퓨팅 파워, 그리고 막대한 양의 데이터를 일용할 양식으로 삼은 인공지능은 호모 데우스, 즉 인간-신이라는 경지와 트랜스휴먼 프로젝트의 가능성을 활짝 열어젖혔다. 즉, "생명을 창조하고, 우리의 유전자를 수정하고, 두뇌를 재프로그래밍하고, 우주를 정복하고, 죽음을 종식시키는 능력을 얻게 될 것이다."

인간과 기계의 융합을 찬미하는 트랜스휴머니즘의 전도사들은 강인공지능을 통제할 수만 있다면 인류는 초지능의 힘을 빌려 호모 데우스의 차원으로 진화할 수 있다고 믿는다. 호모 데우스는 트랜스휴머니스트가 꿈꾸는 궁극의 시나리오다. 저자는 기계와 인간의 융합 혹은 공진화를 지지하는 편이지만, 핵심은 절대적인 마지노선이 어디까지냐다. 저자는 인간의 존엄성을 지키기 위해선 '육체, 정신의 개별화, 우연'이라는 세 기둥을 결코 포기해선 안 된다고 강조한다. 호모 사피엔스는 초지능 시대를 어떻게 헤쳐나가야 하는지 배워야 한다.