#동물과기계에서벗어나 #인문교양

동물과 기계에서 벗어나 - AI가 바꾸는 세상과 인간의 미래
스가쓰케 마사노부 지음, 현선 옮김 / 항해 / 2021년 1월

최근 혐오, 성희롱, 장애인 비하 그리고 개인정보 유출 등 많은 이슈와 논란을 남긴 인공지능 챗봇 "이루다"가 출시 한 달 만에 폐기 수순을 밟고 있다는 소식이 전해졌습니다. 제작사 측에서는 이루다의 DB와 딥러닝 알고리즘을 모두 폐기하겠다는 뜻을 밝혔습니다.

20세 여대생으로 설정된 이루다는 성소수자와 흑인을 비하하고, 성희롱에 무방비였으며, 개인정보 유출 논란까지 불거지게 되었죠. 투입되는 데이터가 많으면 많을수록 더욱 정료해지는 딥러닝 알고리즘을 사용했지만, 그만큼 개인정보 유출이라는 사생활 침해 위험도 커지는 인공지능 기술의 딜레마를 여실히 보여준 사건이라 생각됩니다.

오늘 소개해 드리는 <동물과 기계에서 벗어나>는 뉴욕, 실리콘 밸리, 중국 심천, 모스크바, 서울, 도쿄 등 세계 각지를 방문, 약 50여명의 AI 연구가, 뇌 과학자, 수학자 및 철학자들과의 리서치와 취재를 통해 급격히 발전하는 AI가 바꿀 미래상과 이에 따른 인간의 노동과 자유의지(행복추구)의 향방을 추적하고 있습니다.

"인류의 지적 능력에 도전하는 AI의 탄생으로 세계는 어떻게 달라질 것이며, 우리는 AI와 어떻게 어울려야 할까 ?"

"AI 시대는 인간을 행복하게 해줄 것인가?" "그렇다면 궁극적으로 인류는 다가올 AI 혁명에 어떻게 대처할 것인가 ?"

우선 저자는 AI가 일상의 다양한 영역에 급속히 침투해서 인간의 지적행위를 대행하게 될 때 '인간의 기계화' 혹은 '인간의 동물화' 현상이 발생하며 이를 경계할 것을 주문합니다.

이는 개인이 자신의 자유의지로 결단해서 행동하는 게 아니라 기계가 알려주는 즉, 인공지능의 알고리즘에 최적화된 정보에 따라 행동하는 것으로 일상사가 빈틈없이 굴러가는 현실을 말합니다. 데카르트 식 표현으로하자면 "나는 따른다, 고로 존재한다"의 상태가 그것입니다.

저자는 조지오웰의 디스토피아 소설인 "1984"와 "동물농장"을 예로 들며, 기술에 의해 언론 및 행동의 자유(자유의지)를 빼앗긴 채 살아가는 관리사회가 곧 AI가 촉발한 인간의 기계화, 동물화임을 잘 말해주고 있답니다.

그렇다면 필연적으로 아래의 물음이 제기됩니다.

"인류는 AI의 급속한 발전 앞에 점차 동물화 될 것인가? 또 생명에 근접하려는 기계와 일체화할 것인가?"

이에 대해 저자는 서문에서 단호히 이야기합니다. "나는 무모하게도 그 어느 쪽과도 거리를 두는 자유의지를 믿어보려 한다. 자유의지야말로 '인간이 인간으로 존재하기 위한 저항'이기 때문이다." 즉, 저자는 AI나 기계와 인간의 본질적인 차이로 '자유의지'를 뽑고 있습니다.

AI의 발전상을 노동과 행복의 관점에서 바라보는 2가지 대립 양상이 있습니다. 첫번째는 디스토피아론으로 인간은 결국 AI에 일을 빼앗기고 예속된다는 것입니다. 두번째는 유토피아론으로 인간이 AI로 인해 다양한 짐에서 벗어나 자유와 행복을 찾게 된다는 것입니다.

두 견해 중 어느 편이 맞는지 파악하기 위해 저자는 다양한 전문가 인터뷰를 진행하고 풍부한 실례를 바탕으로 테크 산업의 최전선을 직접 찾아다니며 리포트 합니다. 그리고 궁극적으로 AI는 인간처럼 생각하고 의식할 수 있을까? 그리고 AI는 인간을 노동에서 해방시킬 수 있을까?라는 물음과 맞딱뜨리게 됩니다. 그러나 많은 전문가들의 인터뷰를 종합해 보면 '특이점(Singularity)'과 같은 세계가 곧 실현될 가능성은 매우 낮은 것으로 추정하고 있습니다.

특히 테크업계 사람들은 가까운 장래의 AI 기술 발전의 한계를 알고 있으면서도 과장된 위험을 적극적으로 전파하고 있음에 주목할 필요가 있습니다. 우리가 기술 산업 분야의 경고를 곧이 곧대로 믿고 자발적으로 스스로 판단하고 행동할 수 있는 능력을 의심하게 될 때가 위험에 처하는 상황이 될 것이라는 지적입니다. 물론 그 사이에도 GAFA와 같은 거대 테크기업들은 우리의 데이터를 수없이 모아 분석하면서 거대한 지배체제를 공고히 하고 있습니다.

인간은 단순한 동물도 기계도 아닙니다. "동물과 기계에서 벗어나" 존재하고 있지요. 이 책은 테크기업에 대한 자발적 예속에서 이제는 벗어나라는 충고를 담고 있습니다.

AI는 인간의 적이 아닙니다. 잘만 사용하면 인간의 지능을 크게 증강시켜줄 것입니다. 문제는 중국과 러시아와 같은 AI에 기반한 관리/감시사회 뿐 아니라 AI를 통해 우리의 삶과 사고를 지배하려는 '실리콘 밸리의 테크기업들'이며, 이윤을 지속적으로 추구하려는 '천민자본주의'임을 분명히 인식해야 합니다.

관심있는 분들의 일독을 권합니다.

* 출판사로부터 도서를 제공받아 주관적으로 작성한 리뷰입니다.