《빅 나인》: 9개의 거대 기업이 인류의 미래를 지배한다.

빅 나인 - 9개의 거대기업이 인류의 미래를 지배한다
에이미 웹 지음, 채인택 옮김 / 토트 / 2019년 12월

제목과 카피가 아주 거창하다. 그런데, 현실로 이루어질 확률이 아주 높다. 

그렇다면 빅 나인은 어디일까? 아쉽게도 한국 기업은 없다. 

구글, 마이크로소프트, 아마존, 페이스북, IBM, 애플, 바이두, 알리바바, 텐센트가 바로 9개 업체다. 이들 중에서 미국 업체들은 G-MAFIA(구글, 마이크로소프트 등), 중국 업체들은 BAT라고 부른다. 이 업체들이 결국 인류의 미래를 지배할 것이라는 것은 과장이 아니다. 

우리는 이미 알게 모르게 이 업체들과 모두 엮어있다. 지금 이 순간에도 페이스북, 인스타그램, 유튜브 등을 하고 있고, 아마존으로 물건을 주문하고, 구글로 검색한다. 우리의 행동 패턴, 소비 기호 등은 이미 서버에 저장되고 있다. 

그렇다면 이들 기업의 공통점은 무엇일까? 

당연히 IT 업체라는 것이지만 그보다 더 큰 것은 이들은 인공지능에 많은 투자를 하고 있다는 점이다. 이미 인공지능은 부분적으로 우리의 삶에 관여를 하고 있다. 우리에게 책이나 쇼핑 목록을 추천하는 것도 우리의 구매 패턴을 분석했기 때문이다. 내비게이션이 우리에게 최적의 길을 제시하는 것도 이중의 일부다. 

테슬라의 전기 자동차는 수많은 센서를 통해서 장애물을 인지하고, 스스로 자율주행을 한다. 물론 아직 초창기라서 인간이 핸들에 손을 둔 채 전방에 눈을 떼지 않아야 하지만, 앞으로 기술이 더 발전한다면 차에 타서 목적지를 세팅한 후에 드라마를 시청하거나 책을 읽거나 또는 잠을 자도 된다. 

앞으로 이러한 미래가 예상되기 때문에 테크 업체들은 미래의 인공지능 기술을 확보하려고 혈안이 되었다. 하지만 미래는 아무도 예측할 수 없다. AI에 대한 부정적인 그리고 긍정적인 전망이 혼재한 가운데, 정답은 그 때 가봐야 알 수 있다가 맞다. 

저자는 이 책에서 빅 나인의 업체를 다루면서 앞으로의 미래도 예측한다. 

그는 뉴욕 비즈니스 스쿨에서 전략예측 교수이면서 미래예측연구소의 창립자이자 대표다. 미래기술의 전문가이기 때문에 그의 예측이 더 마음에 와 닿는다. 

“우리는 하나의 재앙을 향해 가는 것이 아니라 오늘날 우리가 당연하게 여기는 인간성의 지속적인 침식을 향해 나아가고 있는 것이다” 

이와 같이 우리는 기술의 발전에 앞서서 다음과 같은 철학적인 질문을 할 수밖에 없다.

기계가 생각할 수 있는가? 우리가 생각한다는 것은 어떤 의미인가? 우리는 우리만의 고유한 생각을 하고 있는가? 

이미 AI가 작곡을 하고, 그림을 그리고, 바둑을 두고 있는 상황이다. 좀 더 복잡한 머신러닝까지 거친다면, 더 많은 분야에서 활약할 것이고, 우리의 생각과 판단에도 영향을 줄 것이다. 예를 들어서 의사가 환자를 진료할 때도, 다수의 임상 데이터를 AI가 제공하면서, 최적의 솔루션도 줄 것이다. 의사는 그것을 보고, 판단만 하면 된다. 이렇게 우리의 생각에 영향을 줄 수밖에 없는 상황이 도래한다. 

따라서 AI에 아직은 미숙하지만 마음이 존재한다고 인정할 수밖에 없다.

“아직 어리고 여전히 성숙하는 중이지만, 우리가 이해하지 못할 방식으로 진화를 하고 있는 것으로 보인다.” - p71

그리고 이러한 AI의 발전을 빅 나인 기업들이 주도하고 있다. 

저자는 여기서 문제를 제기한다. 이 업체들이 스타트 업 정신을 갖고, 수많은 시도와 실패를 겪는 동안 그것이 정치적, 사회적 문제로 발전했다는 것이다. 페이스북의 뉴스 검열, 구글의 프로그램 내 인종차별 등이 문제였다.

여기에서 그 근원을 인간에게서 찾았다. 즉 빅 나인에 근무하는 엔지니어들의 배경이 대부부분 비슷하고, 이들이 인문학보다는 회사에서 요구하는 프로그래밍 능력에 주력한다는 점이다. 이제는 프로그래밍을 할 때도 회사 내에서 보다 근원적인 질문을 해야 하고, 보다 다양한 인종과 사람들이 모여서 토론해야 한다는 것이 저자의 주장이다. 

“개발자의 목표가 AI에 더욱 인간적인 생각을 불어넣는 것이라면 이는 수많은 인간을 그 과정에서 배제하는 셈이 된다.” - p87

이 부분에 대해서 나도 전적으로 공감한다. 앞으로 기업들은 좀 더 신중하게 인공지능을 개발해야 한다. 지금의 선택이 앞으로 인류의 존재 가치에 대한 영향을 줄 것이기 때문이다. 만약 백인 남성이 유색인종과 여성에 대한 불리한 프로그램을 만든다면 이들이 향후 취직을 하거나 사회 활동을 하는데 안 좋은 영향을 줄 수도 있다.

중국의 빅 나인인 BAT(Baidu, Alibab, Tencent)는 미국의 검색엔진, SNS 등을 모방해서 시작을 했으나, 지금은 이미 규모면에서 미국 업체들을 앞지른다. 중국에서는 2030년까지 세계 최고의 AI 혁신 센터를 만들기 위해서 장기적인 계획을 세웠고, 이를 실행하고 있다. 심지어 2018년 3월 임기 제한을 폐지해 시진핑이 주석이 종신으로 권좌에 남을 수 있다. 

중국만큼 많은 데이터를 보유한 국가는 없다. 이들은 별다른 규제 없이 개인의 데이터를 자유롭게 끌어 모으면서, 이를 사회 안정화를 위한 시스템으로 활용하고 있다. 앞으로 중국은 AI 경찰이 나라를 지배할 것으로 보인다. 물론 중국이라는 나라가 워낙 거대하고, 다양한 인종이 많아서 갈등이 있겠지만, 이렇게 AI의 알고리즘에 많은 것을 맡기다보면, 문제가 발생할 여지도 있다. 만약 누군가가 시스템을 해킹해서 그 사람의 기록을 나쁘게 조작한다면, 그는 사회적으로 고립될 수밖에 없다. 취직도 못하고, 심지어 비행기를 탈 수도 없다. 

따라서 이를 방지하기 위해서 전 세계에서 고민을 해야 한다. 

AI에 대한 윤리, 정책 등을 정하기 위한 국제 인공지능 증진 연맹 설립도 제안했다. 아직 이러한 기구가 없기 때문에 각 국은 다른 목적을 갖고 AI를 개발하고 있다. 특히 중국은 AI를 중요한 통치수단으로 삼고 있다. 미국도 문제가 많다. AI에 대한 정확한 정책이 설립되지 않은 상황에서 많은 부작용들이 발생하고 있다. 앞서 언급한 인종 차별이나 젠더 이슈에 대한 것이 대표적인 사례다. 한 마디로 인문학에는 별 관심 없고, 프로그래밍에 특출한 공대생들이 인간의 지혜를 기계에게 심는 위험한 사태가 발생할 수 있다는 것이다.  

저자는 AI가 미래에 중요한 역할을 한다고 단언한다. 그리고 지금 우리가 내리는 사소한 결정이 인류의 미래를 결정할 것이다. 문제는 우리가 올바른 결정을 내려야한다. 소수의 부를 위한 것이 아니라 다수가 생존하고 차별받지 않기 위한 답을 찾아야 한다. 저자가 말한 바와 같이 AI의 시대는 이제 시작되었다. 

우리나라에서도 인공지능에 대한 연구를 하고 있지만 더 많은 기업들이 이 부분에 투자를 하고 고민해야 한다. 정부, 지방 단체, 학교, 기업 등이 머리를 맞대고 고민해야 한다. 그리고 끊임없이 시험해 보면서 우리에게 필요한 것을 찾아야 한다. 이미 공공 부문에서 이러한 움직임이 조금씩 보여서 바람직해 보이나, 그래도 그 속도를 늦춰서는 안 된다. 

저자가 언급한 빅 나인은 악당이 아니고, 인류를 구해줄 정의의 사도다. 나도 그렇게 믿고 싶다. 그리고 인류의 ‘선한 마음’을 믿는다. 미래에 대해서 기술과 철학 관점에서 생각하게 만드는 책이다. 많은 관계자들이 이 책을 읽고, 인류의 존재에 대해서 다시 한 번 고민했으면 한다. 

앞으로 2039년, 2069년의 인류의 미래는 어떻게 되어있을까? 

저자의 시나리오 중에서 낙관론을 믿고 싶다. 인간과 AI가 함께 성장하는 사회를 말이다.