AI 제국: 권력, 자본, 노동 / 카렌 하오 / 생각의힘

AI 제국: 권력, 자본, 노동 - 샘 올트먼과 오픈AI의 빛과 그림자
카렌 하오 지음, 임보영 옮김 / 생각의힘 / 2026년 2월

#AI제국권력자본노동 #Empire_of_AI #카렌하오 #Karen_Hao #오픈AI #샘올트먼 #생성형AI @tp.book

#생각의힘 출판사로부터 #도서제공 을 받아 작성한 리뷰입니다

+ 본서 빛깔

본서의 부제는 [샘 올트먼과 오픈AI의 빛과 그림자]이다. 해시태그에서 언급된 영문 원제로도 저자가 말하려는 주제의 서술 방식이 AI 시대의 고운 면모만을 다루려는 건 아니란 걸 직시할 수 있을 것이다.

출판사 리뷰도 읽어 봤는데, 저자는 ‘오픈AI의 법칙’이라는 “연산 자원이 몇 배수씩 증가한 법칙”과 “데이터 양, 연산 자원, 매개변수의 수, 이 세 요소의 투입량을 비례적으로 늘리니까 성능도 비례해 개선”되었다는 ‘스케일링의 법칙’, 열악한 경제적 처지에 놓인 “글로벌 사우스 국가의 저임금 노동자들에게 텍스트 분류나 이미지 라벨링 등의 데이터 준비 작업을 맡기는” ‘데이터 어노테이션’을 통해 ‘챗gpt가 계발되었다’는 것 등을 가장 먼저 제시한다. 그와 함께 “칠레의 환경 파괴”와 그로 인해 지역민들의 “사회 폭발”이라는 폭력 시위가 격화되고 있는 현실, “우루과이의 물 부족과 농작물 손실” 등 환경 파괴, 민심의 괴리가 커나가는 문제 등을 언급하기도 한다. 무엇보다 “샘 올트먼의 사기 기질이랄까 진실성 부족 면모”를 전반부에서 이미 지적하고 있는데, 이후 중후반에는 “샘 올트먼의 여동생 애니가 제기한 샘의 근친 성폭력에 관한 주장”도 담고 있다. 샘과 그의 동료들은 애니의 정신 문제를 들고 있으나 저자는 그런 변론이 이 시대에 다른 이들을 대하는 그들의 태도와 세계의 태도가 다르지 않다고 못 박고 있다.

저자의 시선은 챗gpt 계발 이후 마이크로소프트와 오픈AI의 주가 상승, 기업 성장, 기술 혁신으로 인한 시대 전환 등이 아니라 앞서 말한 사회적 이슈와 윤리적 문제들에 주목하고 있는 것이다.

챗gpt 상용화 시기부터 일론 머스크와 샘 올트먼의 대립 시절 이야기 등이 다큐멘터리식으로 영상화되어 여러 채널에서 방송된 관계로 다소 알고 있기도 했고 그 다큐들에서 이미 샘 올트먼의 사업가 기질이 회자되기도 했다. 오픈AI라는 이름과 그를 근거로 한 이상 제시로 무료로 대중화할 수 있을 발전된 AI를 기대했던 일론 머스크는 유료화하여 부를 축적할 기회를 노리던 샘 올트먼과의 대립하게 되었다고 한다. 일론의 투자로 초기 개발을 이룬 샘이 일론이 자연히 오픈AI에서 투자 지원을 철회하고 떠나가도록 유도했다는 것이 그 다큐들의 주 내용이다. 본서에서는 스케일AI와의 합자, 마이크로소프트의 투자 지원 등 사업적인 측면과 기업 성장 여정, 그리고 그 과정에서 샘 올트먼에 대한 문제 제기, 일종의 직위 해제 퇴사 조치 등이 내려졌었던 과정도 다루고 있다.

+ 사유와 감상 포인트

스케일AI와의 합자는 데이터 어노테이션이라는 사우스 국가 저임금 노동자들에 대한 저가 노동과 지속적이고 거듭되는 임금 삭감을 불러왔고 일부 국가들에서는 냉각수와 자원개발, 전력 소비 문제로 환경 파괴, 수자원 훼손, 농작물 피해 등이 이어졌다. AI 상용화 초기부터 데이터상의 차별 문제와 AI의 운용상의 심각한 위험성 등이 제기되어왔지만 대부분에 기업과 주요국들 정부들은 이런 위협보다 기술 혁신 이후의 미래에 긍정적인 입장이다.

아니 오히려 UN 전임 관계자들의 견해는 일부 국가의 불량하고 위협적인 지도자가 기술을 악의적으로 이용할 우려가 있으므로 그러한 가능성이 발견될 시 무제한 폭격이 가능한 제도를 마련해야 한다는 강경한 논조를 취하고 있는 실정이다. 1984식의 파시스트적 집행을 취해야 하는 경우의 수까지 고려해야 한다고 말이다. 과거 출간되었던 박영숙 님의 [세계미래보고서 2024-2034] 가운데 [퓨처 이슈, 밀레니엄 프로젝트: 인공 일반 지능 시대를 준비하는 법]이란 장에 기록되어 있는 내용이다.

세계는 이미 전 방위적으로 전체주의화를 향해 나아가고 있다. 공산국가는 이미 전체주의를 완결하였고 민주주의 국가들에서도 거듭 역사와 체제 퇴행적인 시도가 이어지고 있다. 타 국가들에서는 부정선거에 대한 국민의 처단으로 갓 선거가 끝나 취임한 대통령이 퇴임하거나 대대적인 선거가 다시 시행되어 재투표가 이어지며 각국 정권과 정당이 전복된 국가들도 즐비하다. 이 이전에 이미 민주주의 국가 연합인 유럽의 덴마크에서는 축산업자들의 토지를 강제 매각하고 그들의 사유재산인 소들을 환경 파괴라는 이유를 들며 3분의 1을 도살하려다가 축산업자들의 강경한 저항으로 법안 자체가 폐기된 사례가 있다. 민주주의 국가에서 개인 토지와 개인 재산을 강제로 처분하여 환수하고 감소시키려 시도한 경우이다. 이미 이는 민주주의도 아니며 자본주의도 아닌 제도로 나아가려 시도했던 거라는 말 밖에 되지 않는다. 환경 문제는 앞으로도 더욱 대중이 주목하도록 유도될 것이고 앞서 말한 이런 시도도 지속될 것이다. 그럼 언젠가는 대중도 그와 같은 개인들에게 “너희는 어떻게 너희 생각만 하니? 환경을 생각하고 인류를 생각해!”라며 강제하려 들게 될 가능성도 적지 않다.

세계는 전체주의식으로 강경해져 가고 있는 실정이다. 블록체인이나 암호화폐, CBDC 등이 편리와 개선인 듯 호도되고 있으나 개인에게 주어지며 사용기한 설정, 용도 제한 등이 어우러지면 초대량 실업자가 초래될 미래엔 대대적인 민중 통제의 기능을 하게 될 가능성이 극도로 높아진다. 게다가 환경주의와 결합해 탄소발자국 추적 시스템과 결합한다면 일상 전반이 통제의 대상이 된다. 팬데믹 시국의 제재와 통제를 경험해 보셔서 알겠지만, 이동과 출입과 거래 전반 등 모든 일상 통제가 가능해진다. 가능이란 말을 사용했지만 가능의 영역이 아니라 피할 수 없는 미래가 될 수 있다. 이미 제주도에서는 자전거 이동으로 15분 내에서만 생활 가능하며 그 밖으로는 이동할 수 없도록 제재하는 ‘15분 도시제’를 시범 운행하려던 전적도 있으며 세계 각지에서 ‘15분 도시제’라며 팬데믹이 아닌 일상 시국에서도 이동의 제한까지 시도하는 실정이다. 전체주의 세계상이 세계 주도층이 그리는 미래일 가능성이 압도적 절대적으로 높다.

인공지능의 계발로 그 인공지능의 상식이랄 수 있는 데이터에 대한 제재만 하면 시민사회의 상식이 바뀐다. 시민사회의 의도된 합의가 유도 가능한 것이다. 이런 AI의 계발을 현재는 밀실에서 소수의 엘리트와 투자자들이 결정하고 있는 것이다. 이는 기술자본주의가 새로운 형태의 기술 봉건주의화 되어 가는 과정임을 말해준다. 민주적 통제랄까 제도 운영 기능의 상실을 불러오게 되는 것이다.

AI 제국에서는 데이터 역시 개인 소유권이 희미해진다. 우리의 일상적 선택은 수집되어 우리에 대한 맞춤 알고리즘을 축적한다는 명분으로 분석된다. 이런 데이터는 그 어느 리서치 보다도 개인에 대한 판단과 평가가 정확하다고 한다. 우리의 선택과 우리의 창작물은 바로 우리 자신이다. 우리 몸에 DNA를 우리와 분리할 수 없듯 우리와 관련한 데이터 역시 우리 자신의 연장선인 것이다. 이에 대한 데이터 주권 인식을 바로 하지 않는다면 우리는 의식하지 못한 채 통제당하며 우리의 창작물마저도 AI 제작 기업과 운영기업의 사유 재산화되는 상황을 막을 수 없게 된다.

이런 상황이라면 우리 개개인이 사우스 국가의 저임금 노동자와 같이 전락하여 저임금마저도 받지 못하고 받아야 한다는 걸 인식조차 못 하며 의식 못하는 새 도구화되는 상황을 맞이할 수 있다.

이런 문제들은 저자가 에필로그에서 언급한 투명성을 정립하는 것이 무엇보다 우선해야 가능할 거라 생각된다. AI 기업이 AI 모델 학습에 사용된 데이터의 출처를 명확히 공개하도록 강제하고 이에 사용되는 전력 즉, 탄소와 수자원 발자국을 명확히 밝히는 과정이 필요할 것이다.

또 데이터에 관해서는 자료 수집 출처를 명확히 해서 데이터 창작자의 권리를 보호하도록 저작권에 대한 인식과 부상의 체제와 제도를 명백히 완성해야 할 일이다. 데이터를 수집하여 조금 재가공해서 원작자의 권리를 침해하는 바가 절대 없도록 합의되고 명료한 검증 시스템도 갖출 필요가 있다.

미국의 AI에 대응해 유럽과 한국에서는 강력한 AI보다는 신뢰할 만한 AI를 계발하려 노력하고 있다. 이제 성장 중심 AI 체제에서 책임과 신뢰 중심으로 AI 체제가 전환되어야 할 때이다.

그리고 향후 안드로이드 로봇(피지컬 AI)과 AGI 시대에는 부의 창출은 한계비용이 0으로 수렴되어 AI 자체만으로 부의 창출이 가능한 상황이다. 한마디로 인간이 부의 창출에 기여할 여지가 없다는 말이다. 이미 회계와 법률 부문에서도 신입을 뽑지 않고 있으며 프로그래머와 IT계에서는 신입을 안 뽑는 것만이 아니라 퇴사가 이어지고 있다. 기존의 코딩 자체를 전문가인 프로그래머가 아니라 비전공자가 바이브 코딩한 것으로 대부분의 코딩을 대체하고 있다고 한다. 전문가들은 코딩을 하면 각 코딩을 다시 보며 재확인을 하고 응용과 활용면에서 오히려 시간 정체만 된다고 한다. 그래서 IT기업들은 비전문가가 바이브 코딩한 걸 더 선호하는 추세이다. 이따위면 전문성 자체가 필요 없는 시대로 전향되고 있는 것인지도 모른다.

인간에게 요구되는 것이 더는 입력된 지식도 아니겠지만 그렇다고 사유하는 사고력과 논리력도 아닐 것이다. 그렇다고 사고력과 추론 능력을 인간에게 요구하지 않겠느냐고 해석하려한다면 이 얼마나 코미디인가? 인간이 어떻게 사고력과 추론 능력에서 AI를 더 나아가 AGI를 능가할 수 있다는 말일까? 뉴럴링크 기술이 앞으로 인간의 뇌를 강화한다고 해도 인간 뇌의 뉴런에서의 전기 전달과 시냅스 상에서의 화학물질 전달 속도에는 내재적인 한계가 있다. 이를 강화한다고 해도 내재적인 한계를 얼마간 초월할 뿐, 인간으로서의 한계를 완전히 추월할 가능성을 찾기는 어려울 것이다. 게다가 곧 AI는 양자컴퓨터에 탑재될 것이고 그 자체만으로도 넘을 수 없는 4차원인데 AGI는 자신의 하드웨어와 소프트웨어를 거듭 업그레이드하다가 더 초월적인 존재로 존재적 차원에서 차원 자체를 초월하고 말 것이다.

인간은 여기서 1단계로 기술 봉건주의 체제를 미연에 방지해 민주적 통제권을 잃지 않는 방안과 개인의 데이터와 창작물에 대한 권한을 갖는 데이터 주권과 보상 방안, 그리고 AI 기업의 데이터 활용에서 출처를 명확히 하는 투명성과 책임을 법제화하는 방안을 구체화해야 한다. 그리고 나아가 최종적으로 인간 존재의 의미를 새로이 재정립하는 과정을 거쳐야 할 것이다. 쓸모가 아닌 살아있음을 만끽하는 존재, 즐기고 향유하는 바에서 존재 의미를 찾는 ‘향유하는 인간’, ‘만끽하는 인간’으로서 존재의 의미와 의의를 재정립하는 과정이 필요할 것이다.