하나의 유령이 전 세계를 배회하고 있다. AI라는 유령이...

AI 제국: 권력, 자본, 노동 - 샘 올트먼과 오픈AI의 빛과 그림자
카렌 하오 지음, 임보영 옮김 / 생각의힘 / 2026년 2월

매우매우매우 재밌게 읽었다. ai 관련 책들이 우후죽순으로 쏟아져 나오고 있는데 개중에서 뭘 읽어야 할지 잘 모르겠다면 아묻따 이 책부터 읽어보시길. ‘오픈AI’ 탐사기다. 생성형 인공지능의 대중화의 포문을 연 회사의 발자취를 따라가면서 테크업계 안팎의 파벌과 이슈에 감잡을 수 있다. 샘 올트먼 축출 사건을 프롤로그로 삼았는데 책 전체를 읽고 나면 그 사건의 진의가 보인다. 샘 올트먼은 나르시시스트다. 회사 이익보다 개인의 이익을 더 우선시하며 자기 입맛대로 사람을 굴리기 위해 이간질도 서슴치 않는다. 근데 문제는 이게 당한 사람들만 알 수 있는 미묘한 지점이라 공개적으로 논하기는 거시기해서 결국 샘 올트먼은 왕좌에 복귀하고 만다.

책은 우선 통제광 머스크와 젠틀한 올트먼이 손을 잡고 오픈AI를 차리는 것부터 시작한다. 인공지능 산업은 1등 아니면 무의미한 업종인데 나쁜 놈들 손에 이 기술이 들어가면 세상이 망하기까지 한다. 그래서 둘은 인공지능의 혜택이 모두에게 공평하게 돌아가는 정의를 실현하기 위해 자기들이 선두에 서기로 한다. 마치 돈 욕심 없어 보이는 ‘비영리 조직’이란 틀을 쓰고. 대외적으로는 그럴싸 한데 실은 그냥 지들 입맛대로 판을 (다시) 짜고 싶었을 뿐이다. 액수에 집착하지 않을리가 있나. 지금 인공지능 산업은 폭주기관차다. 신규/기존 투자를 유치하려면 성과가 있어야 한다. 돈을 최대한 끌어와야 한다. 일단 수급이 몰리고는 있다.

인공지능을 발전시키려면 학습 자료인 데이터 세트가 있어야 하고, 연산 능력이 개선되어야 하며, 그걸 감당할 수 있는 슈퍼 컴퓨터와 데이터센터가 있어야 한다. 또한, 인공지능이 엇나가지 않게 사람의 노동, 데이터 어노데이션도 필수다. 승자 독식의 산업계에서 살아남으려다 보니 질서, 도덕을 따질 새 없이 일처리가 진행되곤 한다. 인공지능 학습 자료에 저작권법을 어겼거나 질이 낮은 데이터 세트가 포함되기도 하고, 상대적 빈국에 대충 기부금 던져주고 광활한 자연을 파괴하여 데이터센터를 짓는가 하면 케냐, 베네수엘라 같이 저임금이어도 노동자가 몰리는 나라를 골라 저질스러운 이미지 가려내는 작업을 시킨다.

큰일을 도모하기 위해서는 어쩔 수 없단다. 데이터센터는 반드시 효율을 높일 것이며, 생성형AI가 기후문제의 방안을 마련할 것이고, 언제가는 도래할 AGI가 모든 문제를 단번에 해결할 것이란다. (강림하신 AGI가 인간에게 미쳤냐, 카운트다운이 끝나가는데 생각해낸 게 겨우 인공지능이냐, 인공지능은 너무 비효율적이다, 인간이 살 수 있는 지구를 유지할 아이디어는 있어도 그동안 기계 개발하느라 자본과 자원을 때려박아서 실행할 방법이 없다라는 결론을 내리면 세상은 어떻게 될까?) 재밌는 게 인공지능 산업 내부에서도 비관론자 두머(doomer)과 낙관론자 부머(boomer)로 나뉜다. 어느 쪽이든 자기네가 먼저 AI를 개발해야 한다는 생각을 가지고 있다. 안 그러면 세상은 망한다고. 두머는 효과적 이타주의(EA) 철학을 많이 참고하는데, 여기 발상은 선민의식의 끝판왕이다. “내가 잘 되어서 남을 도와야지.”

샘 올트먼이 치하하면서 말한 바인데, 오픈AI 내부에서도 위와 같은 파벌이 존재한다. 수츠케버를 선두로 한 탐색적 연구파, 아모데이 남매로 대표되는 안전파, 브로크만이 지휘하는 스타트업파. GPT의 더 나은 버전을 출시하기까지 회사 내부에서 이 파벌들은 많이 부닥쳤다. 나중에 아모데이는 이 회사와 결별하고 ‘앤트로픽‘을 차린다. 그리고 수츠케버는 나중에 올트먼 축출 사건에서 컴백 요청 받았다가 컴백 요청에 대한 취소 요청까지 받는다. 시간에 쫓겨 안전성 검사는 하는 둥 마는 둥 해서 안전파 사람들을 극대노하기도 했지만, 해보고 “아..씁…이건 공개치 않기로 결정했습니다.. 세상에 문제를 일으킬 여지가 많습니다…”라며 한 발 물러나기도 했다.

프랑켄슈타인과 달리 자기의 피조물의 위험성을 명확히 인지한 척, 컨트롤 할 수 있는 척 액션을 취한 것은 가히 감탄할 만하다. (근데 궁금점, ‘비공개 결정‘은 포장일 뿐 사실은 미완성 아닌가?) 오픈AI가 늘 고고하게 굴 수 있었던 건 아니다. 앤트로픽이 곧 챗봇을 공개한다는 소문에 못이겨 세상에 내놓은 게 chatGPT다. 이게 아주 일반인들에게 폭발적인 반응을 불러일으켜 나같이 인공지능 산업계에서 멀찍이 떨어져 있는 사람에게도 닿았는데, 챗지피티의 효과를 예상치 못한 오픈AI는 행정업무에 아주 애를 먹었다. 그전에도 API 신청 리스트 관리에도 명확한 기준이 없어 얼레벌레 굴러갔었던 ’작은’ 회사였기 때문이다.

생각보다 체계가 탄탄한 곳이 몇 없다. 세상은 요지경. 체계란 것도 과거의 헛짓거리에서 배운 것들을 바탕으로 쓸데없는 소모적인 과정을 쳐내고 일의 능률을 높이기 위해 세운 것인데, 변화무쌍한 AI 산업계에서 체계를 세울 시간이 어딨나? 업계가 어떻게 돌아가는지 파악할 수 있는 사람도 몇 없는 것 같다. 저마다의 목적이 있을 뿐. 그런 의미에서 저자에게 깊은 감사를 표한다. ’확률적 앵무새‘가 전해주는 말로 사태를 쫒아가다가는 가랑이 찢어진다. 인공지능의 헛소리를 ‘환각’이라고 하는데, (저자였는지 저자가 인용한 어떤 전문가의 말이었는지는 기억 안 난다) 이는 인공지능의 (해결 가능한) 단순한 ‘문제’가 아니라 (고유한) ‘특징‘이라고 꼬집는다. 그렇다고 해서 인공지능의 활약을 무시할 수 있는 처지는 아닌 것 같다. 이미 우리는 많은 도움을 받고 있다. 어쩌면 근미래의 인간의 교양은 인공지능의 헛소리를 구분할 수 있는 능력일지도. 일단 나는 관련 자료, 농담, 담론들을 부지런히 찾아서 읽어보려고 한다. 이러다간 언제나 한발자국 늦게 세상을 알아차리는 게 아닐지 걱정되긴 하다만.