2023년 9월 미국 국회의 AI 청문회에 참석한 컴퓨터 과학자 '데보라 라지'는 증인으로 출석한 사람들 중 AI 업계와 재정적으로 관계를 맺고 있지 않은 사람은 자기 하나 뿐이라는 사실을 발견했다.
그 자리의 대부분은 샘 올트먼(오픈AI CEO), 일론 머스크(테슬라 CEO), 사티아 나델라(마이크로소프트 CEO), 빌 게이츠(마이크로소프트 창업자), 마크 저커버그(메타 CEO), 선다 피차이(구글 최고 경영자), 잭 클라크(AI 기업 엔트로피 창업자)를 필두로 여러 빅테크 기업의 임원들이 채우고 있었다.
라지는 빅테크 기업 임원들이 AI의 약속과 위험에 대한 근거 없는 화려한 주장을 늘어놓으며 중간 중간에 시의적절하게 중국과의 경쟁에서 이겨야 한다는 말을 양념처럼 뿌리고, 그럴 때마다 그 자리에 참석한 상원의원들이 귀를 기울이는 것을 지켜보았다. 무엇보다도 라지가 가장 충격받은 부분은 청중들 중 많은 이들이 빅테크 임원들의 말을 곧이곧대로 믿는 것처럼 보였다는 것이다.
그는 옆에 앉은 빅테크 임원들과 그들의 거대한 정책팀들이 너무도 오랜 시간 워싱턴 내 메시지를 독점한 나머지 이제 정책결정자들이 그들의 말을 복음처럼 떠받들게 되었다는 사실을 깨달았다.
라지는 말한다. "그 자리를 통해 저는 정말 큰 깨달음을 얻었어요. 이런 사람들이 하는 말을 듣고 나서 '사실 현실은 그보다 훨씬 더 복잡합니다.'라고 말하는 사람들이 훨씬 더 많이 필요하겠다는 생각이 들었습니다."
그렇다. 이 말이 바로 내가 하고 싶은 얘기였다. 내가 오랫동안 여러 편의 AI 책 리뷰를 올리고, 주변 사람들에 AI 이야기를 떠들고 다닌 가장 큰 이유는 바로 이 말을 하고 싶었기 때문이다. '현실은 그보다 훨씬 더 복잡합니다.'
알파고가 이세돌을 꺾고 세상이 인공지능으로 떠들썩 할 때, 현직 프로그래머였던 나는 속으로 혼자 의문을 품었었다. '알파고가 진짜 인공지능이 맞는건가? 일반 컴퓨터 프로그램과 뭐가 다른 거지?' 먹고 살기 바쁜 처지에서 그 의문을 금방 잊었지만, 사법부의 행태에 실망한 많은 사람들이 'AI 판사'를 외치는 모습들을 보면서 그 의문을 다시 떠올리지 않을 수 없었다.
내가 볼 때 바둑과 재판은 전혀 달랐다. 경우의 수가 아무리 많아도 집 수가 많으면 이긴다는 한 가지 규칙을 가진 바둑과 법규를 원용하고 사회를 반영하여 사람의 삶과 생명을 판가름하는 재판은 결코 같을 수가 없었다. 재판은 게임이 아니었다. 생명을 다루는 일이었다.
그렇지만 나는 인공지능에 대해 아는 것이 아무것도 없었다. 미디어에서 인공지능에 대해 떠드는 이야기들은 찬양 일변도의 미래 세계 이야기들이 거의 대부분이었다. 개연성 떨어지는 엉성한 SF 소설 같은 이야기들 일색이었다. 나는 인공지능의 원리를 알고 싶었다. AI는 정말 인공지능일까?
'비전공자도 이해할 수 있는 AI 지식', '인공지능과 딥 러닝', '기계는 어떻게 생각하고 학습하는가' 등 나는 AI의 원리를 쉽게 설명한 책들을 찾아 읽기 시작했다. 책들을 찾아 읽을 수록 나는 인공지능이 지능이 아니라는 생각이 굳어졌다. 거칠게 말하면, AI는 데이터 패턴 분석이었다.
그런 생각이 강해지면서 나는 이른바 학자, 전문가와 언론인이라는 사람들에게 많은 회의와 의심을 품기 시작했다. 그들이 미디어로 쏟아내는 말과 글은, 이런저런 현란한 어휘와 인문학적 사유로 포장했지만, 결국에는 빅테크 기업들의 홍보 문구의 변주일 뿐이었다. 저들은 자기들이 무슨 말을 하고 있는 건지 알고 있는 걸까? 저들은 나만큼의 의혹도 품지 않고, 천편일률 똑같은 말을 쏟아내고 있었다. 화려한 세상, 찬란한 미래.
그럴수록 나는 더 많은 책을 찾아 읽었다. 그러다가 만난 책 'AI 지도책'은 인공지능에 관한 나의 생각을 확장시켜 주었다. 이전까지 AI가 지능이 아니라는 생각에만 꽂혀있던 나는 AI 판타지 뒤에 그보다도 훨씬 더 중요하고 심각한 문제들이 도사리고 있음을 알게 되었다.
인공지능 학자 케이트 크로퍼드가 지은 AI 지도책은 지능이 무엇인가라는 존재론적 질문에서 시작하여, 지구적 차원의 자원 추출, 인공지능을 떠받치는 인간 노동과 착취, 무분별한 데이터 유출과 감시 자본주의, 편견과 차별의 확대, 부정확한 지식의 확산, 국가 권력의 도구화, 무책임성 등 AI 산업이 갖고 있는 여러 문제를 지적한 뒤 묻는다. AI는 누구의 이익에 봉사하는가?
이 책을 접한 이후로 나는 AI를 좀 더 넓은 관점에서 살펴보게 되었다. 그 후로도 'AI는 인간을 먹고 자란다', '데이터 그랩', '박태웅의 AI강의', '천개의 뇌' 같은 책을 읽으면서, 그리고 이 책, 'AI 제국:권력, 자본, 노동'을 읽으면서 AI 뿐만 아니라 이 테크놀로지 세상이 안고 있는 편견과 위험에 대해서 더 많은 생각을 하게 되었다. 빅테크 기업들과 미디어들이 보여주는 깨끗하고 하얀 무균실의 영화 같은 인공 지능의 모습 뒤에서, 아래에서, 먼 곳에서 벌어지고 있는 자연과 사람의 실제 세상에 대해 생각하게 되었다.
물론 내 얘기가 진실은 아니다. 세상은 복잡하다. 테크놀로지의 변화는 번개 같다. 누구도 따라잡기 쉽지 않다. AI 산업의 종사자들도 서로 다른 생각과 서로 다른 예측을 하고 있다. 이 AI 세상에서 내일 무슨 일이 벌어질 지는 아무도 모른다. 하물며 AI 산업과 아무 관련도 없고, 수학 한 줄 모르는 내가 AI에 대해 얼마나 정확히 알겠는가? 내가 하는 얘기는 그저 내가 진실이라고 믿는 얘기일 뿐이다.
그럼에도 나는 이것만은 명확하게 단언할 수 있다. '현실은 저들이 말하는 것보다 훨씬 더 복잡하다. 그리고 추하다.'
