AI는 누구를 위한 것인가? 정당한 목표 없는 경쟁을 물으며;
지금 벌어지는 AI 기업 간의 과열 경쟁은 단지 그들 기업의 문제에 그치지 않는다. 일종의 군비경쟁(arms race) 구조가 이들 산업주체들의 전략적 경쟁논리가 됨으로써, 이를테면 1960년대 미소간의 핵무기 경쟁처럼 이 정도면 충분하다는 판단에도 불구하고, 경쟁자가 더 큰 모델을 훈련하면 뒤처질 위험이 있다고 생각되어 ‘더 큰 GPU, 더 큰 데이터 센터(Data Center)’가 되고 만다. 이것은 사회 전체에서 보면 전혀 최적(最適)이 아니다. 이것을 경제학에서 ‘집합행동의 딜레마’라고 부른다. 각 행위자는 합리적으로 행동하지만 결과는 비효율적인, 즉 현재 투자 규모가 미래 전망에 의해 정당화되는 실제 수익보다 큰, 수요보다 기대가 먼저 움직이는 과다한 낭비이다.
<현대의 고전이 된 AI 윤리비평 >
AI의 미래 가치가 이미 현재 가격에 과도하게 반영된 것이 아닌가하는 물음이 요구되는 것이다. 이것은 산업부분의 과잉투자에 대한 비합리성에 대한 우려이지만, 이 불합리성으로 인해 인간사회 전반에 전가되는 비용 부담의 문제가 대두된다. 기대되는 미래가치를 가격에 반영하면서 소비자 대중은 그 비효율적 비용을 떠안아야 하고, 더구나 기술 편익을 누리는 사람과 비용을 부담하는 사람이 전혀 다른 존재이기에 지금의 AI 경쟁은 인류 자원의 측면에서 어떤 조건에서 AI 데이터센터를 건설할 것인가라는 문제를 제기하게 된다. 한국 사회는 지금 마치 AI가 모든 사회구성원을 위한 무조건적 당위인 것처럼 행동하고 있다. 나아가 과열 양상의 AI 산업에 그 어떤 면밀하고 세심한 도덕적, 정치적 고려도 없으며, 집합행동의 딜레마를 인식조차 하지 못하는 형국이다.
AI관련 연구나 저술들도 획일적으로 AI의 장밋빛 그림이나 그저 효율적 사용방법에 맞춰져 있고, 더구나 AI에 대한 여하한 문제의 제기도 대세에 낙오된 자의 푸념정도로 치부하는 듯하다. 그렇다보니 제대로 된 AI 산업과 관련하여 예견되는 각양의 형태에 대한 숙고가 이루어지지 못하는 실정이고, 이러하다보니 그저 AI데이터 센터 건설이나 관련 산업으로 인해 야기되는 문제는 아예 고려대상도 되지 못하고 있다. 이렇게 한국 사회의 관련 연구가 멸종하다시피한 반면에 미국을 비롯한 유럽의 AI 연구자들은 AI 기술의 현재가치 평가와 미래 세대 비용의 문제, 향후 50년 뒤에도 지금의 선택을 정당화할 수 있는지의 문제, 경쟁적 인프라 구축의 경쟁적 투자의 문제, AI의 인류사회에 대한 편익(효용)의 문제, 기술의 가능성이 그 기술의 실행이어야 하는가와 같은 기술적, 정치적 연구와 논의가 학계와 정책 분야에서 뜨겁게 논의되고 있다.
"우리는 정말 필요한 만큼의 AI를 만들고 있는가,
아니면 경쟁 때문에 과잉투자를 하고 있는가?"
AI가 필요한가? 라는 이미 떠난 기차의 문제 제기가 아니다. AI를 위해 지금 소비하는 자원이 현재는 물론 미래의 인간들에게도 정당화될 수 있는가? 라는 인류 사회에 대한 ‘책임의 문제’에서 출발하는 것이다. 다시 말해서 AI 개발 목표가 생산성 증대가 아니라 인간의 복지와 지속 가능성이어야 한다는 입장에서 기술 자체보다 어떤 사회를 위해 AI를 만들 것인가를 물어야 한다는 것이다.
<AI 의 숨겨진 비용을 예리하게 분석한 명저>
대중들은 AI를 이제 멈출 수 없는 것이라고들 말한다. 하지만 대중문화와 기술을 역사학 시점에서 재해석하는 하버드 역사학교수 질 레포어(Jill Lepore, 1966~)는 『인공人工 국가의 흥망(The Rise and Fall of the Artificial State)』(2026.8)이라는 조지오웰의 분위기를 흠씬 풍기는 최근 저술에서 AI기술이 어떻게 “전 세계 민주주의를 부식시키고 인간 공동체와 자치 능력을 파괴“했는지를 설명하면서 AI 국가의 등장은 결코 피할 수 없는 운명이 아니었음을 보여주고 있다. 이 여정에서 봉건주의 파시즘, 노예제와 같은 끔찍한 체제들도 결국 해체되었듯 AI 체제도 해체될 수 있다고 단언하고 있다. 이러한 반(反)AI체제 논의도 있지만, 지금 제기하고자 하는 물음은 ‘AI체제라는 새로운 기술문명이 지금의 가공할 만한 자원 사용을 정당화할 수 있는 것인가’이다. AI와 거대 기술기업들이 국가 정책에 막강한 영향을 행세하고 있음을 우리는 목도하고 있다. 이들 기업은 당해 산업의 헤게모니를 장악하는 것이 국가 의지라도 되는 양 민주주의와 공공성을 압도하고, 나아가 잠식하고 있기까지 하다. 이제 물음의 본질을 생각해보자.
미국 내 인디언 부족연합체인 체로키 네이션은 부족 소유지 내 AI 데이터 센터 건설을 금지하고, 부족 영토 내 다른 부지의 개발에 대해서도 사전 협의를 요구하는 정책을 채택했다. 그 이유는 에너지 소비, 물(用水) 사용, 대기·소음·빛 공해, 문화유산 보호, 지역 사회가 ‘획득 가능한 실질적 이익’에 대한 의문 때문이었다. 여기에는 그네들의 전통적 숙고의 원칙인 ‘이로쿼이 7세대 원칙(Seventh Generation Principle)’이란 것에 사유의 뿌리가 있다. 즉 ‘오늘의 선택이 7세대 후손에게 어떤 영향을 미칠 것인가?’라는 물음을 정책의 기준으로 삼는 것이다. 대략 정책 결정으로부터 200년까지 미칠 영향에 대해 생각하고 결정하는 것이다. 그러나 이 물음은 아주 단순하다. 지역 사회가 감당해야하는 물, 전기, 토지에 비해 AI 데이터센터로부터 지역사회가 얻는 효용은 무엇인가라는 것이다.
막대한 전력 소비, 대량의 냉각수 사용, 소음 및 빛 공해, 생태계 압박, 상대적으로 제한적인 고용효과, 자원소비 대비 경제 기여가 턱없이 불균형을 이룬다는 것이다. 물 거버넌스(governance)는 민주성을 약화시키는 가장 원초적 문제를 야기한다. 물 사용량 증가와 더불어 공공요금 상승, 지역 물 공급 약화 등을 초래한다. 특히 막대한 전력 소비는 급격히 증가할 가능성이 더욱 크며, 이는 지역 전력망 부담, 전기 요금 상승, 발전소 증설 압력으로 연결된다. 실제 이러한 요구가 한국사회에서도 발생하고 있으며, 국가 정책에서도 우선 논의될 정도이다. 또한 데이터센터가 유치되면 지역 경제가 살아날 것이라고 부추기지만, 최근 연구에서는 그 경제효과가 해당 지역에 남는가? 로 바뀌어 실제 운영상태에서는 고용효과가 극히 작을 뿐 아니라 수익은 당해 기업의 본사로 집중되어 지역 경제에는 상대적 부담만 가중된다는 것이다.
이렇게 가시적인 자원 효용과 배분의 문제에 그치지 않는데, 지역민이 감수하여야 할 희생에도 불구하고 최소한의 의사결정에 참여하는 것 자체가 봉쇄되어 있어 민주주의 공동체 유대를 훼손한다는 것이다. 정보 비공개, 불투명한 협상, 사후 통보 등 절차 적 소외가 중요한 문제로 지적되고 있다. AI 데이터센터를 반대하자는 것이 아니라, 어떤 조건에서 건설할 것인가가 중대 고려사항이 되어야 한다는 것이다. 재생에너지 사용의무, 물 재활용시스템, 지역전력망 투자, 지역사회 이익공유, 환경영향 공개, 주민동의 절차 등이 절대적으로 요구되어야 한다는 점이다. 한국 정치사회는 이러한 법제도가 구축되지 못한 상황이다. 이렇게 기초적 법규와 체제가 미비한 상태에서 거대기업의 건설행위가 추진되고 있기에 각 지역마다 갈등이 심화되고 있다.
투자수익자가 비용은 타인에게 떠넘기고 과실만 챙기려는 현재의 AI기업들의 체리피킹식 행태는 바뀌어야 하는 것이며, 나아가 데이터 주권과 AI정책의 수립에서 단지 적극적이기만 할 것이 아니라 필수적으로 반영되어야 한다는 것이다. 물과 전기, 토지와 생태계의 비용은 나 몰라라 하고서는 지역민, 다른 공동체, 미래 세대에게 부담을 떠넘기는 작금의 거대기술 기업들의 행태에 대한 절대 교정(矯正)이 있어야 하는 것이다. 누가 이익을 얻는가? 50년 뒤에도 이 선택을 정당화할 수 있는가? 현대 기술 문명에 대한 이 같은 정치철학적 질문 없이 행위가 앞서는 지금의 AI 국가 정책과 기술기업의 행보는 시정되어야만 하는 것이다.
하고자 하는 말은 AI가 나쁘다고 말하는 것이 아니다. 인류 자원을 지금과 같이 소비할 만큼 중요한 목적이 무엇인지 먼저 증명하라는 것이다. 실제 오늘날 건설되는 엄청난 수의 AI데이터 센터와 이를 추진하는 거대 기술기업들, 그리고 사회 전체가 이 질문에 충분히 답하지 못하고 있다. AI가 인류사적 전환점이 될 가능성은 그다지 크지 않다는 것이 미국 및 유럽 대다수의 학계, 전문가들의 진단이다. 현대의 투자 규모와 자원 투입이 그 목적에 비례하는지는 짙은 의혹으로 남아 있다. 철학자 한스 요나스(Hans Jonas, 1903~1993)는 대표저술 『책임의 원칙』에서 “현대기술의 파괴적 힘에 맞서 미래 세대와 자연환경까지 책임져야 한다는 생태학적 책임 윤리”를 주장했다.
<오늘 맞이하고 있는 기술은 현재의 도덕만을 말하는 전통 윤리로는 대응할 수 없다.
완전히 새로운 미래의 문법을 지닌 AI는 새로운 윤리로서 '책임의 윤리'로 확장되어야 한다>
AI가 필요한가? 라는 물음에 앞서 우리는 AI를 위해 지금 소비하는 지구(생태)자원이 현재와 미래의 인간들에게도 정당화될 수 있는가? 라는 질문을 해야만 한다. 이 선행되어야 할 질문도 없이 자본과 개발기술의 사용 논리에 압도된 자본헤게모니 쟁탈이 진행되다보니 윤리와 인류 복지와 정치적 문제를 건너뛰고 진행되는 기이한 양상이 되어버렸다. 데이터센터가 소비하는 막대한 전력은 누구의 자원인가? AI가 창출하는 생산성 증가는 누구에게 귀속되는가? 환경 비용은 어느 지역과 세대가 부담하는가? 기술 경쟁은 실제 인간의 복지를 증진시키는가, 아니면 경쟁 자체를 위해 계속 확장되는가? 이런 질문들은 기술공학보다는 정치철학, 환경윤리, 경제사에 가까운 질문들이다. 이 질문들을 기술기업이나 기술공학자들로부터 빼앗아 지금이라도 경제학자, 정치학자, 생태학자, 철학자, 역사학자들이 머리를 맞대고 이 사회의 AI체제에 대해 그 근원부터 다시 숙고해야 할 것이다.
"AI는 구름(cloud)이 아니라 광산(mine)에서 시작된다"
- Kate Crawford, 『The Atlas of AI(AI 지도책)』
AI의 숨겨진 비용부터 다시 조사하고 연구해야 한다. 한국사회의 학계와 관련 연구자들은 이 중대한 과제를 방기해서는 안 된다. 서구 학계는 'AI의 생애 주기에 대한 연구'가 중대하게 수행되고 있다. 사용 자원이 AI 잠재적 이익을 훨씬 상회하고 있음을 경고하는 목소리들이 무수히 들려온다. 또한 어떤 사회를 위해 AI를 만들고 있는지를 물어야 하며, 그 정당한 목표를 설명할 수 있어야 한다. 군사목적인지, 테크노크라트의 사회를 통한 권력의 쟁취인지, 자본이라는 재화에 대한 끝없는 탐욕인지, 이것이 아니라면 대체 무엇인지 답 할 수 있어야 한다.
<인공 국가(Artificial State) 부상의 성급함과 무모함에 대한 독보적 비판서>
이러한 연구 결과물중 AI 윤리비용을 추적하는 케이트 크로포드(Kate Crawford, 1974~)의 『The Atlas of AI(AI 지도책)』 는 단연 돋보인다. AI 관련 윤리의 많은 연구들이 알고리즘의 공정성 문제에 한정되어 AI 체제 전체에 대한 물음이 없었다. 마이크로소프트 수석연구원출신의 이 호주인 AI 연구가는 AI를 단순 기술로서가 아니라 자원, 노동, 데이터, 권력이 얽힌 거대 산업체계로 분석한다. 그래서 AI 윤리는 단순한 기업의 자율규제나 ‘착한 알고리즘’의 문제가 아니라, 환경 정의·노동권·데이터 권리·민주적 통제를 함께 고려하는 정치적 과제가 된다. 특히 크로포드는 AI를 자동화된 시스템이라기보다는 데이터의 분류와 검열이라는 보이지 않는 노동의 문제로 보고 있으며, 수집된 이미지와 개인정보, 무수한 데이터 산업으로 간주하고 있다. 결국 “AI는 혁신 기술이라기보다는 자원 추출과 노동 통제, 데이터 수집, 권력 집중을 통해 작동하는 자본주의 체계”의 총아일 뿐이라고 해부하고 있다.
오늘날 AI 기업들이 사용하는 '클라우드', '가상공간', '지능' 같은 표현은 마치 AI가 비물질적인 것처럼 들리게 하지만, 크로포드는 그 뒤에 있는 광산, 발전소, 데이터센터, 공급망, 그리고 인간 노동을 보라고 요구한다. 이 점에서 『Atlas of AI』는 앞서 언급한 AI 데이터센터 건설 경쟁에 대한 의문과도 맞닿아 있다. 즉, 문제는 ‘AI가 유용한가’가 아니라, 그 유용성을 위해 어느 정도의 토지·전력·물·희귀광물·인간 노동을 소비하는 것이 정당한가라는 질문이다.
크로포드의 이 책은 매우 흥미로운데, 기술윤리서이면서도 생태철학과 정치경제학의 성격을 강하게 띠고 있다. 때문에 크로포드의 이 연구 결과물은 기술 비평서이며, 21세기 디지털 산업의 ‘환경사(環境史)’이자 ‘자원사(資源史)’라고까지 말 할 수 있다. AI는 무엇을 먹고 자라는가? 라는 이 원색적 질문을 회피해서는 그 세계 속에 살아가는 인간 삶의 미래를 말 할 수 없게 된다. 우리사회는 장기주의적 관점을 잃어버린 듯하다. 정부나 기업이나 학계와 시민대중에 이르기까지 눈앞의 편리에 어마어마한 인간의 삶을 그저 내버릴 가능성은 없는지 늦었다고 생각하는 지금 다시 사유해야 한다. 기술이 가능하다는 사실만으로 그것을 해야만 하는 이유가 되지 못한다. 지금은 기술적 사실만으로 정치, 윤리, 인류경제를 모른 체하고 질주하고 있는 형세이다. 할 수 있다면 해보자라는 이 무식한 도전이 아무것도 가진 것 없을 때는 용기가 될 수 있다. 하지만 오늘의 한국사회는 그런 저급한 사회가 아니다.
주장하고자 하는 것은 반(反)AI, 반(反)기술주의가 아니다. AI산업이 한국 사회의 국민경제의 중심축이라는 것을 부정하는 것이 아니다. 분기실적과 주가 중심의 경제시스템만으로 체제를 이해하는 정책은 정말 우려스러운 것이다. 체로키 인디언의 이로쿼이 7세대 원칙은 시간의 척도를 현재에서 그보다 훨씬 긴 시간축, 미래를 상상하게 한다. 또한 수익자와 비용 부담자의 편익을 고려해야 한다는 매우 기본적인 물음을 해야 한다는 것이고, 그것은 절차, 즉 이 사회 구성원의 삶과 미래 세대의 삶을 고려하는 윤리적 물음이 전제되어야 한다는 것이다. 그랬을 때 AI는 우리들의 삶과 연결되어 더욱 아름다운 구상이자 목표가 될 수 있다는 것을 말하려 함이다. 현대 기술은 과거에 비해 훨씬 미래에 영향을 미친다. 책임의 범위도 그 만큼 길어져야 하는 것이다. 집단행동의 딜레마에서 빠져나오면서 우리만의 길을 만들기 위한 방법을 모색해야 한다. 우리가 간과한 것들을 지금이라도 하나씩 짚어보는 과제에 학계와 관련 전문가들이 관심을 가져야 하지 않겠는가? 우리는 이제 남의 뒤 만을 따라가는 과거의 후진사고에서 벗어나야 한다.
