인공지능 시대에 대한 정치학적 고민들

알고리즘의 정치학
박성원 외 지음 / 인간사랑 / 2021년 9월

이 책은 ‘인공지능 시대와 정치적 인간의 미래’, ‘알고리즘 민주주의: 가능성과 한계’, ‘인공지능 거버넌스: 자동화된 알고리즘을 어떻게 govern해야 하는가?’, ‘인공지능시대 정치과정의 변화: AI후보자의 선거출마와 AI정책결정이 가져온 변화’, ‘AI알고리즘 패권경쟁의 세계정치: 기술-표준-규범의 3차원 경쟁’이라는 5편의 논문을 엮은 책이다.

첫 번째 글인 ‘인공지능 시대와 정치적 인간의 미래’는 인공지능이 인간처럼 거의 동등한 능력의 지능적 존재로서 어려운 문제를 함께 풀어나가는 미래에, “인간은 어떤 문제를 정치적 문제로 간주할 것이며, 정치적 문제를 어떤 방식으로 풀어갈 것인지 예상” [p. 11]하고자 하는 글이다.

예를 들면, 인공지능 기자가 존재하면 이들에게 어디까지 표현의 자유를 허용하느냐는 문제가 제기될 수 있을 것이다. 인간 기자와의 형평성 문제도 고려해야 할 것이고. 이처럼 글쓴이는 인간, 기술을 적극 활용해서 신체의 변형/확대/증강을 이루는 다양한 형태의 트랜스휴먼, 인공지능, 인공지능이 만든 인공지능까지 네 종류의 지적 존재가 공존할 여러 가능성을 얘기한다. 그리고 그런 상황에서 어느 한쪽의 가치를 정상으로 판단하고, 이를 우선시할 경우 조직과 주체 사이의 대립은 불가피하다는 점도 언급한다. 결국 이를 해결하려면 정치적 인간이 여전히 필요한 존재임을 역설하는 셈이다.

두 번째 글인 ‘알고리즘 민주주의: 가능성과 한계’는 가치중립적인 인공지능 기술의 산물이라고 생각하기 쉬운 알고리즘에 대해 “알고리즘을 설계하고 통제하는 것이 권력 지배의 새로운 원천” [p. 38]이 될 수 있다고 경고한다.

정보통신의 기술의 발달로 의사결정을 위한 물리적, 공간적 제약이 완화되면서 미래 지향적인 열린 참여민주주의가 다가온다고 생각하기 쉽다. 하지만, 알고리즘에 의해 맞춤형 콘텐츠를 제공하는 과정에서 인간의 가치 판단이 개입된다는 점을 고려하면, 알고리즘 민주주의는 양날의 검이 될 수 밖에 없다. 알고리즘의 중립성을 보장할 수 있는지, 또 그렇다면 어떻게 보장할 것인지에 따라 인간의 미래는 유토피아도 디스토피아도 될 수 있기 때문이다.

세 번째 글인 ‘인공지능 거버넌스: 자동화된 알고리즘을 어떻게 govern해야 하는가?’는 인공지능과 관련된 기술(알고리즘, 데이터, 로봇)의 고도화와 이에 따른 기존 질서의 파괴적 혁신과 불확실성의 증대를 얘기하고 있다. 그리고 이들 기술이 상호 밀접하게 연결되어 있기에 어느 한 영역에 대해서만 규범체제를 구축하기 보다는 사회의 다양한 주체들이 수평적으로 협력하여 사회적 제도를 형성하는 거버넌스(governance) 또는 협치(協治)가 요청된다고 주장한다.

네 번째 글인 ‘인공지능시대 정치과정의 변화: AI 후보자의 선거출마와 AI 정책결정이 가져온 변화’는 먼저 “정치인이나 관료의 비효율성, 편파적인 정책결정을 극복하여 정치적 효율성 추구, 공정한 배분, 투명한 정치적 의사결정 수단으로 활용하기 위해서” [pp. 111~112] AI(인공지능) 정치가를 개발하자는 얘기를 하고 있다. 일본의 경우에는 2018년 AI 후보자가 선거에 출마했고, 뉴질랜드에서도 2020년 AI 후보자가 활동하고 있다. 하지만 아직까지는 AI가 보다 광범위하게 활용되는 정치분야는 정책결정 분야다.

“정치과정에서 AI활용이 점차적으로 증가하고 있다. 선거과정뿐만 아니라 정책결정과정에서 인공지능이 적극적으로 활용되고 있다. 특히, 일본의 지방자치단체에서 인공지능(AI)는 미래사회의 ‘지속 가능한 방안’ 마련에 적극적으로 도입되고 있다. 이러한 방식은 지역이 보유한 다양한 자원을 효율적으로 활용할 수 있는 정책제언이라는 점에서 매우 유용한 방법이다.

~ 중략 ~

지방자치단체가 생산한 다양한 데이터를 활용하여, 지역사회에 영향을 줄 수 있는 여러 가지 변수들을 고려하여 예상 가능한 모든 시나리오를 도출할 수 있다. 이러한 방법은 지역이 직면한 문제를 해결하는 최적의 수단으로 활용될 수 있다는 점에서 의미가 크다.” [pp. 142~143]

이러한 AI 후보자의 선거출마와 AI 정책결정은 현행 대의민주주의 정치체제의 한계를 AI기술로 극복하자는 정치적 실험이다. 동시에 “정치과정의 투명성, 합리성, 효율성, 시민들의 실시간 참여를 확장하는 새로운 민주주의 플랫폼 구축이기도 하다.” [p. 146]

다섯 번째 글인 ‘AI 알고리즘 패권경쟁의 세계정치: 기술-표준-규범의 3차원 경쟁’은 인공지능(AI), 빅데이터, 클라우드, 양자컴퓨팅, 사물인터넷(IoT), 블록체인 등과 같은 4차 산업혁명 분야의 이른바 ‘신흥기술’을 안보의 관점에서 조명하고 있다. 즉, AI 알고리즘의 패권을 둘러싼 경쟁이 가지는 성격을 설명해주는 글인 셈이다.

구체적으로 살펴보면,

“첫째, AI 알고리즘 경쟁은 ‘권력성격의 변환’을 야기하고 있는데, 좁은 의미의 기술경쟁이라기보다는 기술-산업-안보를 포괄하는 넓은 의미의 디지털 패권경쟁이 진행되고 있다. 둘째, AI 알고리즘 경쟁은 ‘권력주체의 변환’을 야기하고 있는데, 알고리즘 권력을 행사하는 민간 AI 기업들이 주요 주체로 부상했으며, 이들의 활동을 지원 또는 규제하는 정책, 제도 환경을 둘러싼 경쟁도 벌어지고 있다. 끝으로, AI 알고리즘 경쟁은 ‘권력질서의 변환’을 야기하고 있는데, AI 알고리즘을 활용한 산업과 서비스, 무기체제 등을 규제하는 국제규범의 형성을 놓고 국가 및 비국가 행위자들의 의견대립이 불거지고 있다.” [pp. 152~153]

다시 말하면, 군사안보의 시각에서 AI 알고리즘 등 신흥기술을 해석하지 말고, 이들 신흥기술의 패권을 놓고 벌이는 세계정치의 변환을 이해하고, 새로운 대응전략을 모색해야 한다는 얘기다.

* 이 리뷰는 도서출판 인간사랑으로부터 무료로 책을 제공받아 작성되었습니다.