인공지능과 함께하는 세상의 정치학

알고리즘의 정치학
박성원 외 지음 / 인간사랑 / 2021년 9월

협의(狹義)의 알고리즘이란 기계(computer machine)를 통하여 수집된 데이터를 분류, 해석하고 우선순위를 결정하여 의사결정을 하는 일련의 설계된 프로그램 과정이라 할 수 있을 것이다. 그런데 오늘날의 알고리즘이란 학습능력이 부여된 것으로 일종의 지능이 탑재되어 인공지능(AI)이라는 넓은 의미로 이해되고 있다. 따라서 『알고리즘의 정치학』이라는 표제를 지닌 이 책은 인간의 삶에 깊숙이 자리 잡기 시작한 인공지능과 함께하는 공동체 구성에서 발생 가능한 문제점과 대책을 모색하는 정치적 연구서라 하겠다.

『알고리즘의 정치학』은 이러한 문제에 내재된 요인들에 따라 인간들이 마주해야 할 미래 정치적 문제들을 개괄, 정의하는 「인공지능 시대와 정치적 인간의 미래」, 편견과 증오를 조장하며 정보의 왜곡을 통한 권력에 대한 갈증과 탐욕의 인간 사회를 위협하는 알고리즘 민주주의의 가능성과 한계를 논의하는 「알고리즘 민주주의」, 그리고 어쩌면 이 책의 하이라이트라 할 수 있는 인공지능의 발전과 조화로운 삶의 구조화를 위한 방책으로서 인공지능의 윤리와 가치를 폭넓게 수용하는 규범 체계 및 효율적으로 조정, 협력할 수 있는 거버넌스의 구축을 말하는 「인공지능 거버넌스」로 구성되어 있다.

그 밖에 인공지능의 구체적 실천 사례로서 일본 지방자치단체의 도입과 운영에서 나타나는 현상들을 통해 AI의 정책 결정 경험을 소개하는 「인공지능 시대의 정치과정의 변화」, 끝으로 인공지능과 관련기술을 포괄하는 신흥기술의 첨예한 각축장이 된 글로벌화된 기술 표준 전쟁에서 경쟁력을 확보할 수 있는 안보와 전략적 측면을 논의하는 「알고리즘 ,패권 경쟁의 세계 정치」 등 총 5개의 장을 통해 끊임없이 변화하는 정상성의 변화와 확장이라는 불안과 불확실성에의 혼란스러움을 진단, 미래의 방향을 제시한다.

사실 "이기적 타인과 평화로운 공존 모색을 통한 공동체 삶의 추구(12쪽)"라는 정치(政治)를 오늘날의 인간들로 구성된 사회에서도 무수한 갈등과 불화의 문제들로 봉합되지 못하고 있는 현실에서 '인공지능'까지 아우르는 정치학을 논의한다는 것이 낯선 걸음처럼 여겨질 수 있다. 그러나 이미 우리들은 유튜브로 대표되는 인공지능 알고리즘의 영향을 체감하고 있으며, 이 영향은 아주 직접적으로 인간 공동체의 정치적 삶에 커다란 영향을 미치고 있다.

그 영향이 단지 알고리즘에 의한 사용자 맞춤형 콘텐츠에 허위, 가짜 뉴스가 결합하면서 정치적 극단화와 포퓰리즘 조장등 사회적 갈등을 폭증시키며 사회 공동체의 수인 한계를 넘어서고 있는 현실만의 문제가 아니다. 데이터 수집 과정의 개인정보 유출과 사생활 침해의 문제, 도덕적 윤리적 판단 주체가 된 인공지능과 인간 사회와의 조화와 관련한 숙제도 아울러 던지고 있기 때문이다.

오늘 우리는 급격한 ICT(Information & Communication Technology) 기술 발전 속도로 방향을 예측 할 수 없을 정도에 이르렀으며, 인공지능에 대한 정의조차 어려움을 겪는다. 황성수, 은종환 교수는 「인공지능 거버넌스」에서 AI를 네 가지 차원에서 구별하고 있다. 그 구현의 의미가 단지 합리성을 추구하는 것인지, 인간의 지성 상태를 추구하는 것인지, 그리고 그 구현된 지능이 사고(thinking)인지 행동(behavior)인지에 따라 분류하여 인공지능의 획일적 정의보다는 "고유한 질적 특성"에 주목하고 있다.

【3장 「인공지능 거버넌스」 70쪽, 부분 발췌인용 】

아직은 이 네 영역을 모두 갖춘 인공지능은 출현하지 않았다. 그렇다고 이들 인공지능 기술이 채택된 부분이 인간 사회에 잠재적 문제를 야기할 가능성이 없다는 것은 아니다. 이를테면 합리적 행동을 구현해야하는 자율주행 자동차(B-R영역의 인공지능)가 인명사고를 낸 경우 그 법적, 도덕적 책임의 주체가 누가 되어야 하는가처럼 주체의 문제가 발생한다.

이는 인공지능에 대해 인간과 같은 법적 권리와 책임을 지닌 존재자로의 인정 여부에 대한 물음이 된다. "인간과 인공지능은 함께 공동체를 형성할 것인가? 인공지능도 세계를 인식, 예측, 조정할 수 있으며 세계를 구성하고 유지하는 주체라면 시민이 될 수 있는 것인가? 구성원의 공존 양식이란 진정 무엇인가?(32쪽)" 정상성은 이렇듯 변화하고 있다. 이 변화한 정상성을 수용하기 위해 우리는 어떻게 제도와 가치, 삶의 방식을 변화시켜야 하는가에 대한 정치적 답변을 논의하는 것이 바로 이 책의 논지이다.

그런가하면 AI는 오래된 인간 삶의 질서 파괴라는 매우 직접적인 개입으로 다가오기도 한다. 다시 말해 기존 산업체계를 포괄적이고도 파괴적인 혁신을 통해 새로운 삶의 양식을 만들어내며 수많은 사회적 갈등과 지체를 야기한다. 인공지능이 가져다주는 혁신 이면에는 이같이 파괴된 사회의 일부가 남게됨으로써 이를 어떻게 다시금 사회 구성요소로 회복시킬 수 있는가와 같은 정치적 과제를 던진다. 지능을 갖춘 로봇에 의한 무인공장의 출현은 인간을 더 이상 고용하지 않는다. 이것은 실업자의 양산만으로 그치는 것이 아니라 정치 경제 사회 전분야 걸친 양극화를 극단적으로 몰고 가고, 공동체를 심각하게 분열시켜 사회의 존속에 영향을 미칠 수도 있다.

이처럼 인공지능과 공존하는 사회로 진입함에 따라 인간 사회가 준비하고 대비하여야 할 문제들은 인공지능 자체의 주체인정의 논쟁적 물음에서부터 알고리즘의 편향성 강화로 인한 수평적 개방적 커뮤니케이션의 훼손, 알고리즘 플랫폼 지배라는 새로운 권력의 중립성과 투명성의 문제, 나아가 인공지능 알고리즘에 침해될 가능성이 높은 인간의 사생활과 자율성 위협의 요인들 등등 헤아릴 수 없는 사회정치적 이슈들로 즐비하다. 그렇다면 인공지능으로 인해 발생 가능한 위협과 사고를 예방하고 규제할 수 있는 체계를 우리는 준비하고 구축해야 한다.

그런데 산업발전과 경쟁력 제고라는 핑계로 규범체제의 확립이 지속적으로 미루어지고 있다. 현재와 미래라는 임의의 구별이 의미를 잃을 만큼 인공지능 기술은 급속하게 진화하고 있는 상황에서 우리는 바로 내일이 될 수 있는 미래 사회의 돌이킬 수 없는 곤경과 위협에 빠질 수도 있다. 이 위협은 불투명성이 증가하는 알고리즘의 기술이 될 수도 있으며, 인공지능 기술의 선두 주자인 미국과 중국 등 경쟁 국가들에 의한 예속이 될 수도 있다. 생산허가, 연구개발 행위의 관리 감독, 불법행위의 처벌과 같은 전통적 규제 방식으로는 AI 규제 방식으로 활용하는 데 한계가 있다.

【1장 「인공지능 시대와 정치적 인간의 미래」 19쪽, 부분 발췌인용 】

설계자조차도 알 지 못하는 알고리즘은 설명 가능한 알고리즘이라는 기준이 마련되어야 하는 것처럼 인간 공동체의 삶을 훼손, 파괴하는 알고리즘의 문제점에 대한 사후 조치가 가능한 개발이어야 한다. 또한 알고리즘 플랫폼을 지배하는 자가 새로운 권력기관이 되어 민주주의의 근본을 뒤흔드는 형태를 방지할 수 있는 규범체계가 수립되어야 한다. 물론 규제의 대상과 기술적 범위를 선정하는 것은 이익집단들에 의한 논쟁을 불러일으키는 난제임은 분명하다. 공익과 공존을 우선하는 시민적 조정과 합의가 공개적 담론의 장으로 부상되어야 한다.

일본 지자체의 정책 결정과정의 주체적 역할을 하는 인공지능의 사례에서 발굴된 블랙스박스화되는 과정의 한계라는 부정성의 발견은 물론, 이의 해결 방안으로 구축된 '인간-AI-인간'이라는 샌드위치 모델과 같이 인간과 AI가 모두 합의과정에 참여하는 열린 공동체 구성의 사례는 우리가 걸어가야 할 유용한 참고가 될 것이다. 지금 인공지능의 핵심 소재인 반도체 산업의 패권 경쟁이 치열하다. 빅데이터, 클라우드, 양자컴퓨팅, 사물인터넷, 블록체인, 인공지능 등 신흥기술은 국제 정치적 격전의 핵심 요소이다. 결국 인공지능은 국가의 명운을 건 국력 우위의 결정적 요소다.

이제 인공지능 기술정책과 전략연구는 국제 정치학의 중요 분야가 되었으며, 군사안보와 국제 규범 분야에서는 자율무기체계라는 인공지능을 탐구하며, 과도한 알고리즘 권력에 대한 경계라는 시각에서는 정치경제학 연구가 그 핵심을 이루고 있다. 그 어느 때보다 AI 알고리즘 경쟁은 '기술-산업-안보'를 포괄하는 권력성격의 변환이라는 측면에서 첨예한 각축전이 벌어지고 있다. 또한 미국의 GAFA(구글,아마존,페이스북,애플)나 중국의 BAT(바이두, 알리바바,텐센트)등 알고리즘 권력을 행사하는 거대 AI민간기업들은 권력주체로 부상하여 저마다 유리한 생태계를 구축하려는 시도를 벌이고 있다. 하다못해 ICT분야의 후진국으로 불리는 일본조차 2019년 3월 '인간 중심의 AI 사회 원칙'을 발표하고 글로벌 AI리더십 확보를 위한 전선에 뛰어들었다.

이러한 글로벌 격전과 아울러 우리는 "'탈인간 행위자(AI를 비롯한 Post-human)'의 부상이 인간 정체성에 근본적 문제를 제기하는 순간에 서 있다. 인간 중심의 지평을 넘어서는 탈인간 정치 세계를 논의(184쪽)"해야 하는 시점이라는 의미이다. 인공지능은 패권 경쟁의 핵심에 놓여 있으며, 인간 정체성에 대한 근본적 물음을 야기하는 존재자로 부상하였고, 한편으로는 투명성, 공정성, 설명 가능성, 추적 가능성, 윤리적 설계와 갈은 인간 권리 보호를 위한 규제의 중심에 놓여있기도 하다.

오늘 우리는 이 새로운 존재자의 출현으로 어떻게 공존해야 하는가?라는 다분히 이질적인 정치적 현실을 논의하기에 이르렀다. 정치학의 현실적 연구자이며 학자이자 실무 전문가들이 집필할 만큼 인공지능의 정치학은 바로 지금 현실 정치의 중요 의제가 되었다는 의미이기도 할 것이다. 즉 모든 개인의 삶에 지대한 영향을 미치는 공적 사안이 되었기에 그 의미가 실현되고 있는 현상의 표현을 정치적 궤도에 올려놓는 것은 지극히 자연스러운 것일 것이다. 변화하는 인공지능의 세계와 우리 개인의 삶과의 연결고리를 생각하는 중요하고도 중대한, 그리고 풍부한 생각거리로 가득한 연구논집이라 할 것이다.