세계는 인공지능에 공동대처해야 한다.

AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라
헨리 A. 키신저 외 지음, 김고명 옮김 / 윌북 / 2023년 5월

 기술이 급속도로 발전하는 것을 보면 경외감 및 기대감과 더불어 두려운 마음이 들기도 한다. 난 과학기술에 대해 낙관론자에 가깝지만 그럼에도 불구하고 최근 인공지능의 발전상을 보면 더욱 걱정이 되기도 한다. 인간의 일자리 문제, 인간의 정체성 자체를 흔들 문제, 그리고 무엇보다도 지구 상의 우리 이상의 존재가 등장하는 것이 가져올 문제에 대해 상당한 걱정이 든다. 이런 마음은 세계의 누구나 갖고 있다고 생각하지만 그렇다고 해서 인공지능 기술의 발전에 대해 제동이 걸릴 가능성은 거의 없다. 세계는 하나로 통합되어 있지 않으며 각각의 국가들이 패권 전쟁을 벌이고 있으며 향후 패권에는 인공지능 기술의 선점이 필수적이기 때문이다.

 때문에 인공지능의 기술 발전은 가속화할 것이고 인류의 정체성과 안전을 보장할만한 합의된 브레이크는 걸리기 매우 어려운 것이 현실이다. 하지만 냉전 같은 무한 경쟁 관계에서도 인간은 핵무기 같은 것에 대해 상당한 안전 보장 합의를 이뤘는데 인공지능 기술을 그것조차 매우 어려워 보인다. 아직 모두가 인공지능이 상호파괴를 확증할만한 것이라 여기지 않고 무엇보다도 핵무기는 기술과 양의차이에서도 서로를 확증파괴할 수 있지만 인공지능은 양과 기술의 차이가 한 쪽만을 일방적으로 파괴할수 있을지도 모르기 때문이다.

 책 AI 이후의 세계는 인공지능에 대한 이런 걱정과 고민이 담긴 책이다. 대부분의 미래 기술 책이 기술의 현재 상황과 앞으로의 가능성에 초점을 두는 반면 이 책은 인공지능이 향후 전방위적으로 인간에 미칠 영향을 심도 있게 논의하고 있어 읽어 볼만한 가치가 더 크다.

 현재 인공지능은 생성형 인공지능까지 도달해 있다. 이 녀석은 인간의 방대한 지식을 학습해 인간 고유의 영역으로 남겨졌던 글쓰기, 그리기 등 창조의 영역에도 이미 도달해 있다. 다만 이 인공지능은 자의식이 없어 자신이 어떻게 학습했고, 무엇을 학습했으며 이것이 무슨 의미인지 알지 못한다. 아직은 기계적 천재에 불과한 것이다. 하지만 그럼에도 인간에 미치는 영향이 크다.

 인간은 자신들의 기술을 활용해 초기의 책을 비롯하여, 최근의 스마트폰에 이르며 자신의 지적 기능을 여러 가지 이것들에 위임했다. 인공지능에게 인간이 위임할 능력은 비판적 사고력이나 작문력, 문해력 등이 될 가능성이 높다. 문제는 이런 것들이 인간이 자신의 사회나 정치, 문화를 이끌어감에 있어 중요한 판단을 하는데 밑거름이 되는 능력이라는 것이다. 이것들의 위임은 인간인 인공지능의 꼭두각시가 됨을 의미한다. 그래서 인간은 인공지능이 그 뛰어남에도 현실의 결정권자로 작용하게 두어서는 안된다. 이것을 방지하려면 세계적으로 합의된 강력한 문화적 규범이 필요하다. 

 인공지능 시대에 인간은 다음과 같은 질문에 봉착하게 된다.

1. 인공지능의 등장으로 의료, 공간, 생물학, 양자물리학에 어떤 혁신이 일어나는가

2. 인공지능이 만드는 친구는 어떤 존재인가

3. 인공지능을 기반으로 하는 전쟁은 어떤 전쟁인가

4. 인공지능은 인간이 인식할 수 없는 현실의 어떤 면을 인식할 수 있는가

5. 인공지능이 인간의 행동을 평가하고 유도하는 시대에 인간은 어떻게 변할 것인가

6. 그러한 인공지능 시대에 인간으로 산다는 것은 어떤 의미인가

 인간은 자신의 생존과 번식을 위해 경험을 통해 자신을 둘러싼 환경을 이해하기 위해 노력해왔다. 그리고 각각의 사회는 나름의 방식으로 현실을 탐구해 완벽하진 않으나 적절한 답에 도달했고 그것에 기반해 지역의 문명을 구축했다. 이 일련의 중심에는 결국 인간과 환경의 상호작용이 있다. 인간은 현실을 객관적이고 중립적으로 관측하는 수단으로 과학 장비들을 고안해냈다. 하지만 양자역학이 발전하며 실제 관측은 대상과 상호작용을 하며 대상의 상태를 규정하고 영향을 미치기에 완벽히 객관적인 연구나 관측을 불가능함이 입증되었다. 그럼으로 인해 결국 인간은 현실을 구성하는 다수의 상호보완적 측면 중에서 그 시점에 정확히 알고자 하는 측면의 가능성 중 하나만을 선택하여 발전해왔다. 이는 당연히 현실에 비해 현저히 부족하므로 인간은 각각의 부족한 결과를 결합하여 왜곡을 보정해왔다. 

 하지만 인공지능은 인간 관찰자가 관측할 때 발생하는 빈틈을 찾아 상호보완적 데이터를 처리하고 그 안에서 식별할 발생하는 빈틈을 메울 가능성이 있다. 철학자 비트겐슈타인은 궁극적으로 이성으로 식별할 수 있는 사물의 단일한 본질개념을 배제하고 인간은 그저 현실들의 유사성을 파악해 지식을 구축할 수 밖에 없다고 보았다. 인공지능은 방대한 데이터의 특성을 그룹화하여 유형과 패턴을 인식하고 현실을 이해한다. 비트겐슈타인이 한계로 본 지식의 구축을 극한까지 잘 해낼수 있는 것이다. 

 현재 세계는 강국들이 만들어낸 다국적 네트워크 플랫폼이 지배하고 있다. 이 디지털 플랫폼을 구축하는데 성공한 미국와 중국은 21세기 들어 크게 경제적 성장을 이뤘고 이를 수행하지 못한 유럽연합의 경제는 크게 후퇴했다. 네트워크 플랫폼은 기존 산업과 다르게 이용자가 폭증할 수록 서비스의 수준이 증가한다. 어느 산업이나 과도한 이용자는 공급부족으로 서비스의 질적 하락을 초래한다. 아무리 맛난 음식점이라고 손님이 지나치게 많으면 음식의 양과 질이 담보되기 어렵다. 하지만 네트워크 플랫폼은 이용자가 폭증할수록 편익과 매력이 오히려 증가하는 블랙홀 같은 존재다.

 때문에 네트워크 플랫폼 업계는 소수의 강자만이 살아남아 절대적 권한을 누리는 존재다. 또한 지역의 네트워크 플랫폼 업계를 무너뜨리기고 의존하게 만들기에 과거처럼 자국의 산업을 보호하기 위해 무역장벽을 치는 것도 거의 불가능하다. 때문에 네트워크 플랫폼은 다국적이 되며 이는 그 서비스에 의존하는 해당국가와의 마찰을 가져올 수 있다. 실제 미국과 유럽연합은 중국이 만든 네트워크 플랫폼에 대해 보안을 이유로 상당한 제재를 실행했다. 그래서 네트워크 플랫폼의 지정학이 날이 갈수록 중요하게 인식된다. 

 미국은 이미 네트워크 플랫폼을 대외 전략의 한 축으로 삼으면서 일부 외국산을 제한하고 그 성장에 도움이 되는 일부 소프트웨어와 기술의 반출을 금지하기 시작했다. 미국은 네트워크 플랫폼의 최강자인데 세계최고 수준의 대학, 스타트업 생태계, 선진적 연구개발 지원, 영어의 공용어 지위, 미국 주도의 기술표준, 방대한 내수시장이 그것을 가능하게 했다. 유럽연합은 언급한 것처럼 디지털 산업기술 육성에 실패했다. 하지만 그들은 일류기업과 대학이 있으며 계몽주의 탐구 전통이 있고, 방대한 내수시장과 혁신적이면서도 가장 안정적인 법적 요건을 제정하는 탁월한 규제기관이 존재한다. 언제든 세계적 네트워크 플랫폼이 탄생할 수 있는 여건이다. 하지만 그들은 결국 여러 나라로 구성되어 언어가 다양하고 개별적 규제기관이 있다는 것이 걸림돌이다. 인도는 아직 초기이나 혁신친화적 기업과 기술환경, 수많은 기술과 인재를 보유하고, 방대한 내수시장으로 네트워크 플랫폼의 탄생이 가능하다. 

 그리고 네트워크 플랫폼은 당연하게도 인공지능과 연결된다. 인공지능 기반 네트워크 플랫폼은 정보를 자동으로 선별하는 기능을 인간의 삶에 침투시켰으며 이로 인해 인간은 더욱 디지털 기술에 종속되고 있다. 네트워크 플랫폼은 방대한 데이터를 인공지능으로 수집 분석하여 이용자의 상황에 절묘하게 맞아 떨어지는 팁과 추천목록을 제공한다. 심지어 몇몇 추천은 이용자 자신의 능동적 결정보다도 월등한 수준이다. 

 인공지능 기반 네트워크 플랫폼은 전례없는 수준으로 정보를 취합하고 선별하는 현상을 인간에게 보여준다. 그럼에도 인간은 인공지능 작동 과정 전체를 들여다 볼 수 없으며 간신히 그것을 설계하고 모니터링하며 매개변수를 설장하는데만 머물고 있다. 인공지능을 만들고 그것으로 이윤을 수취하는 네트워크 플랫폼 관계자가 자기네들의 인공지능이 왜이러는지 본인들도 모른다는게 농담이 아닌 셈이다. 

 네트워크 플랫폼의 인공지능은 각 개인이 여러 정보를 취합해서 제공하여 그들로 하여금 세상의 일면만을 바라보게 만든다. 때문의 의도하든 아니든 네트워크 플랫폼의 인공지능은 전 세계 방대한 이용자에게 상당한 사회, 문화, 정치, 경제적 영향력을 절대적으로 행사할 수 있게 된다. 인공지능의 목적함수, 훈련과정, 매개변수, 허위정보에 대한 정의를 조금만 바꾸어도 네트워크 플랫폼의 인공지능이 이용자에게 제공하는 정보는 엄청나게 달라지게 된다.  

 네트워크 플랫폼의 영향력이 이렇게 국적을 넘어 막강하기에 갑작스런 네트워크 플랫폼의 지정학적 철수는 한 국가에 큰 타격으로 이어질 수 있다. 때문에 각국의 정부는 네트워크 플랫폼이 지위를 악용하거나 기존에 확립된 책임을 회피하지 못하도록 법적으로 막는 것이 중요한 과제다. 

 인공지능 시대의 전쟁은 전쟁의 패러다임을 바꿀 것이 확실하다. 앞으로의 전쟁은 사이버 분쟁과 인공지능 기반의 전쟁이 될 것으로 보인다. 사이버 무기는 재래식 무기와 다르게 상대방의 전력을 온전히 파악하기 어려우며 선제공격이 절대적인 타격과 유리함을 부여한다. 또한 사이버 무기는 재래식 무기와 다르게 민간과 군사시설을 구분없이 타격하며 오히려 선진사회일 수록 디지털화의 정도가 높아 더욱 큰 타격을 입힐 수 있다. 또한 사이버 전력과 공작은 비용이 적게 들고 은폐 및 부인이 가능하다. 이런 점으로 인해 각국은 공격을 방어하는 적극방어와 전진방어라는 개념으로 무장하고 있다. 

 군대의 시스템과 프로세스에 비인간적인 논리를 가진 인공지능이 도입되면 전략이 바뀔 것이다. 인공지능 기반 무기와 방어체계로 전략을 전개하면 인간과 근본적으로 다른 전쟁이 나타날 것인데 인간은 강력한 분석 능력을 갖춘 인공지능에 전략의 상당부분을 의존하고 많은 권한을 위임할 가능성이 농후하다. 전쟁의 전략은 체스와 바둑의 전략과 많이 비견되는데 인공지능이 그 분야에서 인간이 상상할 수 없는 전략을 구사해 충격을 준 것이 전쟁에도 그대로 이어질 것이라 비유하면 그 상상이 좀 더 쉽다. 

 전통적으로 군사와 민간 영역은 기술적 특수성과 중앙집중적 관리, 효과의 규모에서 차이를 보여왔다. 철도는 군민 양용이나 효과적 파괴력이 부재하며, 핵무기는 군민 양쪽에 타격을 입히고 효과적 파괴력이 있으나 중앙집중적 관리로 제어가 가능하다. 총은 군민 양용이나 효과적 파괴력이 적다. 하지만 인공지능 무기는 이 세 가지를 모두 충족하는 최초의 것이다. 군과 민간에 모두 치명적 영향을 미치고 중앙정부에 의해 통제가 불가능하며, 광범위한 타격 효과를 갖고 오기 때문이다. 

 때문에 인간은 인공지능무기에 관한 논의를 더 늦기 전에 시작해야만 한다. 최소한의 공통된 어휘로 전략 개념들을 재정의하고 대략적이나마 서로의 제한선을 확인해야만 한다. 

 마지막으로 인공지능은 인간의 정체성을 흔들 것이다. 인간은 지구 동물의 한 종으로 다른 종에 비해 몇 가지 뛰어난 특성을 갖고 있으며 그것들은 인간정체성의 중요한 부분을 차지한다. 그것들 중 하나는 이성이며 이성은 비판적 사고력 및 사유 등 인간의 지성으로 구성된다. 하지만 인공지능은 바로 이 인간의 이성을 약화시킨다. 네트워크 플랫폼이 제공하는 선별된 정보와 흥미거리는 인간을 중독시키고 학습의 필요성와 의지를 꺽는다. 즉, 사유와 개념 습득의 의지가 약화되는 것이다. 또한 중독과 검색, 생성형 인공지능으로 인해 인간은 심층적 독서와 분석의 필요성도 갖지 못하게 된다. 그걸 대리해주니 말이다. 

 또한 인공지능은 창조를 대리해 줄 것이며 많은 직업 영역에서 인간보다 탁월한 분석력으로 결과를 도출할 것이며 무엇보다도 인간의 삶의 의미를 찾고 정체성을 얻게 해주는 직업과 그것에서의 성공을 가로챌 가능성이 높다. 이런 상태에서 인간은 자신의 정체성이 뿌리채 흔들리는 경험을 하게 될것이다. 200여년 전 유럽의 농민들은 인클로져 운동으로 인해 수백년간 유지하던 농업인으로서의 정체성이 부정되고 가난한 도시의 하급노동자로 쫓겨나게 되었다. 그들 역시 크게 정체성과 안정성에 위협을 받았을 것인데 그래도 그들은 산업노동자로 재정의 될 수 있었다. 하지만 인공지능에 의해 자리를 잃은 인간에게 어떤 사회적, 경제적 지위가 주어질지는 상당히 불분명하다.

 적당한 사회적 합의와 재제가 없다면 그저 선별된 정보와 소비문화에 중독된 기본소득자정도로만 자리잡게 될 것이 분명해보이기 때문이다. 책은 인공지능의 발전과정과 인간사회에 영향을 미칠 많은 부분에 대해 우려와 심도있는 논의를 보인다. 단지 기술과 인공지능 주가에만 흥분할게 아니라 이런 고찰에도 사회적 관심과 교육이 필요하다.