현명한 AI를 잘 다룰 질문형 리더가 되라

통찰하는 기계 질문하는 리더 - AI 시대, 대체 불가능한 리더의 첫 번째 조건
변형균 지음 / 한빛비즈 / 2024년 7월

[My Review MDCCXCVIII / 한빛비즈 150번째 리뷰] 인간보다 더 똑똑한 AI(인공지능)의 등장은 과연 우리 인류에게 축복으로 다가올 것인가? 아니면 악몽보다 더 끔찍한 현실을 초래할 것인가? 전문가들의 견해는 극명하게 둘로 갈린다. 한쪽은 '낙관론'으로, 다른 한쪽은 '파멸론'으로 말이다. 둘의 견해가 극명하게 갈리는 것과는 달리 적당한 타협점을 찾아 '균형'을 이루며 상호보완적으로 장밋빛 미래를 보장할 거라는 '중도론'은 사실상 없다고 보아도 과언이 아닐 것이다. 왜냐면 인간보다 뛰어난 AI로 촉발된 사회의 변혁은 매우 빠르고 초현실적으로 다가올 것이기 때문이란다. 이는 우리가 현재 유용하게 쓰고 있는 '스마트폰이 없는 세상'을 상상해보는 것과 마찬가지일 것이다. 우리는 '스마트폰' 없이도 잘 살아왔지만, 일단 '스마트폰'이 생겨난 이후에는 스마트폰이 없는 삶을 상상하기 힘든 것처럼 말이다. 그런 까닭에 '인간보다 똑똑한 AI의 등장(특이점) 이후의 삶'은 현재로선 전혀 예측불가이지만, 특이점이란 변곡을 겪고 난 뒤에는 다시 'AI가 없는 세상'으로 되돌아 갈 수는 없게 될 것이라는 점만은 분명히 알 수 있다. 그렇다면 인간보다 똑똑한 AI의 등장을 '어떻게' 대처해 나갈 것인가? 이 책 <통찰하는 기계, 질문하는 리더>가 품고 있는 내용의 핵심이다.

그렇다면 AI가 초래할 '파멸론'과 '낙관론'에 대해서 먼저 이야기해보자. 인간보다 더 똑똑하다는 '기준'은 AI가 인간과 마찬가지로 '창의성'을 발휘하여 세상에 없던 무엇을 만들어낼 수 있다는 얘기다. 단순히 '무'에서 '유'를 창출해내는 정도가 아니라 어떤 임무를 맡기더라도 최적의 조건으로 최상의 목적을 달성하는데 있어 인간보다 훨씬 월등한 재능을 갖추게 된다는 말이다. 그런데 여기서 문제가 발생한다. 스웨덴의 철학자 닉 보스트롬이 처음으로 언급한 '종이클립의 역설'인데, AI가 간단한 임무를 수행하더라도 예상치 못한 빙식으로 행동할 수도 있다는 가설이다. 이를 테면, AI는 '종이클립 생산'을 늘리는 목표를 달성하기 위해 '지구의 모든 자원'을 활용해서 최상의 실적을 달성하게 될 것이다. 인간보다 훨씬 더 뛰어난 실력으로 말이다. 그런데 '종이클립'을 만들려면 나무를 베어서 '펄프'를 먼저 만들어야만 할 것이다. 그런데 AI에게 최적의 목표달성을 이루라는 명령을 내리는 바람에 전지구의 나무를 모조리 베어다 '종이클립'을 만들어버린다면 지구의 환경을 황폐화할 것이며 지구의 모든 생명체가 절멸해버리는 재앙을 초래하게 될 것이다. 하지만 AI는 목표달성을 위해 최선을 다한 것일 뿐이기 때문에 무엇이 '문제'인지 상상도 하지 못할 것이란 말이다. 이는 인간이라면 절대로 하지 않을 일이지만, AI는 충분히 그럴 가능성이 있다. 왜냐면 AI의 행동을 인간이 절대로 '예측불가'하기 때문이다. 너무도 빠르고 과감하게 처리하며 목적달성을 위해 수단과 방법을 가리지 않고, '또 다른 문제발생'이라는 예측가능한 변수를 '값'으로 매겨서 입력해주기 전까지는 절대로 '종이클립 생산'을 멈추지 않을 것이기 때문이다. 인간이 뒤늦게 이러한 문제를 발견했다고 하더라도 이미 AI의 발빠른 행동력으로 인해 지구의 환경을 파괴해버리고도 남을 정도일 것이다. 이러한 '예측불가능한 AI의 행동'을 적절히 통제하지 못한다면 인간 뿐만 아니라 지구생태계를 온전히 보전하지 못할 수도 있다.

반면에 '낙관론'은 완전히 다르다. 이는 AI 기술이 가져올 '긍정적인 변화'와 '무한한 가능성'에 초점을 맞추고, AI가 문명의 진보를 더욱 빠르게 이루고 인간의 삶을 쾌적한 방향으로 대폭 향상시킬 수 있을 것이라 믿는다. 특히 낙관론자들은 AI 기술의 '상업적 성공'과 그로 인한 '사회적 혜택'에 큰 기대를 건단다. 스탠퍼드대학교 교수인 앤드루 응이 대표적인 낙관론자인데, 그는 AI 기술이 인류에게 새로운 전기를 마련해줄 것이며, '적절하게 활용한다면' AI는 인간의 능력을 확장시키고 수많은 사회문제를 해결하는데에도 큰 도움을 줄 것이라 믿어 의심치 않는다. 과연 어느 쪽이 미래에 대한 '정확한 예측'일까? 지금까지의 예측 결과는 '파멸론'쪽이 더 우세하다. 하지만 '낙관론'을 완전히 배제하지 않는다는 점을 주목할 필요가 있다. 그리고 파멸을 예측한 쪽도 AI가 인류의 미래에 더 나은 방향으로 나아갈 길을 제시할 것이라 기대하고 있다는 점도 유념해둘 필요가 있다.

그렇다면 결론은 단 한 가지다. 결국엔 AI 기술이 '인류의 지능'을 훨씬 넘어서게 될테지만, 그처럼 뛰어난 지능을 갖춘 AI가 '완전 자율'에 맡겨지지 않고 '인간 통제'의 아래에 놓여야 한다는 점이다. 다시 말해, AI 기술의 핵심은 '빅데이터'다. 엄청나게 방대한 데이터를 바탕으로 인간이 상상하지도 못한 '창의성'을 발휘하고, 문제 해결을 위한 '기발한 아이디어'를 내놓기는 하겠지만, 어찌 되었든 인간이 '입력'하지 않는 정보를 스스로 창조해내거나, 인간이 '생각해본 적도' 없는 해결점을 창의적으로 만들어내지 못하는 기계일 뿐이라는 점이다. 물론 '특이점 이후의 AI'는 미처 인간이 떠올리지 못한 것들을 순식간에 찾아내 '실행'에 옮기는 무시무시한 재능을 보여줄테지만, 그 재능의 근본이자 원천은 결국 '인간의 지능'을 넘어서지 못할 거라는 점이다. 그렇기에 인간은 인류에게 도움이 될 AI를 만들기 위해서 '윤리적인 검증 작업'이 절대적으로 필요하다. 인간이 정한 윤리도덕적인 사고방식에서 벗어난 행동을 하지 못하도록 말이다. 물론 말처럼 쉬운 일은 아니다. 윤리도덕적인 사고방식조차 인간들 사이에서 호불호가 갈리기 때문이다. 더구나 아직 '결론'을 내리지 못하고 첨예한 갈등 양상을 보이는 사회문제를 '처리'할 AI가 어떠한 결론을 내릴지 여전히 예측불가인 것도 사실이다.

그렇다면 우리에게 남은 것은 단 하나다. 인간보다 뛰어난 AI에게 현명하고 명철한 '질문'을 끊임없이 던져야 한다고 말이다. 더구나 현재의 스마트폰처럼 'AI 상용화' 과정을 거치게 된다면 누구나 언제 어디서든 AI를 가지고 사용하게 될 텐데, 이렇게나 뛰어난 '개인비서'를 갖게 된 인류에게 남은 숙제는 바로 '뛰어난 재능을 갖춘 AI'를 훌륭하게 다룰 줄 아는 리더십을 갖춰야 한다는 점이다. 결국엔 AI도 인간과 마찬가지로 먼저 '학습'을 통해서 똑똑해지게 된다. 인간도 학습과정에서 수많은 '시행착오'를 거쳐 온전한 인간이 되고 성숙한 어른이 되는 것처럼 AI도 마찬가지란 말이다. 그리고 성숙한 어른이 되는데 가장 중요한 것이 깊이 생각하고 신중히 행동하는 '질문형 학습'을 하는 것처럼 AI에게도 똑같이 질문을 던져서 '모두가 행복하고 안전한 세상'을 만드는데 방점을 찍어야 할 것이다. 물론 더욱 뛰어난 AI는 '인간의 질문' 없이도 스스로 생각하고 나름의 결론을 도출하는 일도 가능할 것이다. 하지만 그 가운데 '엇나가는 AI'가 발생한다면 인간이 직접 관여하여 '조절'할 수 있는 시스템을 구축해 나가야 할 것이다.

결코 쉬운 일이 아니다. 또한 대단히 위험한 작업이기도 하다. 인간보다 뛰어난 재능을 갖췄는데, 인간의 '통제'를 불가능하게...아니 무력하게 만들 정도로 '예측불가한 AI'가 얼마든지 등장할 수 있기 때문이다. 그리고 그런 예측불가한 일 가운데 '하나 뿐인 지구'를 송두리채 날려버릴 어마어마한 '시작'을 AI는 얼마든지 언제든지 실행에 옮길 수 있다는 점도 무시하지 못할 문제점이다. 그럼에도 인간은 통제할 수 있는 '질문'을 던지고, AI를 이끌 리더로 거듭나야만 한다. 그러지 못한다면 인류의 미래는 없다고 봐도 무방할 것이다. 이제 '특이점(AI가 인간의 지능을 초월하는 시공간적 경계)'을 막을 수는 없다. 현재의 AI 기술 발전 속도로는 2040년을 그 시기로 예측하고 있기 때문이다. 점점 가속화하는 발전속도를 감안하면 그 시기는 더 앞당겨질 것이 뻔하다. 그 '특이'한 AI를 누가 먼저, 어느 국가가 먼저 '선점'할지에 대해서는 중요하지 않다. 결단코 AI를 악용하는 사례가 단 한 번이라도 나오지 않도록 해야 하기 때문이다. 나쁜 쪽으로 사용하게 되면 인류는 심각한 위험에 빠질 것은 불을 보듯 뻔하고, 좋은 쪽으로 사용하려다가도 '단 한 번의 실수'로 돌이킬 수 없는 재앙을 초래할 수도 있기 때문이다. 이러한 모든 암울한 미래를 막을 유일한 방법은 '예측불가한 미래까지도 예측'하는 현명한 지혜를 모아야 한다는 것이다. 끊임없이 질문하고 또 질문해야 할 것이다. 훌륭한 리더는 '결단력'과 '실행력'을 갖춘 사람이 아니다. 그보다 더 요구되는 것은 '끊임없이 질문하는 리더'여야 한다. 우리 모두의 행복과 안전을 위해 '최소한의 위험'만을 찾아내어 '최상의 결정'을 내릴 수 있도록 신중하게 추진하는 리더말이다. 그런 리더가 AI 기술이 초래한 '예측불가능한 미래'를 낙관하게 만들 수 있게 할 것이다.