질문하자. ‘도구의 도구‘로 전락하지 않으려면

AI 시대, 우리의 질문 - AI와 우리를 위해 반드시 짚고 넘어가야 할 질문 13
미리엄 메켈.레아 슈타이나커 지음, 강민경 옮김 / 한빛비즈 / 2025년 3월

[My Review MCMLXXXVIII / 한빛비즈 167번째 리뷰] 질문이 필요하다. 먼저, 우리는 AI 시대를 살아가는가? 이미 '살아가고' 있다. 아직 우리 피부에 와닿을 정도로 느껴지지는 않지만, 이미 상당한 기술적 기반을 바탕으로 거의 모든 분야에 걸쳐서 굴러가고 있기 때문이다. 다만 '눈에 띄게' 달라진 점을 발견하지 못할 뿐이다. 우리 귀에 벌써 익숙하지 않은가 말이다. 그렇다면 앞으로도 우리는 'AI 시대'속에서 잘 살아갈 것 같은가? 대답하기 곤란한 지점이 바로 여기다. 흔히 말하는 '낙관주의'와 '비관주의'가 공존하는 지점이기 때문이다. AI 기술의 발달 '속도'를 지켜본다면, 거스를 수 없는 '대세'임에는 틀림없다. 이는 우리가 원하든, 원치 않든, 그것과는 아무런 상관없이 AI는 매우 빠른 속도로 우리의 일상을 점거할 것이라는 점이다. 그런데 중요한 것은 그렇게 우리의 일상을 점거한 AI 기술이 우리에게 이로운가? 해로운가? 하는 점이다. 그런데 지금 시점에서 보면, 그런 결론조차 '50 : 50'으로 갈리는 편이다. 이런 결론이 우리에게 결코 좋은 결론이 아니다. 왜냐면 어떤 기술력이 등장했을 때 기대감의 좋고 나쁨에 따라 그에 따른 '보완점'을 내놓으면서 '대책'이나 '대안'을 마련하기 마련인데, 좋기도 하면서 동시에 나쁘기도 하다면 어느 쪽에 맞추어서 '장단'을 맞춰야 할지 가늠하기 힘들기 때문이다. 그래서 현재까지 가장 좋은 대안은 '인간과 AI가 서로 공존하는 쪽'으로 방향을 맞춰야 하는 결론밖에 내놓을 수 없다.

그렇다면 '공존'은 정말 좋은 결론인가? 공존도 두 가지 '방법론'으로 나뉜다. 하나는 '켄타우로스 방식'이고, 다른 하나는 '사이보그 방식'이다. 켄타우로스 방식은 '반인반마'의 특성처럼 인간과 AI의 장점을 살려서 생산성을 높이는 방식이고, 사이보그 방식은 인간과 AI의 '완벽한 융합'으로 생산성을 높이는 방식이다. 이런 분류법은 오직 '생산성'만을 따졌을 때 내릴 수 있는 방식이기도 하다. 그런데 이런 공존은 '윤리적 문제'를 낳을 수도 있다. 예컨대, 소설이나 음악, 미술과 같은 분야에서 '창작자의 독창성'을 인정하고 '저작권의 문제'를 고려한다면, 원작자를 '누구'로 볼 것인가에 대해서 논란이 될 수 있기 때문이다. 이를 테면, 소설가가 'AI 기술'의 도움을 받아서 대략적인 '밑그림'을 짜놓은 소설에 작가 본연의 문체와 구성력으로 직접 손봐서 내놓은 결과물을 과연 '창작물'이라고 할 수 있겠느냔 말이다. 만약 이게 '창작의 영역'으로 인정이 된다면, 셰익스피어의 모든 작품을 '데이터'로 삼은 AI 작가가 내놓은 '2차 창작물'도 인정받을 수 있게 될 것이다. 그렇게 10초만에 뚝딱 만들어진 창작물의 소위 '대박행진'을 해서 엄청난 수익을 냈다면, 그 수익은 누구에게 귀속되어야 할 것인가? 당연히 'AI의 것'은 아닐 것이다. 그럼 '출판사의 것'인가? 만약, 켄타우로스 방식으로 '중간개입자'가 있어서 그의 의도가 조금이라도 반영되었다면, 그의 '창작물'로 인정해야 옳은 것인가? 아니면 사이보그 방식으로 AI 칩셋을 '이식'한 사람이 매 10초마다 내놓은 창작물의 소유주로 인정받아야 마땅한가? 결국엔 '기준점'이 모호해서 그 어느 쪽으로도 인정하지 못하고, 어느 쪽으로 인정을 해도 여전히 문제의 소지는 남게 된다.

물론, 이런 모든 논란은 AI가 '완벽하다'는 가정하에서만 가능한 일이다. 그런데 놀랍게도 AI는 '거짓말'도 능숙하게 한다. 이를 '할루시네이션'이라고 하는데, AI는 방대한 데이터를 '확률적'으로 다루기 때문에 발생하는 자연스런 현상으로 보고 있다. 하지만 이로 인해서 '명백한 사실'조차 부정하고, '허위 사실'을 입증하기 위해서 '새로운 거짓말'을 계속에서 늘어놓는 AI의 답변을 마주할 때마다 절망하게 된다. 과연 이 도구를 계속 신뢰하면서 쓸 수 있겠느냐는 회의감이 부쩍 늘어나게 된다. 더구나 AI에게 입력한 '데이터의 신뢰성'에도 문제가 있다. 인류의 지식을 총망라했다고 자부한 AI들이 내린 '인간에 대한 평가'가 부정적이라는 데에도 놀라움을 넘어 끔찍할 지경이다. 대다수의 결론이 부정적이었으며, 그 부정적인 평가의 대다수도 '인류는 멸종시켜야 한다'였기 때문이다. 왜 이런 일이 벌어지게 되는가? 이는 인류가 남긴 '기록'이 인류에게 마냥 우호적이지 않다는 경향을 보면 쉽게 이해할 수 있는 대목이다.

그렇다면 우리는 AI를 어떻게 이용해야 할 것인가? 분명한 것은 매우 '유용한 도구'라는 점이다. 단순하고 반복적인 일을 수행하는데에 AI의 기술은 매우 획기적인 진전을 이루었고, 그 결과 또한 놀라울 정도다. 그러니 사람이 일일이 노력을 기울여서 하는 작업은 '고귀할' 수는 있으나, '생산성'은 꽝이라고 할 것이다. 그렇다면 우리는 이 유용한 도구를 반드시 써야만 할 것이다. 그러나 조심히 다뤄야 한다. 왜냐면 AI는 우리에게 마냥 '친절하지 않기' 때문이다. AI 스스로는 '선악의 기준'을 모른다. 그저 방대한 데이터를 분석하고 추려내고 '확률적'으로 가장 적합하다고 보이는 데이터를 모아다가 '우리가 제시한 틀'에 맞추어 내놓을 뿐이기 때문이다. 그래서 인간이 작업했다면 절대로 실수하지 않았을 '팔이 세 개인 사람'을 천연덕스럽게 내놓는 것이 바로 AI다. 그런데 이런 엉터리 결과물을 내놓았다고해서 AI를 그냥 폐기하지도 못한다. 왜냐면 사람이 직접 그렸다면 아무리 빨라도 3~4시간이 걸렸을 작업이라도, AI는 불과 10초 이내에 뚝딱 해치웠기 때문이다. 사람의 속도와는 비교도 할 수 없는 셈이다. 이러한 매력 때문에 AI 기술을 포기하지 못하고, 기술력을 보완, 발전시켰을 때의 장밋빛 미래를 그려보지만, 딱히 문제점을 개선할 방법이 보이질 않는다. 왜냐면 인간은 AI의 결론을 볼 수 있지만, AI가 그런 결론을 내기까지의 '과정'을 살펴볼 능력이 없기 때문이다. 다시 말해, AI는 '인간의 언어'를 해독해냈지만, 인간은 'AI의 언어'나 AI의 언어구사 방법' 등의 일련의 모든 것들에 대해서 살펴볼 수 있는 능력이 없기 때문이다. 그걸 살펴보려면 또다시 'AI의 도움'을 구해야 하는데, 그렇게 AI의 도움을 구해봐야 그 또한 'AI의 언어'이기에 인간은 도저히 'AI의 마음속(?)'을 알 도리가 없게 되는 것이다. 그저 AI가 내놓은 달콤한 결과물에만 취할 뿐이다.

그래서 우려스럽다는 것이다. 그 '달콤함'이 인간에게 득이 될지, 해가 될지 섣불리 결론을 내릴 수 없기 때문이다. 그래서 내놓은 대안이 'AI의 생성수단'을 양껏 이용하되, 최종적으로 '인간이 검수하고, 선택적으로 활용'하는 것이 가장 바람직하지 않겠는가..라는 소극적인 결론만을 내놓을 뿐이다. 결국 '공존'할 수밖에 없다는 얘기다. AI 기술을 적극 도입해서 '생산성'을 최대로 높이되, 그 결과물에 대해서 최종적으로는 '인간'이 개입해서 해가 되는 것은 걸러내는 작업이 필요하다는 것이다.

그런데 이런 공존에도 문제는 또 있다. 바로 '평균 이하의 사람들'에게는 이조차 버거울 것이라는 점이다. '평균 이상의 사람들'은 이런 공존방식으로 크나큰 혜택을 누릴 수 있다. 그들은 '주15시간'만 노동을 하고도 엄청난 부와 여유를 누리며 살 수 있을 것이다. 그런데 '그런 능력'조차 버거운 사람들은 어떻게 되겠는가? 가장 손쉬운 방법은 '평균 이하의 사람들'은 제거해버리는 것이다. 그럼 '선택받은' 소수의 사람들만이 혜택을 누리며 살 수 있을까? 그러나 그것도 아니다. 우리가 풍요를 누리고 살기 위해선 우리의 '노동'으로 만들어진 '제품'을 누군가에게 팔아서 남은 이득이 있어야 한다. 모두가 풍요를 누리며 사는 '완벽하게 공평한 나라'는 일찍이 마르크스가 꿈꿨지만, 현실에선 여지없이 실패하고 말았지 않은가. 부의 불균형은 어느 정도 감수할 수밖에 없다. 그래야 경제가 '정상작동'하는 것이 참으로 아이러니하지만, 계속 '돌아가게' 만들기 위해선 어쩔 수 없다. 그러나 극심하게 '양극화'가 되어서도 제대로 작동이 되지 않는다. 바로 '평균 이상 vs 평균 이하'의 대립구도가 그럴 것이다. AI라는 유용한 도구를 잘 활용하는 사람들에겐 마르지 않는 샘처럼 부를 창출해낼 수 있겠지만, 그 도구가 아무리 유용해도 '그림의 떡'처럼 이용할 수 없는 사람에겐 아무런 혜택도 주지 않을 것이기 때문이다. 더 큰 문제는 그 '둘의 차이'가 너무 극심하다는 것이다. 뭐, 이런 문제를 해결하고자 '세금'을 활용해서 '연금' 형식으로 부의 균형적 분배 장치를 만들자고 하지마, AI가 없던 시절에도 해내지 못한 숙제 아니던가?

그리고 문제는 또 있다. AI가 내놓은 엄청난 생산력도 그동안 만들어놓은 '인류의 창작물(데이터)' 수천 년간 쌓여있었기에 가능했던 것이다. 그런데 그런 엄청난 데이터도 고작 2026년이면 모든 데이터를 다 써버리고 마는 '고갈 문제'가 발생한다고 한다. 그럼 인간의 독창적인 창작물을 'AI의 처리속도'에 맞춰 만들어낼 수 있을까? 그게 불가능하니, 'AI가 생성한 결과물'을 2차, 3차 가공해서 만들어낸 결과물이 속출할 것이라는 전망도 내놓았다. 심지어 'AI와 AI'가 협업(?)을 해서 내놓은 생성물이 넘쳐나는 사태를 맞이하게 될 것이라고 한다. 이를 두고, 완벽한 자율시스템이니 인간의 손을 거치지 않고 AI가 선사한 생성물의 풍요로움을 그저 만끽하기만 하면 된다는 낙관주의도 없지 않다. 그러나 '근친교배'로 인해서 인류가 번성하길 포기한 이유와 마찬가지로 AI끼리의 근친교배(?)로 인한 생성물도 위험하기 짝이 없을 것으로 전망하고 있다. 앞서 언급한 '거짓말 잘하는 AI'가 존재하기 때문이다. 아주 '그럴 듯한' 정보를 가지고 엄청난 생산량을 자랑한들, '불량품'을 양산한 꼴을 면치 못할 것이기 때문이다. 여기에 '인간의 검수, 선택'이라는 새로운 직업군이 만들어진다고 해도 좋은 기대를 하긴 힘들다. 왜냐면 이미 지금까지의 '인공지능 데이터'를 검수하고 선택하는데에도 '케냐의 일꾼'을 고용해서 시간당 2달러(한화 약 3000원)라는 값싼 비용을 제공하고서 쌓은 업적이기 때문이다. 미래라고 크게 달라질 건 없다.

그렇기에 우리는 '질문'을 던져야 한다. 다가올 AI 시대의 본격화를 막을 도리는 없다. 그렇다면 최소한 인간이 살 수 있는 시대를 만들기 위한 최대한의 노력이 필요하다. 그 노력이 조금이라도 게으르다면 결국 인간은 유용한 '도구의 도구'로 전락하고 말 것이다. AI를 도구로 이용해서 부를 거머쥔 사람이 될 것인가? 아니면 AI의 도구로 전락해서 영화 <모던타임즈>의 명장면처럼 살아갈 것인가? 그건 당신의 '선택'이 아니다. 이 책 <AI 시대, 우리의 질문>을 읽으면 느낄 것이다. 이미 '결정'되어 있다. 당신이 이미 살아온 방식, '선택'한 습관에 따라 결정지어졌기 때문이다. 어떠한 결정이든 그저 받아들일 수밖에 없다. 여기 한 어린이의 불평을 잘 듣고 생각해보길 바란다. "숙제하는데 시간이 너무 오래 걸려요. 왜 이걸 다 해야 해요? 이딴 걸 배워봤자 아무 의미가 없어요. 어차피 AI가 나보다 더 글을 잘 쓰고, 계산도 잘 하고, 조사도 잘 해요. 그런데 왜 이걸 제가 해야 해요?" 틀린 말인가? 어차피 AI가 더 나은 결과물을 내는데, 왜 사람이 직접 해야 할까? 이 질문에 핵심이 있다. 당신이 '도구'를 쓰는 삶이 될지, 아니면 '도구의 도구'로 살아가게 될지 말이다.