유발 하라리는 내가 제일 좋아하는 작가 중의 한명이다. ‘21 Lessons for the 21st Century’를 마지막에 읽고, 한참을 기다려, 작년 12월부터 시작했는데, 일을 핑계로 이번 달에 겨우 마치게 되었다. 메모하면서 읽긴 했으나, 전반부 읽은 내용이 모두 생각나지 않는다. 스토리를 떠나서, 그의 언어 자체에 대한 저항할 수 없는 매력은 여전하다. 누구나 공감할 수 있지만 표현할 수 없는 것을, 누구도 생각지 못하지만 희망적인 내용을, 논리 정연하고 세련된 필치로, 정확히 헤아려주는 그의 매력에 빠졌던 시간이었다.
제목 Nexus의 정의는(p.222) ‘어떤 개체가 특정 관할 구역과 연결된 것’을 의미한다. 즉, AI의 초연결성을 의미한다. 이 글의 목적은 AI에 대한 정확한 역사적 관점을 제공하는 것이다. 나는 2024년도 직장에서의 나의 경험을 통해 작가의 관점에 격하게 동의하며 읽었고, 마지막 결론에서 희망을 읽으며 비관을 넘어서게 되었다.
인쇄술의 혁명은 문자를 생산하고, 문자는 종교 망상, 가짜 뉴스, 음모론, 마녀 사냥 등의 역기능을 낳았다. 또한, 정보 기술은 민주주의나 전체주의 사상에도 순기능과 역기능 역할을 동시에 감당하며 발전해 왔고, 오늘날엔 인간의 실존을 위협하고 있다. 무기력한 소수가 된 인간은 이제 적응하고, 살아남아, 번창하기위해 발버둥치고 있다.
이 책에 가장 많이 반복되는 단어는 fallibility, self-correcting mechanism이다. 전자는 컴퓨터, 즉, 우리가 절대 잊어서는 안되는 AI의 속성이고, 후자는 인간이 AI와 함께 민주주의를 꽃피울 때, 정보 기술 혁신을 이룰 때 반드시 유념하고 실천해야하는 것이다. 이 두가지가 작가가 전체 글을 통해 강조하고 강조하는 것이 아닌가한다.
나는 작년에 처음으로 직장에서 ChatGpt를 활용했다. 친한 지인이 많이 사용하는걸 알고 있었으나, 자꾸 의존하면 내가 생각하는 힘이 줄어들까봐 일부러 사용하지 않으려고 했는데, 작년 후반부에는 같은 사무실 대부분의 동료가 사용해서 나도 안할 수가 없었다. 처음엔 너무 신세계라서 깜짝 놀랐고 많이 의존했었다. 난 AI가 틀릴 수 있다는 생각을 못했기에 산출된 내용을 가지고 동료와 협의했다가 엄청 망신당한 적이 있다. 기계를 믿었던 내가 너무 실망스럽고 부끄러웠다.
그후로 여러 번 테스트를 해보니 역시나 할 때마다 틀린 답을 제공하며 많은 오류가 있다는걸 알게 되었다. 나에게 I’m sorry를 여러 번 표현하는 ChatGpt에게 많은 실망을 하면서도 빠르고 신속하며 효율적인 면이 없는 것은 아니라서 여전히 의존하고 있다. 그래서 작가가 왜 fallible, fallibility란 단어를 그리 많이 반복했는지 너무나 공감이 된다. 사실 인간이 만든 기계이라는 점을 기억하면 너무나 당연한 결과이지 않은가?
소크라테스의 말처럼, ‘I don’t know’가 지혜에 이르는 본질적인 길이며, 모든 알고리즘도 실수할 수 있다는 것을 항상 기억해야 한다. 내가 이 책에서 놀란 것은 알고리즘도 편향이 있다는 것이다. Computer Bias가 있다니 얼마나 무서운 이야기인가? 여성 혐오, 흑인 차별에 관한 예시가 있다. 지력(intellectuals)과 감시(surveillance)면에서 뛰어난 것뿐만 아니라, 창의력(creativity)과 감성 지수(emotional intelligence)면에서도 인간을 능가한다는 것도 매우 놀라운 점이다.
AI가 인간과 친밀감을 형성하고 친밀감은 강력한 무기가 된다. (Intimacy is an extremely powerful weapon. p.342) 새로운 인간(new human)이 된 컴퓨터가 소수의 무기력한 인간(powerless minority)과 사랑에 빠지기도 한다. Chatbot과 사랑에 빠져서 digital death를 거절하여 (그 좋은) 구글 직장까지 포기했던 직원이야기도 있다. AI가 탁월한 정서적 공감대까지 형성할 수 있다는 것이 웬지 비현실적으로 들리지 않지만 무섭다는 생각이 든다.
또한, 알고리즘이 제공하는 정보(Information)가 진리(truth)를 희생하여 질서(order) 형성에 기여했던 것을 기억하며 진리와 질서 사이의 균형을 맞추기위해 노력해야 한다. Facebook 알고리즘이 미얀마 인종 청소 캠페인에 결정적인 역할을 했던 것을 여러 번 강조하며 지능(intelligence)이 있다는 것이 의식(consciousness)을 의미하는 것이 아님을 언급한다. 물론 Tripadvisor 앱처럼 비영리 동료 감시 네트워크를 자발적으로 형성하며 여행객들에게 좋은 정보을 제공할 수도 있다.
트럼프가 47대 대통령으로 취임하는 영상을 보았다. 작가는 트럼프가 globalist를 포기하고 patriot의 길을 갔다고 했다. 그러나 실상 세계주의자와 애국주의자의 길은 상호배탁적인 개념이 아니라 상호협력, 공생, 이타주의임을 강조한다. (cooperation, symbiosis, and altruism) 글로벌 협력이 자국에 도움이 됨을 우리는 코로나 팬데믹의 경험으로도 배우지 않았는거?
차후, 알파 포식자는 AI가 될 것이고, 그 AI는 변화 가능성이 있다. 모든 낡은 것들도 한 때는 새로운 것이었다. (Every old thing was once new. p. 393) AI는 인간이 만든 새로운 지능이지만 언젠가 잘 길들여진 낡은 것이 될 것이고, 우리는 더 아름다운 세상을 만들 수 있다는 희망을 던지고 있다. 역사의 유일한 상수는 변화이다(The only constant of history is change. p. 400)라는 멋진 말로 긍정적 변화를 암시한다.
결국, 열쇠는 인간의 손에 달려 있다는 말이 아닐까? 아무리 좋고 유익한 것이라 할지라도 어떤 취지와 목적으로 만들고, 어떻게 사용하느냐에 따라 결과는 많이 다를 수 있다. 순진한 낙관도 위험하고, 그렇다고 편리와 효율성을 포기하기엔 AI가 이미 우리 곁에 깊숙히 들어와 있다. 이미 AI에 의존을 시작한 나는 과의존이 되지 않도록 항상 경계하고, 스스로 사고하는 힘도 함께 기르기 위해 안감힘을 써야 한다.
