AI기술은 인간의 본성을 보여주는 거울

AI와 살아가기 위한 기초 지식 - AI 개념부터 위험성과 잠재력, 미래 직업까지 AI 세상에서 똑똑하게 살아가는 법
타비타 골드스타우브 지음, 김소정 옮김 / 해나무 / 2024년 1월

AI기술은 인간의 본성을 보여주는 거울

- 《AI와 살아가기 위한 기초 지식》

타비타 골드스타우브 지음 | 김소정 옮김 | [해나무] (2024)

《AI와 살아가기 위한 기초 지식》을 읽으면서 간간이 새롭게 깨닫게 된 것들이 몇 가지 있다. 우선 AI에 대해 독자에게 이야기해주는 저자 타비타 골드스타우브가 공학도가 아니라 어렸을 때 게임에 심취했던 평범한 여학생이었지만, 이내 AI 기술과 영향력을 잘 이해하고 이를 사업으로 만든 스타트업 기업가가 된 인물이다. 또 한 가지는 이 책의 가장 큰 특징이라고 할 수 있는데, 바로 (백인)남성의 전유물처럼 보이는 기술·공학의 세계에서 ‘성평등’의 입장을 분명히 취하고 있다는 점이다. 이미 한쪽으로 치우쳐버린 운동장 전체를 다시 평편하게 만들려면 꽤나 오랜 시일이 걸릴 것 같다.

한 가지 놀라웠던 부분은 AI의 기반이 되는 연구분야에서도 이미 많은 여성 과학자들이 활약을 하고 있었다는 사실이다. 과학사에 꽤나 관심을 갖고 읽어왔다고 자부하는 독자라고 하더라도, 천재 수학자이자 컴퓨터 이론의 선구자로 여겨진 존 폰 노이만이 부인과 공동 연구를 했다는 사실을 아는 사람이 얼마나 될까? 나는 이 책을 통해 이 사실을 처음 접했다. 그만큼 한쪽 세계의 진실은 아주 두터운 장막으로 가려져 있었다는 생각이 들었다.

영화 <이미테이션 게임>에서 천재적인 수학자로 나오는 조앤 클라크도 실제보다는 튜링에 초점이 맞추어진 이유로 크게 부각되었던 캐릭터는 아니었다. 또 영화 <히든 피겨스>에서 천재적인 계산능력을 보유했던 흑인 여성들이 NASA에서 연구하기 위해 포트란을 독학하고, NASA의 전산원을 이끌기까지의 이야기는 상당히 짜릿한 쾌감마저 주었던 기억이 났다. 인종과 성차별이라는 두터운 벽과 맞서 자신의 존재를 당당히 드러낸 흑인 여성 연구원들에 대한 경외감마저 들었던 이야기였다. 이 책의 저자는 이렇듯 AI와 관련하여 일반 독자가 알아야 할 사실들을 알려주면서도, 동시에 크게 기여했고, 지금도 기여하고 있는 여성 과학자들을 소개하거나 함께 나눈 대화를 제시한다. 저자의 관심사와 입장이 아주 분명한 AI소개 책인 셈이다.

저자는 AI분야가 자신의 모든 열정의 근원인 듯 이야기하면서도, AI기술이 인간에게 가져올 수 있는 위험성을 경고하는 것도 잊지 않는다. 사실 책을 읽으며 다시금 깨닫는 점인데, 우리는 이미 AI기술의 한 가운데에서 살아가고 있다. 동시에 저자가 언급한 위험과 언제든 가까이 있기도 하다. 결국은 인간이 이러한 기술 그 자체와 본성에 대해 얼마나 잘 이해하고 있느냐의 문제다. 그런데 한 걸음 더 나아가 생각해보면 이 문제는 AI기술이 결국은 인간의 본성을 그대로 비추어주는 거울이란 생각에 가 닿는다. 기존에 생성된 텍스트에 의존하여 학습하는 경우, 이미 성차별적, 인종차별적 문서들이 가득한 이 세계에서 기계가 학습하여 내놓는 견해는 이미 이러한 차별적인 시각에서 자유롭지 못하게 되는 이치다. 여전히 AI가 내놓는 결과물은 인간의 편견과 착오로부터 결코 무관하지 않은 것이다. 

누군가는 내가 지나치게 AI기술에 대해 우려를 하거나 부정적인 입장이 아니냐고 반문할지도 모르겠다. 하지만 이 책을 읽고서 내가 걱정하는 부분은 AI 기술 그 자체라기보다는 인간의 본성 그 자체라는 점을 깨닫게 되었다. 나는 인간이라는 존재의 깊은 심연 속에 꽁꽁 숨어 있는 어두운 본성에 회의하고 두려워하고 있었던 것이라 생각한다. 과학자, 공학자들이 ‘좋은 의도’로 연구를 하고 결과물을 내놓더라도, 기업가나 정치인들이 이를 공공의 선을 위해 사용하지 않으면 결국은 무용지물이 아닌가. 그리고 나의 이 우려는 인간의 역사 이래 꾸준히 우리 자신을 어김없이 공격해왔다.

AI가 가져올 수 있는 위험 요소가운데 내 기억에 남는 것 하나는, 얼굴 인식 소프트웨어와 관련한 것이었다. 누구나 한번 쯤 셀피 앱을 사용해보았을 테다. 이 앱으로 재미있는 표정이 담긴 자신의 사진을 가상 공간과 인터넷에 올리게 되면, 얼굴 인식 소프트웨어는 이 이미지들을 학습하고 훈련하여 신원 확인에도 사용될 수 있는 셈이었다. 저자는 ‘이 기술을 법 집행 기관에 판매했다는 기사’를 언급했는데, IBM도 사용자들의 분명한 허락을 구하지 않고 플리커에 올라온 사진을 이용하여 얼굴 인식 앱을 훈련한 것이 지금 우리가 살고 있는 현실이다. 말하자면 AI기술은 누군가가 마음만 먹으면 길거리에서 보이는 이의 신원과 그 밖의 사생활을 알아낼 수 있다는 사실이다. 겁부터 낼 필요는 없다는 주장에는 수긍하지만, 이러한 기술이 실현가능하다는 점이 중요하다. 또 이런 상황이 사생활 침해의 문제에서만 끝날 것 같진 않다. 이런 현실에서 건강 정보와 같은 개인정보가 보험이나 취업, 진학 등에도 영향을 미치지 않을 것이라고 누가 확신할 수 있을까?

AI에 대한 열정을 지니고 이를 전파하고자 하는 저자가 이러한 위험성을 경고하는 것이 어쩌면 이상하게 여겨질 수도 있다. 하지만 저자의 입장은 오히려 우리가 어떠한 기술을 다루고 있으며, 어떤 위험성과 이로운 점이 있는지를 속속들이 알고 통제해야한다는 입장에 더 가깝다. 여기에 이 과정에서 저자는 다양하게 AI기술을 고민하는 과학자, 공학자, 커뮤니케이터, 작가 등의 말에 귀를 기울인다. 여러 여성 지식인들이 기대하는 '부드러운 기술‘에도 불구하고 사실 나는 여전히 우려스럽다. 그 이유는 이 모든 기술과 지성의 결과물들을 현실에서 가능하게 하는 주체가 기업인과 정치인이기 때문이다.

인간은 고된 노동과 반복 작업을 줄이고자 훌륭한 도구를 발명하고 개선해왔다. 짧은 시간에 더 많은 일을 할 수 있게 되었다. 100년 전에 일주일 걸려야 할 수 있었던 이들이 이제는 단 한 시간에 해결이 되기도 한다. 그럼 인류는 이 일주일에 가까운 잉여 시간을 인간의 행복을 위해서 쓸 수 있게 되는가의 문제다. 우린 그렇지 않다는 것을 잘 알고 있다. 단축한 시간만큼 노동자는 더 많은 일을 하여 생산성을 높일 것을 끊임없이 강요받게 되기 때문이다. 이를 가능하게 하는 주체가 누구인가 묻지 않을 수 없다. 나의 좁은 소견에 따르면 인간이 개발한 좋은 기술들은 대부분 인간의 행복 증진을 위해 사용되지 못했던 것이다. 여기에 가장 큰, 본질적인 문제가 있다. 3차 기술 혁명이든, 4차 기술 혁명이든 그 국면이 매번 바뀐다고 하더라도, 문제는 결국 우리 인간에게 놓여 있다. AI기술 역시 결국은 급변하는 기술문명 시대에 인간은 인간을 어떻게 대우하는가의 문제가 가장 중요하고 본질적인 화두가 아닐까 싶다. AI기술과 관련한 논의가 과학자와 공학자들만의 것이 아닌 까닭이다. AI 관련하여 철학자를 비롯한 인문학자들이 활발하게 연구에 참여하고 고민하는 이유가 바로 이 본질적인 문제를 겨냥하고 있기 때문이 아닌가. 결국 AI는 인간이 우리 자신을 어떻게 바라보고, 어떻게 처우하며 살아갈 것인가의 철학을 반드시 수반해야한다는 명제를 던져주고 있다.