*본 포스팅은 출판사로부터 도서를 제공받아 주관적으로 작성한 리뷰입니다.
순수한 인공지능은 없다 서평｜AI의 앞 모습보다 그 뒤에 있는 사람과 세상을 보다
요즘 인공지능 놀라울 만큼 우리에게 가까이 다가 오고 있다. 어제 신문을 보니 28년부터 우리나라도 자율 주행을 허락하는 분위기이며 미국처럼 우버 택시가 나오면 기존 택시 영업을 하는 사람 일자리가 위태로운 것은 사실이다. 이런 분위기로 일자기가 생성되는 것도 있지만 잃는 직장도 많다.
AI를 사용 생활에 편리를 누리지만, 너무 AI를 믿고 따르다 보면 과거 영화에서 본 것처럼 로봇이 사람을 지배하는 세상을 맞이 할 수고 있다. AI분야를 연구하는 사람 중에 10년 내 AI가 인류를 전멸 시킬 확율 10% 이상이라는 평도 내 놓았다. 이런 상황에 AI를 너무 믿고 가까이 하기보다 어느 정도 거리를 두는 것도 필요해 보인다.
챗 GPT나 제미나이에 궁금증을 문의하면 몇 초 만에 답이 나오고, 긴 문서를 수정 정리를 해주며, 글에 맞는 사진도 잘 만들어 준다. 기업은 채용과 업무에 활용하고 국가는 복지와 치안, 의료와 행정에 데이터를 사용하고 있다. 불과 몇 년 전까지만 해도 먼 미래의 이야기처럼 들렸던 일이 어느새 우리 주변에서 많이 활용을 하고 있다.
인공지능에게 점점 더 많은 일을 맡기면서 정작 중요한 질문 하나는 놓치고 있는지도 모른다. 인공지능은 과연 누구의 판단으로 만들어지고, 무엇을 먹고 움직이며, 그 결과에 대한 책임은 누가 져야 하는가. 김은성의 "순수한 인공지능은 없다" 제목을 보면 인공지능 위험성을 경고하는 것처럼 보이지만, 컴퓨터 안에서 홀로 존재하는 순수한 기술이 아니라 사람과 데이터, 노동과 기업, 국가와 제도, 전기와 물, 천연자원까지 수많은 관계 속에서 만들어진다.
사람이 판단하면 감정과 편견이 들어갈 수 있지만 컴퓨터가 판단하면 조금 더 공정할 것이라고 생각을 한다. 그래서 법 집행을 하는 사람을 들어내고 AI로 집행을 하면 사람의 판단 오류를 줄일 수 있을 것으로 생각한다. 그러나 인공지능이 학습하는 데이터 자체가 인간 사회에서 만들어졌기에 사회 안에 존재하는 불평등이나 편견이 데이터에 포함되어 있다면 그것을 학습한 시스템의 판단에도 영향을 줄 가능성이 있다.
인공지능 이야기가 나오면 빠지지 않는 것이 일자리 문제다. AI가 사람의 일을 얼마나 대신하게 될 것인지 걱정한다. 하지만 자동화를 단순히 '기계가 사람을 대체한다'는 쪽만 보지 않고 자동화된 시스템 뒤에 데이터를 만들고 관리하며 플랫폼을 유지하는 새로운 형태의 노동이 생겨난다. 그리고 사람이 하기 힘든 일을 시키는 것은 좋은 현상이 아닐까?
오랜 직장 생활을 하면서 자동화 설비가 들어오는 모습을 많이 보았다. 자동화가 이루어진다고 사람이 완전히 필요 없어지는 것은 아니다. 기계를 설치하고 운전하며 점검하는 사람이 필요하고 문제가 발생하면 원인을 찾아 해결하는 것은 경험을 가진 사람이 꼭 필요하다.
개인적으로 가장 새롭게 다가온 부분은 인공지능과 에너지, 환경에 관한 이야기로 인터넷과 인공지능은 손에 잡히지 않기 때문에 물질을 거의 사용하지 않는 것처럼 보이지만, 실제로는 거대한 데이터 센터와 반도체, 통신망이 필요하고 이를 움직이기 위해 전력 그리고 열을 식히는 냉각 과정과 물, 여러 자원도 필요하여 투자를 많이 해야 한다.
우리가 인공지능에게 질문 하나를 던질 때 화면에 몇 줄의 글만 나타나지만 그 뒤에는 거대한 물리적 시스템이 움직이고 있고, 산업 현장에서 오래 일하다 보면 설비 하나가 정상적으로 돌아가기 위해 얼마나 많은 에너지와 사람이 필요한지 경험을 하였다. 겉으로 보이는 제품 뒤에 언제나 보이지 않는 공정이 많이 있는 것이다.
책에 팬데믹 당시 디지털 기술을 활용한 역학 조사 내용도 나온다. 감염병이라는 긴급한 상황에 데이터는 사람의 생명을 보호하는 중요한 수단이 되었으나 동시에 개인 정보 노출을 어디까지 허용을 해야 할 것이지 고민을 한다. 개인정보를 무조건 우선할 수도 없고, 공익이라는 이유로 모든 정보를 제한 없이 사용하는 것도 위험하다. 결국 기술이 할 수 있는 것과 사회가 허용해야 하는 것은 서로 다른 문제다.
법과 제도, 사회적 합의 그리고 인간의 판단이 필요하다. AI를 잘 사용하는 것보다 더 중요한 질문 "순수한 인공지능은 없다"라는 인공지능 사용법을 알려주는 책아 아니라 인공지능을 바라보는 우리의 시선을 한 걸음 멀리서 바라보게 된다. 우리는 지금 'AI로 무엇을 할 수 있을까?'라는 질문에 집중하며 더 빠르게 글을 쓰고, 더 멋진 이미지를 만들고, 더 많은 업무를 자동화하는 방법을 찾는다.
"우리는 어떤 인공지능과 함께 살아가고 싶은가?" 효율이 높아졌다고 좋은 사회가 되는 것은 아니다. 기술이 발전하고 누구는 더 많은 기회를 얻지만 또 다른 사람은 일자리를 잃거나 새로운 불평등을 경험할 수도 있다. 편리한 서비스를 얻는 대신 개인정보를 제공해야 할 수도 있고, 디지털 세상을 확장하는 과정에서 더 많은 에너지와 자원을 사용한다.
인공지능을 무조건 두려워할 필요도 없고, 반대로 모든 문제를 해결해 줄 만능 도구처럼 바라볼 필요도 없다. 중요한 것은 편리함에 감탄하면서 그 뒤에 무엇이 있는지 한 번 더 바라보는 태도가 아닐까? 사람이 있고 데이터가 있으며 노동과 자본, 그리고 전기와 물, 환경이 있다. 모든 것의 방향을 결정하는 조직과 사회가 있으니 좀 안심해도 될 것 같다.
책을 읽고 나니 AI에게 무엇을 시킬 것인가 보다 더 중요한 질문이 있다. 어떤 기술을 만들 것인가. 그리고 그 기술과 함께 어떤 세상을 만들어갈 것인가. 어쩌면 인공지능 시대에 가장 필요한 능력은 기계보다 더 빨리 답을 찾는 것이 아니라, 기계가 쉽게 대답할 수 없는 좋은 질문을 계속 던지면 사람은 기계에 지지 않고 살아남을 수 있지 않을까? 감사합니다. (제네시스 드림)
