AI 논쟁에 대한 마침표이자 새로운 논의의 시작

어떻게 인간과 공존하는 인공지능을 만들 것인가 - AI와 통제 문제
스튜어트 러셀 지음, 이한음 옮김 / 김영사 / 2021년 6월

AI 분야의 결정판 교과서로 인정받는 <인공지능>의 저자 스튜어트 러셀 교수가 일반인을 대상으로 쓴 AI의 현재와 미래 <어떻게 인간과 공존하는 인공지능을 만들 것인가>. 인공지능이 가져올 낙관적 전망과 디스토피아적 전망을 두루 살펴보며 초지능 기계의 위협을 통제하기 위한 해결책을 제시합니다.

영화 <트랜센던스>에서는 천재 과학자가 AI 반대 단체의 총에 맞아 목숨을 잃자, 정신을 양자 컴퓨터에 업로드해 새로운 힘을 얻는 걸 볼 수 있습니다. 인공 초지능에게 인류의 통제권이 상실하게 되는 상황을 다룬 여타의 영화를 보면 정말 그럴듯해서 두려움에 사로잡힙니다. 과연 초지능 AI는 정말 탄생될까요.<어떻게 인간과 공존하는 인공지능을 만들 것인가>는 직관적인 제목처럼 기계가 인류에게 도움을 주는 상태로 영구히 남아 있게 할 방법을 모색합니다.

먼저 인간과 기계의 지능이라는 개념으로 정확히 짚어봐야 한다고 합니다. 과학사에서 AI 거품을 두 차례 겪고 AI 겨울을 보내가 급격한 발전 속도를 보인 AI. 아직은 초인적 지능을 갖춘 기계가 출현할 거라는 기대는 없지만, AI를 발전시키면서 결코 우리를 지배할 능력을 갖지 못하게 하려면 어떻게 해야 할까요.

AI는 목적을 최적화하는 기계입니다. 여기서 목적은 인간의 목적입니다. 우리가 원하는 것이지요. 우리 인간의 목적을 추구하라고 설계한 AI는 지적일 뿐 아니라 인류에게 유익합니다. 기계가 허가를 요청하고, 수정을 받아들이고, 작동을 멈추는 일을 허용하는 상태입니다. 인간이 부여한 정해진 목표를 기계가 최적화한다는 AI 표준 모형. 이 지점에서 저자는 생각해 볼 문제를 던져줍니다. 성공의 정의 자체가 잘못되지는 않았는지 말이죠.

현재 자율주행차, 인공지능 개인 비서, 스마트홈과 가정용 로봇 등은 그다지 지적이지 않은 상태이지만, 개념적 돌파구만 있다면 매우 갑자기 초지능 AI가 출현할 수도 있다고 합니다. 다만 우리가 상상한 것처럼 전지전능한 힘을 지니게 될 것이라는 건 사실상 가능성이 없다고 해요.

우리는 아직 기계를 진정으로 지적으로 만드는 방법을 모릅니다. 기계가 IQ가 인간을 넘어서려 한다는 건 네 발로 걷는 동물을 사람의 10종 경기에서 뛰게 하려고 시도하는 것과 비슷하다고 합니다. 알파고를 이긴 알파제로는 2인용 게임 유형에 적합하지 운전, 교육, 정부 운영, 세계 정복에는 먹히지 않는다는 겁니다. 

그럼에도 나쁜 의도를 지닌 AI의 오용 문제는 부지기수입니다. 우리가 이미 두려워하는 그것들입니다. 감시, 설득, 통제, 치명적인 자율 무기, 기술적 실업, 그 외 빼앗길 다른 역할들을 조목조목 짚어줍니다. 좀 더 나아가자면 상당히 더 뛰어난 지능을 지닌 기계가 존재하는 세상에서 인류가 우월성과 자율성을 유지할 수 있느냐의 문제, 인간의 목표와 초지능 기계가 지닌 목표가 상충할 때 기계가 자신이 원하는 목표를 추구하는 문제, 지능 폭발로 통제 문제를 해결할 시간조차 없을 수도 있다는 문제 등 생각해 볼 수 있는 다양한 문제점을 들춥니다.

이렇다 보니 AI의 위험을 지적하는 이들과 그 위험에 회의적인 이들 사이에 AI 논쟁이 있을 수밖에 없습니다. 여러가지 논쟁 사례를 가져와서 조목조목 짚어줍니다. 저자는 현재 AI 논쟁 수준은 퇴보적인 주장 일색이라고 비판하며, AI 통제 문제와 관련해서는 위험이 전혀 없는 핵에너지를 생성할 단순하면서 완벽한 해결책을 찾아내는 것과 다를 바 없다고 합니다.

그렇다고 해서 해결책이 전혀 없다는 말은 아닙니다. 고도 지능을 지닌 기계가 주어졌을 때, 그것을 통제할 방법을 알아내는 것이 현재 AI 과제가 아니라는 것부터 지적합니다. 현재 당면한 과제는 우리의 어려운 문제를 해결하도록 도울 수 있게 고도 지능을 지닌 기계를 설계하면서도 그 기계가 절대로 우리를 몹시 불행하게 하는 방식으로 행동하지 못하게 만드는 데 있습니다.

지금까지는 표준 모델을 채택해 최적화하는 기계를 만들고, 목적을 주입하고, 작동시켰습니다. 잘못된 목적을 주입한다면, 전원을 끄고, 문제를 바로잡고, 다시 시도할 기회가 충분히 있었습니다. 하지만 기계의 지능이 더 올라가고, 행동의 범위가 더 세계적이 되어감에 따라 이 접근법은 유지될 수 없다고 합니다. 그런 기계는 목적 달성에 도움이 되는 자원이라면 무엇이든 다 획득할 거라고 말이죠.

여기서 저자는 이로운 기계라는 개념을 소개합니다. 자기 자신의 목적보다는 우리의 목적을 달성할 것이라고 예상할 수 있는 행동을 하는 기계입니다. 얼마나 지능이 뛰어나든 간에, 우리에게 전혀 위협이 안 되는 기계 말입니다. <어떻게 인간과 공존하는 인공지능을 만들 것인가>에서는 이로운 기계의 3원칙을 이야기합니다. 전적으로 이타적인 기계, 겸손한 기계, 인간의 선호를 예측하는 법을 배우는 기계입니다.

이를 위해서는 그동안 우리가 알고 있었던 주어진 목적을 최적화하는 기계로서의 AI 개념을 새롭게 정의할 필요가 있습니다. 증명 가능하게 이로운 AI를 위해 어떻게 해야 하는지 구체적인 방식을 하나씩 소개합니다. 앞서 말한 세 원칙이 잘 담긴 다양한 해결책들이 등장합니다.

기계의 목적을 훨씬 더 미묘하고 정확하게 정의하고, 현실 세계의 복잡성에 따라 AI에게 심리학, 경제학, 정치론, 도덕철학의 개념도 추가해야 합니다. 아직은 갈 길이 멉니다. 인류 미래의 핵심이 될 AI 기술. 인간에게 끼칠 영향에 대해 올바르게 인지하면서 AI에 대한 넓고 깊은 논의를 담은 <어떻게 인간과 공존하는 인공지능을 만들 것인가>. AI 논쟁에 대한 단 한 권의 책을 고르라면 이 책을 손꼽고 싶습니다.

​​​​​​​​※ 출판사로부터 도서를 제공받았습니다