어떻게 인간과 공존하는 인공지능을 만들 것인가

어떻게 인간과 공존하는 인공지능을 만들 것인가 - AI와 통제 문제
스튜어트 러셀 지음, 이한음 옮김 / 김영사 / 2021년 6월

 현재 118개국, 1500여 대학에서 교재로 사용하고 있는 인공지능계의 바이블 <인공지능>의 저자 UC 버클리의 스튜어트 러셀 교수가 쓴 AI의 현재와 미래를 생각해볼 수 있는 <어떻게 인간과 공존하는 인공지능을 만들 것인가>가 이한음 역자를 거쳐 탄생했다. 

"우리 지능보다 훨씬 더 뛰어난 지능을 만난다는 것은 인류 역사상 가장 큰 사건이 될 것이다. 이 책의 목적은 왜 그 일이 인류 역사의 마지막 사건이 될 수도 있는지, 그리고 그렇게 되지 않게 하려면 어떻게 해야 하는지를 설명하는 것이다."

 이 책에는 인공지능의 현주소에서부터 앞으로 예측 가능한 미래에 대해서도 짚어본다. 그리고 인공지능의 능력치가 올라가면서 생기는 문제들, 초인공지능의 출연으로 인해 현재 인간과 고릴라의 관계처럼 인간이 인공지능 대비 고릴라가 될 수 있다는 '고릴라 문제'에 대해 언급하며 우월성과 자율성에 관해 설명한다.

 그렇다면 우리는 AI를 어떻게 바라봐야 할 것인가? 

저자는 '우리가 무엇을 선호하는지를 AI가 잘 모르게' 만들어 우리 인간의 목표를 추구하는 겸손하고 이타적인 존재가 되도록 해야 한다고 말한다. 

거시적인 관점에서 용기있게 자신의 주장을 말하고 끌고 가는 거장의 모습은 아름다우나 과연 현실에서 이게 잘 적용될지가 관건이다. 

현재의 인공지능 개발 방식은 '최적화하는 기계를 만들고, 목적을 주입하고, 작동시키는 방식'으로 이루어져 있는데, 그 뒤에는 이로 인해 이익을 보는 집단들이 꼭 있고, 인간의 욕망과 욕심은 인간의 본성이기에 오히려 인공지능을 만드는 인간들부터 도덕적인 교육을 제대로 받아야 하지 않을까 하는 노파심이 든다. 

인공지능은 점차 발달하고 있는데 그럼 인간은, 아니 나는 앞으로 이런 세상에 대비하기 위한 인간만이 가질 수 있는 고유의 능력을 발달시켜야 할 텐데... 걱정이다...

"이런저런 AI 기법이 “인간의 뇌처럼 작동한다”라는 기사를 읽을 때면, 그 말이 그저 누군가의 추측이거나 그냥 허구라고 의심해도 괜찮다.

정말로 우리는 의식이라는 영역에 관해서는 아무것도 모르기에, 나도 아무 말도 하지 않으련다. AI 분야에서 누구도 기계에 의식을 부여하려는 연구를 하고 있지 않고, 그 일을 어디에서 시작해야 할지 아는 사람도 전혀 없을 것이고, 그 어떤 행동도 의식을 선행조건으로 삼지 않는다."