인공지능이 우리를 해치지 않도록 하려면,『어떻게 인간과 공존하는 인공지능을 만들 것인가』

어떻게 인간과 공존하는 인공지능을 만들 것인가 - AI와 통제 문제
스튜어트 러셀 지음, 이한음 옮김 / 김영사 / 2021년 6월

바야흐로 인공지능의 시대다. 검색창에 ‘인공지능’을 검색해보면 온갖 뉴스들을 확인할 수 있다. 우리가 너무나도 잘 알고 있는 이세돌 9단과 인공지능 바둑 프로그램 알파고의 대결부터, 법률 인공지능 알파로의 등장, 돌봄서비스를 제공하는 인공지능, 펜데믹 확산을 예측하는 인공지능, 의료계에 사용되는 인공지능까지 주제도, 범위도 다양하다. 인공지능에 관심을 가지지 않는 게 이상할 정도다. 하지만 좀 더 자세히 파고들어 보자. 단지 인공지능이 우리의 삶과 가까워지고 있기에 인공지능에 주목해야 하는 것일까? 아니다. 바로 지금이 인공지능의 ‘정체성’을 고민해야 할 시기이기 때문이다. “인공지능이 인간을 지배하는 날이 언젠가 오지 않을까?”라는 질문에 대한 답이 필요한 시기이기 때문이다. ‘언젠가’가 아니라 몇 년 뒤가 될지도 모른다. 뛰어난 지능의 인공지능에 지배당하지 않고 공존하려면 어떻게 의문을 해소해줄 책이 바로 『어떻게 인간과 공존하는 인공지능을 만들 것인가』이다. 

“우리 지능보다 훨씬 더 뛰어난 지능을 만난다는 것은 인류 역사상 가장 큰 사건이 될 것이다. 이 책의 목적은 왜 그 일이 인류 역사의 마지막 사건이 될 수도 있는지, 그리고 그렇게 되지 않게 하려면 어떻게 해야 하는지를 설명하는 것이다.” 10p

저자 스튜어트 러셀은 ‘인공지능 전문가’다. 인공지능을 주제로 한 여러 연구를 해 왔고, 인공지능과 인간 사이의 관계에도 관심이 많다. 현재 캘리포니아대학의 컴퓨터과학 교수, 공학 부문 스미자데이 석좌교수로 재직 중이다. 버클리대를 중심으로 하는 인공지능연구소 ‘후먼컴패터블’ AI 센터를 창립했다. 또한, 여러 대학에서 AI의 대표 교과서로 사용하고 있는 『인공지능』을 집필하였다. 다른 분야 과학자가 아닌 인공지능 석학이 인공지능을 말하는 책이기에 더욱 신뢰가 간다. 

책의 목차는 이러하다.

1. 우리가 성공한다면

2. 인간과 기계의 지능

3. 앞으로 AI는 어떻게 발전할까? 

4. AI의 오용

5. 지나치게 지적인 AI

6. 그저 그런 AI 논쟁

7. AI: 다른 접근법

8. 증명 가능하게 이로운 AI

9. 상황을 복잡하게 만드는 요인: 우리들

10. 해결된 문제는? 

총 10장이지만, 세 부분으로 나눌 수 있다. 1~3장에서는 인간과 기계의 지능에 대해 다룬다. 인간이 어째서 지적인 생물체인지, 지적인 컴퓨터란 무엇인지 등을 알려준다. 마지막 3장에서는 AI의 발전 방향을 그린다. 4~6장은 우리가 기계에 지능을 부여할 때 생기는 문제점을 다룬다. 5장에는 인공지능에 관한 여러 유명인들의 의견들도 등장하지만, ‘그저 그런 AI 논쟁’이라는 소제목답게 저자가 보기엔 썩 훌륭한 논쟁들이 아니다. 7~10장에서는 (저자의 말을 빌려 말하자면) ‘AI를 바라보는 새로운 관점과 기계가 인류에게 도움을 주는 상태로 영구히 남아있게 할 방법’을 제시하고 있다. 

러셀은 7장, AI: 다른 접근법에서 인간과 공존하는 인공지능을 만드는 방법을, 인공지능이 우리에게 해를 끼치지 않도록 하는 접근법을 이야기한다. 

1. 기계의 목적은 오직 인간 선호의 실현을 최대화하는 것이다.

2. 기계는 그런 선호가 무엇인지 처음에는 확실히 알지 못한다. 

3. 인간의 선호에 관한 정보의 궁극적 원천은 인간의 행동이다. 

기계에 목적을 부여할 때는, 주체가 무조건 기계가 되어야 한다는 생각만 했던 이들에게는 실로 놀라운 접근법이 아닐 수 없다. 나 역시 기계에는 기계만의 명확한 목적이 존재한다고 생각했다. 하지만 저자는 기계에 ‘우리의 목적’, 즉 인간을 유익하게 되라는 목적을 부여해야 한다고 말한다. 기계는 인간의 선호를 완벽하게 알 수 없기에, 인간의 명령에 반항하지 않을 테고, 인간과 기계는 상호작용이 가능하다. 

“목적이 불확실하다는 것은 기계가 필연적으로 인간을 따를 수밖에 없다는 의미다. 즉, 기계는 허가를 요청하고, 수정을 받아들이고, 작동을 멈추는 일을 허용할 것이다. 기계가 명확한 목적을 지녀야 한다는 가정을 제거한다는 것은 인공지능의 토대 중 일부를 찢어내고 다른 것으로 대체할 필요가 있다는 의미다. 우리가 이루려고 시도하는 것의 기본 정의를 말이다. 또 그 상부구조(실제로 AI를 만들기 위해 쌓은 개념과 방법의 축적물) 중 아주 많은 부분을 재구축해야 한다는 의미다. 그렇게 한다면, 인간과 기계는 새로운 관계를 맺게 될 것이다.” 28~29p

이제 앞으로 인공지능이 우리의 삶을 어떻게 바꿔놓을지 모르는 상황에서 저자는 인공지능 설계가 끝난 뒤에야 규제하는 것이 아니라, 개발 과정에서 새로운 시스템을 설계할 필요가 있음을 주장한다. 기계의 목적을 우리의 목적으로 바꾸는 일. 이를 위해서는 인공지능 연구자뿐만 아니라 시민들의 관심도 필요하다. 

인공지능이 우리를 지배하지 않을까 염려되시는 분, 인공지능이라는 분야에 흥미가 있으신 분들에게 역시 추천한다. 일반 대중들이 이해하기 쉽도록 풀어 쓴 책이기 때문에 비전공자인 분들도 어렵지 않게 읽을 수 있을 것이다. 

이 서평은 김영사 대학생 서포터즈 활동의 일환으로 김영사로부터 도서를 지원받아 작성하였습니다.