-
-
어떻게 인간과 공존하는 인공지능을 만들 것인가 - AI와 통제 문제
스튜어트 러셀 지음, 이한음 옮김 / 김영사 / 2021년 6월
평점 :
※ 이 서평은 전문가가 아닌 일반 대학생의 관점으로 쓰인 서평으로, 전문성이 다소 떨어질 수 있습니다. ※
책의 개요
1-3장 인간과 기계의 지능
4-6장 기계에 지능을 부여할 때 생기는 문제들
7-10장 AI를 바라보는 새로운 관점과
기계가 인류에게 도움을 주는 상태로 영구히 남아있게 할 방법
현시점에서 머신러닝, 딥러닝, AI가 각광받는 이유는 이미 산업 발전이 정점을 이룬 시점이 지난 지금의 시점에선 가장 큰 발전을 가져다줄 가능성이 많기 때문이다. 하지만 많은 공상과학 영화에서는 일반인들로 하여금 AI에 대한 두려움의 인식을 가지게 만들어준다.
인간은 글을 읽음으로써 그 동작과 행위를 상상하고 즉시 따라 할 수 있다.
이러한 인간의 감정, 지능, 해결 능력 등등
이것을 AI로 적용하려면 어떻게 해야 할까?
이러한 고민은 지금도 수많은 공학자들이 고군분투하여 해결하려는 난제이다.
사실상, 파이썬이나 자바를 현 대학생들은 기본적으로 배우며 미래를 대비하고 있다. 현재 우리가 AI라고 여기는 것들은 거의 대부분 프로그래밍을 개발자들이 입력해놓은 것으로, 아직 기계들이 스스로 판단을 내리고 인간적 지능이 있다고 보기 어렵다. 실제로 대학교 프로그래밍 수업에서도 기계는 철저히 멍청하다는 것을 먼저 배우고 시작한다. 바로 0과 1의 기계어로 되어있다는 사실이다. 초기 인간은 그것을 01, 011, 0101, 등 하나하나 입력하였다. 지금 내가 쓰는 이 글자도 한글 - 자음 - 몇 번째 - 모음 - 몇 번째 - 띄어쓰기 등등 여러 가지 구성을 0과 1의 조합으로 입력받아 무수한 숫자를 입력받고 반환하여 화면에 이렇게 출력시켜주고 있는 것처럼. 그래서 컴퓨터학과 학생들의 여담에 따르면, 프로그래밍과 코드 노예가 있을 정도로 코드를 짜는 것은 길긴 하지만 어렵지는 않다. 단, AI를 이용해 인간의 지능과 같이 돌발 상황에 대응하고 학습효과를 보이면서 우리가 원하는 요구대로 어떻게 구축을 할 수 있을지가 관건인 것이다.
이것을 이해할 수 있는 대목은 여기서 나온다.
그런 행동들이 라이브러리에 들어 있으면, 우리는 그런 높은 수준의 행동을 엮어서 더욱 높은 수준의 행동을 생성할 수 있다.
···
"문명은 우리가 무심코 할 수 있는 중요한 조작의 수를 늘림으로써 발전한다.(앨프리드 노스 화이트헤드)"
p.134
게임이론과 관련하여 여러 가지 논증을 펼치는 것을 보며, 왜 인문학적 소양과 공학적 소양을 동시에 가진 융합적 인재가 각광받는지를 이해하게 되었다. 물론 공학적 소양을 가진 사람이 압도적으로 유리할 수밖에 없다. 하지만 프로그래밍에 있어 가장 처음에 하는 것은 마인드맵이나 의사결정 트리를 통해 논증해보는 것으로 어떤 것이 최대 이익과 최소의 손실을 가져다주는가에 의해 가장 최적화되었는지 분석하는 단계이다.
이러한 점증적인 방식으로 인공지능 또한 학습을 하게 되어있다. 하지만 인간이 권리를 가지고 불의에 타협하지 않고 논쟁하는 등의 다양한 양상을 기계의 의사결정에 어떻게 주입을 시켜야 할까? 또는 딜레마와 윤리에 대해서는 정해진 정답이 없는데, 이러한 것을 감안하여 해결해 줄 수 있을까? 그런 것에는 정답이 없을뿐더러 인간들도 의견이 분분하게 갈린다. 이에 인공지능이 안전하다는 논리가 흔들리게 된다.
이러한 상황들 속에 우리는 이런 생각을 할 수 있다.
"편향된 생각과 방향을 가지고 기술을 개발하게 되는 것을 막기만 하면 된다. "
설령 모두가 동일한 선호 구조를 지닌다고 해도 균형은 필요하다. 모두의 선호를 최대로 충족시키는 것은 대개 불가능하기 때문이다.
이 책은 우리에게 인문학적 소양의 중요성을 다시 한번 일깨워주도록 한다. 다소 사소한 가설을 가지고도 인간의 입장으로만 생각했을 때는 보이지 않던 논제들이 인공지능의 입장에서 생각해 보았을 때 놓치고 지나갔던 것이 있었다. 공리주의 입장에서와 소수의 입장, 사람 대신 로봇을 이용해 공격하고 로봇이 피해를 대신 입는 경우. 만약 초지능이 실현되어 인공지능이 여러 시험을 통해 사람의 권리와 자신의 권리를 동일시하게 된다면? 그렇다면 자신이 위험에 처했을 때 생존본능이 발휘될까?
이러한 생각들이 우리를 두려움에 떨게 만들었지만 내 생각은 인공지능이 우리를 지배할 수 없을 것이라는 생각이 든다. 기계가 최적의 목적 달성을 위해 인류를 파괴한다는 것은 프로그래밍 입장에서는 할 수 없을 것이라는 학자들 말에 동의하는데, 모든 확률을 계산하는 장치임에 불과할 뿐이라고 생각한다. 다만 놀랐던 것은 범용적인 기법으로 탄생된 알파고가 그 엄청난 양의 바둑 전용 코드를 짜지 않은 채 개발했다는 것으로 결정을 내리는 데 쓰는 전방 탐색과 판세를 읽는 법을 배우는 데 쓰는 강화 학습이 실현된다는 것을 볼 수 있었는데 이로써 사람들이 AI가 인간을 정복할 것이라는 예측을 내어 놓게 된다. 하지만 딥러닝도 결국 인간이 구축한 것이고, 인간의 지능 및 감성 등을 복제하기 위해서는 뇌구조를 파악하거나 신경망을 분석할 수 있어야 하는데, 그 연구는 인간도 아직 진실에 도달하지 못했다. 알파고와 같은 AI는 이전에 이겼던 사례들을 시뮬레이팅을 통해 최적의 대안을 내었다. 만약 그런 사례가 없고 지는 것을 "이기는 것"이라고 학습시키는 것은?
인간은 여러 가지 방면에서 상관관계를 가지고 있으며 대처능력이나 그에 따른 감정 표현은 정의 내리기가 힘들다. 나는 이렇게 예를 들어보고 싶다. 어떤 한 지문을 가지고 문과와 이과에게 보여주었을 때 문과는 그 지문을 느끼고 여러 가지 비유 표현, 직설법, 반어법 등을 사용해 또 다른 관점으로 창조해나가는 반면, 이과는 그 지문을 있는 그대로 분석한다. 그런데 이것도 일반화가 아닐까? 오히려 이과가 여러 가지 관점이었을 수도 있다. 그 지문이 공학적 수식일 수 있기 때문이다. 이처럼 전혀 다른 딜레마들과 사소하지만 맹점을 찌르는 논점들을 통해 저자는 우리가 인공지능과 철저히 다른 이유, 인공지능과 인간을 동일시하면 안 되는 이유들을 누누이 강조하고 있다.
다만, 당장 우리를 잠식해오는 시행착오들에는 주목할 필요가 있다. 딥페이크로 인한 온라인 성범죄, 또는 인공지능, 키오스크 등으로 일자리를 잃어가는 사람들. 여기서 우리는 또다시 행복에 대해서 생각해 보게 된다. 인간과 기계가 발전하는 간극이 벌어질수록 어떻게 분석될 수 있었는지 이해할 수 없는 결과가 나올 수 있으며 그렇게 지능이 떨어지는 인간은 단순노동, 서비스업과 같은 감정노동의 일자리밖에 남지 않을 것이다. 아니, 단순노동 또한 충분히 대체될 수 있다. 우리는 어느 관점에서든지 균형을 지켜야 한다. 오로지 인간의 발전을 위해 개발에만 몰두해왔던 지금 공리주의를 둘러싼 철학적 논쟁과 경제적 논쟁을 조절할 수 있어야 한다.
인공지능의 무궁한 발전에 반대하는 사람으로서 흥미진진하게 볼 수 있었던 책이다. 한 가지에 치중된 지식이 아닌 여러 방면으로써 딜레마에 빠져도 보고, 현실을 직시해보며 인간의 현 위치가 어디인지 잡아주는 정보를 들려주고 있다. 저자는 인공지능의 교과서였던 책을 써왔으며 어떤 면에선 가장 인공지능에 대해 많이 생각해 본 경험자임이 느껴졌다. 그런 저자가 하는 말을 우리는 허투루 들으면 안 된다고 생각이 된다. AI에 대해 근본적으로 잘못 알고 있는 것들을 집어주고, 왜 공상과학 소설과 영화들이 말이 안 되며, 또 말이 될 수 있는 이유는 무엇일지 인간의 전반적인 지능 면에서 여러 가지의 예를 들어주기도 한다. 다소 전공지식이 나오기는 하지만 정말 미래가 궁금하고 인공지능이 무엇인지 궁극적으로 알고 싶었던 사람들에게 매우 추천할 수 있는 책이다. 우리는 미래를 예측할 수 없다. 하지만 이에 대응해야 하고 가능성을 열어놓아야 한다. 미래에는 이 일이 재앙이 될 수도 하나의 터닝포인트가 될 수도 있지만 지금 당장은 인공지능을 공부하고 그 본질에 대해서 알아놓아야 할 것이다.
"이 서평은 김영사 대학생 서포터즈 활동의 일환으로 김영사로부터 도서를 지원받아 작성하였습니다"
#김영사 #서평 #솔직후기 #AI #인공지능 #어떻게인간과공존하는인공지능을만들것인가 #스튜어트러셀
#인공지능책 #추천책 #인공지능관련서 #트렌센던스 #공상과학 #대학생추천책 #대학생서포터즈 #서포터즈 #독후감 #미래 #필독서