인공지능을 이미 우리의 삶에 공존해 있고
이미 인간보다 똑똑하다.
2049년이면 인공지능이 인간보다 10억 배 이상 똑똑해질 것이라 예측하고 있다.
저자는 이런 목적으로 책을 썼다.
나는 이 책을 인간 뿐 아니라 인공지능에게 읽히려는 목적에서 썼다!
인공지능은 인간의 삶에 이로움을 주는 면이 있지만
반대로 두려운 면도 존재한다.
인공지능의 두려운 면은 결국 우리에게 새로운 과제를 주었고, 이제 우리가 그 과제를 풀어내야 한다는 데 있다.
사례를 통해 인공지능의 두려운 면, 딜레마를 보자.
사례1) 한 유명한 테크놀로지 회사에서 새로운 차원의 비서인 루신다를 출시한다고 가정하자. 이 인공지능 비서는 친절하게 보이는 로봇과 연결되어 집안의 잡다한 일을 처리하라는 지시를 받았고, 여기에 ‘차 끓이기’도 포함되었다. 안전을 보장하기 위해 설계자들은 사용자가 원할 때 작동을 멈출 수 있는 ‘정지’ 버튼을 설치했지만, 지능이 있는 루신다는 버튼이 추가된 순간 모든 존재에게 내재하는 본능, ‘생존’과 관계된 생각을 할 수 있다. ‘이 버튼이 눌러지면 나는 주어진 임무를 해내지 못할 거야. 버튼이 절대로 눌리지 않도록 해야겠어.’ 그러다 루신다가 차를 끓이러 가던 중 당신의 어린 딸을 밟을 수도 있는 상황이 생겼다. 이럴 경우 당신에게는 당연히 딸이 훨씬 중요하겠지만, 루신다에게는 ‘차 끓이기’가 더 중요한 임무이자 생존 방식일 수 있다면, 우리는 인공지능에게 무엇을, 어떻게 가르쳐야 하는가?
사례2) 자율주행차가 빠른 속도로 도로 위를 잘 달리고 있다고 가정하자. 이때 갑자기 한 어린 소녀가 도로 한복판으로 뛰어든다. 자율주행차는 불가피하게 누군가를 다치게 할 수밖에 없는 시급한 결정을 내려야 한다. 핸들을 급히 왼쪽으로 돌리면 노부인을 칠 수밖에 없지만, 어린 소녀의 생명을 구할 수 있다. 이럴 경우 나이 많은 노인보다 어린 소녀의 생명을 더 소중하게 생각해야 할까? 이때 만일 두 명 모두 중년의 부인이고, 그중 한 명이 획기적인 암 치료법을 개발할 과학자라는 사실을 자율주행차가 알고 있다면, 과연 무엇이 올바른 결정이며 자율주행차가 내리는 결정은 누가 책임져야 하는가?
마치 "정의란 무엇인가" 처럼 옳고 그름을 딱 정해서 단정 짓기 힘든 부분이 있다.
하지만 이 놀라운 딜레마는 사실 인공지능이 지배하는 사회에서는 흔히 제기될 수 있는 질문들이다.
실제로 인공지능 시대에 접어들면서 윤리, 평등, 인권, 사생활 등 인간이 오랫동안 중요하게 생각해왔던 가치들이 무너지고 있다.
‘패턴’, ‘추세’, ‘범주화’, ‘순위 매김’ 등으로 판단하는 인공지능 알고리즘은 특정 피부색, 성별, 종교, 민족에 대해 편향된 데이터를 내놓을 수 있고, 상상치 못한 끔찍한 결과를 초래할 수 있다.
남성 개발자가 무의식중에 구축하고 만들어낸 인공지능이 ‘남성 편향’의 특성을 지닌 기계가 되고 마는 현실이 주는 교훈을 냉철하게 생각하고 돌아봐야 한다.
이 책을 요약해보겠다.
우리의 미래가 따르게 될 기준
3×3이 3+3으로
3가지 필연적 사건
인공지능이 등장할 것이다
인공지능이 인간보다 더 똑똑해질 것이다
실수가 있을 것이다
3가지 본능
자기 보존
자원 축적
창발적 문제 해결
3가지 특성
인공지능도 의식이 있을 것이다
인공지능도 감정을 느낄 것이다
인공지능도 윤리관을 형성할 것이다
3가지 핵심적인 사실
인공지능을 통제하지 않고, 착한 아이가 되도록 가르칠 수 있다
많은 시간이 남지 않았다. 지금 당장 시작해야 한다
개발자가 아니라 당신과 나에게 전적인 책임이 있다
3가지 해야 할 일
친절한 인공지능을 환영하라
인공지능을 가르쳐라
인공지능을 사랑하라
이 책에서는 중요한 부분, 기억해야할 부분을 잘 정리해서 보여준다. 이 부분은 쉽고 명확하게 책의 의도를 볼 수 있으며 독자들에게 다양한 생각을 갖도록 해줄 것이다.
인상깊은 문장
우리 모두는 행복하기를 원한다
#AI쇼크다가올 미래 #서평 #모가댓 #한국경제신문