누가 인공지능을 두려워하나

누가 인공지능을 두려워하나? - 생각하는 기계 시대의 두려움과 희망
토마스 람게 지음, 이수영 외 옮김 / 다섯수레 / 2021년 1월

누가 인공지능을 두려워하나

이 책은?

이 책 『누가 인공지능을 두려워하나?』는 <생각하는 기계 시대의 두려움과 희망>을 논하고 있는 책이다.

저자는 토마스 람게, 편저자는 이수영과 한종혜.

원저자 토마스 람케는, <독일의 경제 전문지 《브란트아인스brand eins》의 기자로서 과학기술 전문 기사를 쓰면서 《이코노미스트》에 글을 기고하고 있다. 그는 최근 15년간 주목받는 저자로 활동하며, 다양한 디지털 기술들 간의 연관 관계를 고찰하고 그 결과가 사업과 경영에 어떻게 영향을 주는지와 사회와 정책 결정에는 어떤 결과를 초래하는지에 대한 통찰력을 보여주었다.>

이 책의 내용은?

먼저 영화 이야기부터 해보자. 이런 영화를 본 적이 있는지?

<메트로폴리스> 116쪽

<엑스 마키나> 117쪽

<2001 스페이스 오디세이> 137쪽

<터미네이터> 138쪽

기계가 생각하고, 말하고, 인간을 지배하려고 일을 꾸민다는 설정의 영화들이다.

워낙 실감나게 만들어진 영화라서 그런지 그런 일이 곧 일어날 것 같은 생각을 하게 된다.

인공지능을 탑재한 기계들이 도처에서 준동하고 있다, 는 헤드라인을 이제 신문에서 보게 될지도 모른다는 것. 또한 알파고와 이세돌의 바둑 대결에서 보듯이, 이제 인공지능은 인간을 넘어, 인간 위에 선다는 것이다.

과연 그런 일이 생길 수 있을까? 해서 인공지능에 의해 인간의 삶이 위협받을 위험이 있을까?

혹자는 가능하다고 말하고 또 다른 사람들은 그런 일은 절대 불가능하다고 한다.

과연 어떤 말이 타당한 것일까? 그 답을 찾기 위해 여러 책을 읽어볼 수밖에 없다.

이 책도 그 중의 하나다.

우선 목차를 살펴보면서, 이 책에서 무엇을 다루고 있는지 알아보자.

1장 스스로 판단하는 기계의 등장: 자동화의 진화

2장 인공지능의 아주 짧은 역사: 튜링의 계승자들

3장 기계는 어떻게 배우는가?: 인공신경망, 딥러닝, 그리고 피드백 효과

4장 사람이 묻고 기계가 답하는 시대: 인공지능이 당신의 비서, 쇼핑도우미, 변호사, 의사가 된다

5장 인간과 로봇이 함께 일하는 시대: 스마트 기계, 협동로봇, 지능형 사물인터넷

6장 인공지능이 미래를 장악할까?: 초지능과 특이점

거기에 더하여, 원저자의 글에 덧붙여 편역자중의 한 명인 이수영 교수가 각 장마다, <이수영과 한 걸음>이란 꼭지를 더해, 원저자가 언급하지 않은, 혹은 추가 설명이 필요한 부분에 대하여 친절한 설명을 하고 있다.

해서 지금까지 거론된 인공지능에 관한 논의는 이 책에서 모두다 종합적으로 다루고 있다 해도 과언이 아니다.

그중에서 독자들은 현재까지 인공지능의 발전된 모습을 알 수 있고, 어떤 분야에, 어디까지 인공지능이 인간을 위하여 사용되고 있는지를 알 수 있다.

예컨대, 인공지능 변호사, 인공지능 의사 등은 이미 실용화 단계에 들어서고 있으며, 로봇 형태로는 많은 분야에서 인간 대신 역할을 수행하고 있다는 것, 알 수 있다.

인공지능은 그림과 사람을 인식하고, 복잡한 질문에 대답하고, 문장을 다른 언어로 번역하거나 심지어 독창적인 문장까지 쓰고, 땅과 바다·하늘에서 승객을 태우고 조종하며, 주가를 예측하고, 진찰에 대한 정확한 진단을 내린다. (56쪽)

알파고의 승리 이후 직감과 창의성은 (정의에 따라 달라질 수 있지만) 이제 인간 고유의 영역이 아님이 명백해졌다. (58쪽)

문제는? - 인공지능의 위험성은 실제적인가?

문제는 그런 인공지능이 인류를 위협할 정도의 지능을 가지게 되는가 하는 점이다.

우리는 어떤 사람의 목소리를 모방하거나 얼굴을 다른 사람의 몸에 합성하는 딥페이크(deep fake) 같은 인공지능 조작의 시대를 어떻게 지혜롭게 헤쳐 나가야 하는가를 배워야 한다. (38쪽)

그런 위험성 이외에도 저자는 인공지능 대한 가장 중요한 위험을 다음 세 가지로 요약한다.

1) 데이터의 독점

2) 개인에 대한 조작,

3) 정부에 의한 오용 (144쪽)

그런 위험성에 대한 경고에 대하여 이런 말이 참고가 될 것이다.

컴퓨터는 쓸모없다. 그저 당신에게 답을 줄 수 있을 뿐이다. - 파블로 피카소 (142쪽)

나는 오늘 인공지능이 사악해지는 것을 막기 위해 노력하지 않는다. 그 이유는 현재 화성의 인구 과잉 문제에 대해 걱정하지 않는 것과 같다. (143쪽)

인공지능은 큰 그림을 볼 수 없다. 어느 정도까지 기계의 도움을 받는 것이 적절한지에 대한결정을 포함하여, 중요한 결정은 여전히 인간의 몫이다. (154쪽)

다시, 이 책은? - 인간의 책임은?

편저자인 이수영 교수의 이 말, 기억해 두고 싶다.

인공지능은 위험하다. 그러나 사람만큼만 위험하다. 결코 사람보다 더 위험하지는 않다. 인공지능과 어떻게 공존할 것인가의 문제는 우리 ‘인간’에게 달려 있다. (164쪽)

이 말 설명이 필요한데, 편저자 이수영은 다음과 같은 설명을 한다.

인공지능이 발전하여 인간에 반하는 행동을 할 수도 있지만, 그 위험성은 높지 않다. 인공지능은 인간으로부터 배우기 때문에, 인공지능이 인간보다 더 위험하지는 않다. (109쪽)

그러니, 이제 우리에게 공이 넘어온 것이다. 해서 이런 글은 우리 인간의 책임을 강조하는 말이 아닐까?

인공지능 시스템에는 선천적인 약점이 있다. 이 때문에 잘못된 결정을 내릴 수도 있고 사용이 제한된다. 그러니 우리는 부단히 경계를 해야 한다. 우리는 인공지능 알고리즘이 어떻게 작동되는지를 항상 비판적으로 들여다봐야 하는 무거운 짐을 지고 있다. (34쪽)

‘no pain, no gain’이란 말처럼, 우리가 인공지능의 협력으로 발전된 세상, 편리한 세상을 살게 된다면, 당연히 그런 gain을 누리기 위하여 불가피한 pain 즉, 인공지능 알고리즘에 대한부단한 감시, 비판적인 성찰이 필요할 것이다. 이 책에서 그런 ‘성찰의 필요’를 발견하게 된다.