71.인공지능이 인간을 죽이는 날

인공지능이 인간을 죽이는 날 - 제4차 산업혁명 시대 자동차, 의료, 무기의 치명적 진화
고바야시 마사카즈 지음, 한진아 옮김 / 새로운제안 / 2018년 9월

윌스미스가 주연한 [아이 로봇 I, ROBOT] 영화가 있었다. 인공지능 이야기를 할 때면 나는 항상 그 영화가 떠오른다. 2004년에 만들어졌지만 지금까지도 가장 잘 만들어진 로봇영화가 아닐까 한다. 청소로봇을 주기적으로 업그레이드할 수 있다는 아이디어도 신선했고 미래에 대한 나의 생각과 가장 근접했던 시나리오여서 그랬을 수도 있다. 영화는 결국 A.I의 위험성을 강조했다고도 볼 수 있는데 15년이 지나는 지금에서 보면 그 이야기가 어느 정도는 맞을 수도 있겠구나 하는 생각을 해본다. 영화에서 소개된 자율 주행차, 휴머노이드 로봇, 살상무기로봇 그리고 스스로 진화하려는 인공지능의 이야기까지 우리에게는 생소하고 새로운 내용이었지만 미국에서는 이미 개발에 박차를 가하는 시기가 아니였나 생각이 든다.

[인공지능이 인간을 죽이는 날]은 영화보다 더 깊고 자세하게 발전된 오늘의 AI 이야기를 들려준다. 그동안 많은 장미빛 미래를 이야기하던 4차 산업혁명시대의 핵심인 인공지능에 대해 회의론이 아닌 한 번쯤은 짚고 고민해봐야 한다고 주장한다. 책을 덮고 나면 그의 이야기가 상당히 설득력이 있다.

책의 구성은 1장에서 인공지능에 대한 총론을 이야기하고 있고 다음 3개의 장에서 각각 자율주행, 로봇닥터, 자율 무기로봇에 대한 본질과 우려를 말하고 있고 마지막장에서는 AI를 대하는 우리 마음가짐에 대한 이야기로 책을 마무리하고 있다.

자율주행은 시대의 흐름이다. 그것을 거스를 수는 없다. 차라는 것이 운전의 도구에서 벗어나 공간에서 공간을 옮겨주는 전자장비로 바뀌어가고 있다. 여기에 핵심적인 내용이 바로 자율주행차다. 미국에서 그리고 우리도 계속 발전시켜 나가는 과정인데 자율주행 레벨3이상의 시범주행에서 사고 발생의 소식이 들려온다. 물론 테스트 중이어서 그런지 사고의 원인에 대해 정확하게 분석한 뉴스나 자료가 부족하다. 제조사에서 밝힌 공식 이유를 제외하면 이에 대한 조사와 분석이 전무한 실정이다. 저자는 이 점에 주목하고 있다. 테슬라의 사고 자체에 초점을 맞추기 보다는 테슬라의 오토파일럿이라는 자율주행 AI가 노출시키는 단점에 대해 이야기한다.

AI 의 발달사를 보면 가장 초기 AI인 규칙기반AI는 기계적인 학습을 통한 패턴인식에는 뛰어나지만 예외와 우연이 넘쳐나는 현실 상황에 제대로 대응하지 못할 수 있다는 문제제기를 당하여 쇠퇴했다고 한다. 다음 등장한 확률형 AI는 규칙기반 AI보다 정확성면에서 훨씬 더 많은 발전을 가져왔다. 베이즈 정리를 기본 원리로 하여 인간이 가진 직관과 유사한 패턴으로 인식하게 되어 우연상황에 대해 보다 유연하게 대처하게 되었다. 그러나 이것 역시 현실과 이론의 차이인 팻테일 리스크를 발생해서 확률적(이론적)으로 일어나기 어려운 사고가 발생했다. 테슬라의 오토파일럿사고도 미국의 서브프라임사태도 팻테일 리스크로 발생되었다고 이야기한다. 이를 통해 차량에서의 자율주행이 어디까지 가능하며 우리의 책임과 역할을 어디까지이며 가치 판단을 어떻게 해야 할지 숙제를 안겨주는 내용이었다.

다음은 의료 로봇이야기다. 얼마 전 지방의 한 대학병원에 갔더니 IBM의 “왓슨”을 엄청 홍보하고 있었다. 이제 의사를 홍보하는 것이 아니라 로봇 도입을 홍보하는 시대가 온 것이다. 그만큼 이제 의료 분야에서는 다른 분야보다 더 AI가 활용될 부분이 많은 것 같다. 치료라는 것이 결국은 수많은 예의 누적 데이터를 분석한 결과를 이용해 활용하는 것이니 더욱 그렇게 생각이 든다. 규칙기반 AI인 왓슨은 수많은 기계적학습을 통해 인간을 뛰어넘는 판단을 보여주고 있다. 의사를 도와 질병을 치료하는 보조의사의 역할을 하고 있다. 다만 이 책은 우리에게 하나의 시사점을 던진다. 만약 어떤 상황에서 왓슨과 주치의의 의견이 달랐을 때 당신의 결론은 어떨까? 의사는 어떤 결론을 우리에게 들이밀까?

또한 이세돌 9단과의 대결로 유명해진 딥마인드사의 알파고는 왓슨보다 발전된 뉴럴네트워크AI로서 이미 의료계-특히 안과-에 진출해 많은 활약을 하고 있다. 패턴인식의 일종이긴 하지만 수십억개의 매개변수를 통해 판단하는 패턴인식의 수준은 인간을 이미 넘어버렸다. 물론 몇 명 의사의 노력이 필요했지만 그 결과는 그 노력을 결코 헛되이 하지 않았다. 저자는 이러한 AI 들의 활약이 앞으로 기대될 것이라고 이야기하는 한편 항상 문제가 되는 개인정보 유출에 대한 우려도 제기했다. 제공자들의 개인 정보 혹은 히스토리 등의 보안 문제는 지금도 그리고 앞으로도 꾸준히 보완하고 개발자들이 기억해야할 부분이라고 생각된다.

마지막으로 우리가 영화속에서나 보던 일들이 벌어지고 있다. 아이언맨이 등장해 우리를 죽일수도 있는 시대가 온 것이다. 사실 어찌보면 AI가 가장 필요한 분야는 바로 군사부분이 아닐까 한다. 아군의 피해없이 적군을 가능한 한 많이 죽이는 것 혹은 피해를 최대화시키는 것 그것이 바로 군의 목표이기 때문에 자율살상무기의 개발에 힘을 쏟는 것은 어찌보면 당연하다고 볼 수 있다. 미국을 비롯한 군사강대국들이 이미 수십조를 넘는 돈을 투자하고 있으며 머지 않는 미래에 우리는 영화에서 본 현실을 실제 텔레비전에서 볼 수 있을 것 같다는 불길한<?>예감을 해본다. 저자 역시 이런 점들을 우려하지만 뾰족한 수가 없다는 것을 은연 중에 이야기하고 있다. 결국 과학자들의 양심에 맡길 수 밖에 없다는 조금은 순진한 생각을 하는 것은 결국 이 문제에 대한 해법은 아직 없다는 것을 반증한다. 새로운 시대에 접어드는 우리가 대단히 고민해야할 부분이 아닌가 한다.

이 책은 AI에 대한 많은 정보와 사실 그리고 우려를 전달해준다. 기본적으로 많은 용어에 대한 지식의 전달로 인해 AI를 이해하는데 많은 도움이 되었으며 우리의 현재 그리고 가까운 미래에 다가올 현실을 준비하고 이해할 수 있는 좋은 책이라고 생각한다. 제목처럼 비극적인 이야기는 거의 없으니 안심하고 읽어도 될 책이다.

* 기억해야할 키워드

규칙기반 AI, 통계확률형 AI, 뉴럴 네트워크 AI, 딥러닝, 기계학습, 블랙박스화, 패턴인식, 자율주행, 패턴인식, 베이즈 정리, 팻테일 리스크