지난해말 자동차 업계의 올해 전망을 듣기 위해 초청한 애널리스트는 최근 자동차업계를 분석하는 패러다임이 급격히 바뀌고 있다고 들려주었다. 현재 자동차 업계는 향후 1-2년의 매출이나 영업이익 전망이 문제가 아니라 곧 다가올 무인자동차 기술혁명에 대응하여 살아남느냐 그렇지 못하느냐가 기업의 가치를 결정하고 있다는 것이었다. 이러한 무인화와 자동화는 올해 다보스 포럼의 주제이기도 했다.
책은 2009년 6월 1일 대서양에 추락하여 200명이 넘는 승객과 승무원의 목숨을 앗아간 Air France flight 447 에 대한 이야기로 시작한다. 그리고 2013년 San Francisco 공항에 착륙하다 사고를 내었던 아시아나 Boeing 777 사례는 우리에게도 친숙하다. 아시아나 사고는 책임 공방이 이어지다가 미국항공 당국으로부터 엄청남 벌금을 부과받았는데 문제의 핵심은 파일럿이 자동항법장치에 모든 것을 맡겨두었다는 데 있었다. 최첨단의 장비를 갖추고 파일럿 없이도 운행이 가능하다고 자부하는 비행기들은 왜 끊임없이 사고를 초래하는가?
우리는 비행기 사고를 접할 때마다 자동항법 기술이 충분히 발전하지 않은 이유인지 파이럿의 실수 때문인지에 대해 궁금해 한다. 그런데 저자는 자신의 오랜 경험과 인터뷰를 통해서 최근 automation 즉 자동화 관련 논의가 잘못된 패러다임에 기초하고 있다고 주장한다. 저자는 해양지질학 연구에 투입된 심해탐사 로봇의 개발자로 참여한 하였고 최근에는 헬기의 자동항법장치 개발에도 참여한 자동화 관련 전문가이기에 충분히 문제를 제기할 자격을 가졌다. 그는 sea, air, war, space를 각각 하나의 chapter로 삼아 로봇 즉 automation 발전과 관련 종사자들의 이야기를 통해서 논거를 하나하나 쌓아간다.
우리는 정해진 작업을 수행하는 데 있어 기계의 몫과 인간의 몫을 나누고 자동화란 기계가 더 많은 부분을 그리고 궁극적으로는 인간을 대체하는 것으로 이해한다. 그래서 비행기에 자동항법장치가 도입되면 비행사는 낮잠이나 자겠군 하고 생각하거나 머지 않아 줄어들 비행사들의 일자리를 걱정한다. 하지만 저자는 최근까지의 첨단 부문 자동화를 살펴보며 이러한 인간과 기계의 대체관계 보다는 새로운 관계가 창출되는 것이 일반적이라고 주장한다. 예를 들어 비행기의 경우 첨단설비가 비행사를 대체하는 방식으로 시도되기도 했으나 대규모 사고에서 보이듯이 이는 잘못된 방향으로 판명되었다. 이제는 자동화 장치는 비행사가 보다 안전하고 효율적으로 비행기를 운항할 수 있도록 돕는 방향으로 설계되고 있다. 전투비행기 파일럿을 대체하고 있는 drone 조종사의 경우에도 안전한 곳에서 닌텐도 게임을 하는 것이 아니다. 그들이 제대로 업무를 수행하기 위해서는 전쟁수행이라는 큰 맥락을 이해하는 가운데 지상군 등 관계자와 협업을 높이는 것이 필요하며 그리고 합당한 존중도 받아야 한다. 심해나 우주탐사에서 보이듯이 로봇은 인간의 현존과 감각을 확장하며 과거에 접근할 수 없었던 새로운 정보를 가능케 함으로써 더 많은 “인간”을 필요로 하고 있다.
저자는 구글 무인자동차에 대해서 매우 회의적이다. 무인화를 위한 프로그램은 비록 최신의 머신러닝을 도입하더라도 궁극적으로 사람이 설계하는 것이며 이는 설계자가 가지고 있는 세계에 대한 인식의 한계를 벗어날 수 없다. 즉 완전한 자동화를 위해서는 사람이 “생각할 수 있는 모든 상황”에 대해 대응 방안을 프로그램해야 할 뿐 아니라 “생각할 수 없는 모든 상황”도 고려해야 한다. 쥬라기 공원의 안전에 대한 설계자의 노력에 대해 초대받은 수학자는 불가능 일을 하고 있며 곧 다가올 비극을 단언한다. 실제로 우리는 후쿠시마 원전에서 “생각할 수 없는 상황”이 어떠한지를 목격했다. 물론 인간이 기계보다 완전하지는 않다. 인간의 실수로 수많은 사고가 발생하고 있다. 하지만 이것이 구글이 주장하듯 인간을 조정석에서 제거하는 이유가 될 수는 없다. 불완전하기 때문에 인간은 더 나은 기계를 이용한다. 저자가 상상하는 세상는 Star Wars의 Luke Skywalker 처럼 인간이 중심인 세상이다.
A more immediate goal is for ALIAS to serve as a “pilot’s assistant,” helping with routine tasks during high-workload periods (much as the small robot R2-D2 assisted Luke Skywalker in Star Wars).