유리감옥

유리 감옥 - 생각을 통제하는 거대한 힘
니콜라스 카 지음, 이진원 옮김 / 한국경제신문 / 2014년 9월

인류가 보다 창의적이고 의미있는 일을 할 수 있도록, 단순반복적인 작업을 자동화한다는 취지를 넘어선 자동화 기술의 인간의 지능을 퇴보시키고, 도덕을 비롯한 판단을 필요로 하는 영역까지 넘보고 있다는 지적을 담은 책입니다.

자동화 기술의 대명사라 할 수 있는 항공기의 조정 부문에서 자동화의 지나친 발달로 인하여 조종사들의 사태 파악 능력을 떨어뜨리는 등 위기대처능력을 약화시켜 엄청난 사고가 발생한 예화를 들어 자동화로 인하여 인간의 능력이 떨어지고 위험에 처하는 사례를 들어 자동화가 과연 사람을 이롭게 하는가에 대한 새로운 고찰의 필요성을 꺼내면서 이 책은 시작됩니다. 물론, 이 책의 뒷 부분에서 제시하듯이 자동화를 하는 방향에서 조종사의 능력을 유지시킬 수 있는 인터페이스를 갖춘 보잉에 비해 그런 시스템을 갖추지 못한 에어버스에서 사고가 난 것을 보면 자동화 자체가 문제라기보다는 자동화 기술을 어떻게 구현하느냐가 중요할 것이라 생각됩니다.

책이 후반에 접어들면서 제가 예상하지 못한 부분으로 전개되었는데, 무척 당혹스러운 느낌입니다. 자동화 기술이 발달하게 되면 어떤 도덕적 판단을 기계가 하게 된다는 것입니다. 예를 들면 자동운전 장치로 운전 중에 사고 위험이 날 경우 크고 작은 희생을 피할 수 없는 상황에서 어떤 기준으로 판단을 하게 할 것인지의 문제입니다. 이를 알고리즘으로 구현하려면 '정의란 무엇인가'라는 책에서 논한 이슈가 계속 떠오를 수 있고, 분명한 기준을 만들기는 매우 어렵다는 것입니다.

오늘 자동 주행장치를 자신이 개발하는 장치에 접목시키고 있는 테슬라의 CEO 엘론 머스크가  인공지능에게 도덕적 판단을 하게하는 것은 악마를 부르는 것과 같다는 말을 하며 반대의견을 내놓았는데, 기본적으로 그의 의견에 찬성하지만, 그럴 경우 자동화를 어떤 식으로 구현할 지 궁금해집니다. 지금까지의 자동화는 사람을 편하게하는데만 중점을 두었다면 향 후의 기술개발은 이 책에서 논한 많은 문제를 고민하는 과정을 거쳐야 할 것으로 생각합니다.