인공지능이 인간을 죽이는 날

인공지능이 인간을 죽이는 날 - 제4차 산업혁명 시대 자동차, 의료, 무기의 치명적 진화
고바야시 마사카즈 지음, 한진아 옮김 / 새로운제안 / 2018년 9월

 인공지능(AI) 기술이 최근 몇 년 사이 급부상하고 있습니다. 구글의 나우나 애플의 시리와 같은 개인 비서 영역에서 부터 자율주행 자동차의 인지/판단 시스템에 이르기까지, 교통, 언론, 물류, 환경, 안전 등 전 산업분야에서 기술이 빠르게 접목, 확산 되면서 지식정보 사회를 이끌어 갈 부가가치 창출의 새로운 원천으로 주목받고 있지요.

하지만 이런 경제적, 사회적 효과에 대한 기대 뿐 아니라 자동화로 인한 일자리 대체, 통제 불능 문제 등 부정적 영향에 대한 우려의 목소리 또한 커지고 있습니다. 이미 테슬라의 일론 머스크, 스티븐 호킹, 빌 게이츠 등 많은 전문가들이 인공지능의 위험성과 인류의 미래에 대해 불안감을 표명한 바 있습니다.

오늘 소개해 드릴 책의 제목은 꽤 과격하게 느껴집니다. <인공지능이 인간을 죽이는 날 : 4차 산업혁명 시대 자동차, 의료, 무기의 치명적 진화> 입니다. 그러나 본서에서 다루는 영역은 인공지능(AI)을 통해 개발이 활발히 이뤄지고 있는 무인자율주행차, 의료 그리고 무기 분야입니다. 이들 모두 그 핵심이 되는 "인공지능(AI)에 의한 판단이 인간의 생사를 좌우한다"는 점에서 매우 중요한 분야입니다.

인공지능의 발전과 산업에의 적용 문제에서 현실적인 진정한 위협은 '인공지능과 인간과의 관계성'이라 할 수 있습니다. 즉, 인공지능 혹은 인공지능을 탑재한 기계장치의 제어권을 인간이 가지는가 혹은 인공지능(기계)이 가지는가의 문제입니다.

- Human in the Loop : 인간의 영역에 포함된 제어시스템
- Human out of the Loop : 인간을 배제한 제어시스템 혹은 초자동화(Super Automation)

제1의 기계시대로 일컬어지는 1차 산업혁명이래로 지금까지 교통, 운송수단 및 공장의 자동화가 진행되었어도 최종적으로 그것을 통제하는 쪽은 인간이었습니다. 그러나 현재 진행되고 있는 4차 산업혁명에서는 인간에게 최후의 보루로 남아있던 '기계제어권'이 인공지능(기계)로 넘어가려고 한다는 것이 저자의 지적입니다.

본서에서는 이러한 기계제어권이 인간에서 인공지능(기계)로 넘어가고 있는 분야 중 현재 가장 치열한 논쟁이 벌어지고 있는 자동차, 의료, 무기 분야를 예로 들어 설명하고 있습니다.

자율주행차의 경우, 현재 진행 중인 반 자율 주행 단계를 지나 완전 자율 주행 단계에 이르게 되면, 그 기반 기술이 되는 딥 뉴럴 네트워크(Deep Neural Network)혹은 딥러닝(Deep Learning)기술의 분석과 예측/결정을 100% 수용해야만 합니다. 즉, Google 등이 목표로 하는 완전 자율 주행 자동차는 결국 'Human out of the Loop'에 해당됩니다.

그러나 현재 인공지능 기술의 주류가 되고 있는 딥러닝 기술의 '블랙박스화 문제' 즉, 어떤 경로로 결론에 도출했는지에 대해 개발자 자신도 알 수 없는 심각한 문제가 도사리고 있습니다. 인공지능의 판단과 결정이 통계, 확률을 기반으로 한, 현실세계와의 미묘한 차이로 인해 잘못된 판단을 내릴 가능성 또한 배제할 수 없습니다.

따라서 당연히 딥러닝 기술을 자동차나 의료 분야에 적용하여 기계 제어권을 100% 넘기는 것은 실로 위험하다는 지적은 공감이 갑니다. 궁극적으로 사람의 생사와 관련된 분야는 'Human in the Loop'의 영역이어야 함은 타당한 이야기로 들립니다.

우리 사회에 4차 산업혁명이라는 화두를 처음 제기한 세계경제포럼(다보스포럼)에서는 미래를 "모든 것이 연결된 보다 지능화된 사회로의 진화"로 설명한 바 있습니다. 여기서의 핵심 동인은 단연 인공지능(AI)일 겁니다. 인공지능은 이제 인간을 대신해 새로운 브레인으로 자리잡아 가고 있습니다. 이러한 인공지능의 판단에 인간이 어느 선까지 관여해야 하는지 결정하는 것은 쉬운 일이 아닙니다. 그러나 급속한 기세로 인공지능 개발과 응용이 진행되고 있는 지금이야 말로 우리 사회가 이 문제를 진지하게 받아들이고 논의해야할 필요가 있습니다.

AI는 병의 원인을 찾으려고도, 환자를 치료하려고도 하지 않습니다. 인간을 치료하고자 하는 노력과 그 마음은 의사만이 가질뿐이지요. 인간이 그 마음을 잃고 AI에 모든 판단을 맡길때 인간의 모습을 한 로봇에 불과하다는 저자의 결론은 묵직한 울림을 줍니다.

" AI가 가져오는 진정한 위험은 AI가 인간을 죽이는 것이 아닌 오히려 인간성을 죽이는 것이다."