인공지능이 인간을 죽이는 날~ 고바야시 마사카즈

인공지능이 인간을 죽이는 날 - 제4차 산업혁명 시대 자동차, 의료, 무기의 치명적 진화
고바야시 마사카즈 지음, 한진아 옮김 / 새로운제안 / 2018년 9월

인공지능은 4차산업혁명의 핵심이다.  인간이 하고 있는 일중에서 최우선적으로 반복적이며 패턴이 있는 일을 대체하는 보조적인 업무에서 부터 시작을 하여 이제는 인간의 개입이 없이 스스로 판단을 하고 행동을 하는 일 까지를 수행하게 하려는 연구를 꾸준히 하고 있다.  인공지능의 창조주인 인간의 영역을 넘보는 일이 벌어지고 있다.  발전속도 또한 빠르다.  이러다가 인간이 만든 기술에 인간이 소외되고 심지어는 공격을 당하는 공상과학 영화같은 일이 벌어지지 않을까 하는 걱정의 목소리도 만만치 않다.   최근 몇 년 사이에는 인공지능 스피커가 상당히 많이 제품화 되었고, 가전제품이나 빅데이터 산업 등에서 인공지능의 능력을 활용하여 관련 산업이 커지고 있다. 이런 제품들은 사생활보호적인 측면에서 많은 문제제기를 하고 있고, 개인정보 보안이 가장 큰 화두로 떠오른다.

'인공지능이 인간을 죽이는 날(고바야지 마사카즈 저/ 한 진아 옮김)'을 읽었다.  이 책은 일반가전제품 등과 같은 소비재에서의 인공지능 활용에 대한 이야기가 아니다.  이 책은 자동차, 의료 그리고 무기산업에서의 인공지능 활용에 대한 이야기다.  이 책은 두께나 내용이 잘모르는 사람도 읽기쉽게 되어 있어서 부담이 적다.  구성은 인공지능위협론, 자율주행차의 문제점(사각지대), 로봇닥터 그리고 미국을 중심으로한 자율무기(제3의 군사쇄신)등에 대한 이슈로 구성이 되어 있다. 인공지능에 대한 역사는 물론이고, 인공지능을 활용한 자동차 산업, 의료산업 그리고 무기산업에서의 사고와 문제점 그리고 기술을 정리하고, 인간이 포함되지 않은 제어시스템과 인간이 포함된 제어시스템에 관한 이야기 부터, 딥러닝을 통한 블렉박스화된 진단, 판단결과의 이슈 등에 관한 화두를 던진다.  인공지능을 사용한 자율무기가 스스로 표적을 찾아내고, 판단하고, 조준 공격할 수 있는 시스템에 대한 염려와 그런 부분에 대한 미국국방부의 모호한 설명 등은 다가올 인공지능시대에 대한 부정적인 견해를 키운다.  특히, 초자동화를 하고, 인공지능에 모든 판단을 맏기는 일들은 당장은 아니지만 현실화될 가능성이 매우 높다.  그리고, 그것이 자동차, 의료 및 무기산업과 같은 인간의 생명과 직결된 영역에서는 사용에 신중한 판단이 요구된다.

자동차, 의료 및 무기산업은 선진국이 경제력은 물론이고 군사적 우위를 유지하는데 매우 중요한 분야로서, 인공지능의 활용부분이 상당부분 진전이 되었고, 나라별로 이 우위를 점하기위하여 각별한 지원과 노력을 한 결과, 자동차는 이미 반자율주행차로 시판이 되고 있으며, IBM의 왓슨은 의료산업에서 많은 성과를 이루었다.  암진단 등에서 확실히 인간보다 우세한 부분있다. 인간의사와 관계에서 나타는 인간생명에 관한 논쟁 거리중에서 인간이 점점 인공지능의 판단에 의존하게 되는 위험성은 염려스럽다.  결국, 우리가 걱정을 하는 부분은 단순한 인공지능의 시행착오가 아니라, 초자동화를 통하여 블랙박스화된 인공지능이 교통, 의료 그리고 나아가 군사 분야에서 사용될때 나타는 이슈들이 아닌가 싶다. 이유는 인간의 생사와 국가의 안보와 관련된 것들을 인공지능에 전적으로 맏길 수 있느냐의 문제이다.  이를 통해 인간이 점점 이런 초자동화된 기계에 의존을 하게 되는 것이 가장 큰 문제라고 한다.  결국, 우리가 걱정을 해야 하는 것은 공상과학 영화에서 처럼 스스로 엄청난 발전을 거듭하여 특이점을 넘어선 인공지능이 인간세상을 지배하고 인간을 죽이는 문제라기 보다는, 인간이 그런 기계에 의존되는 환경으로 들어가게 되면서 나타는 인간성을 죽이는 일을 경계해야 한다고 저자는 말을 한다. 재판(컴퍼스와 피고인의 재범확율)이나 이나 인사고과에서 인공지능을 사용하는 것은 그나마 다행이지만, 인간의 생명을 다루는 의사의 선한 '마음'이 어느 순간 인공지능에 의한 초자동화에 모든 것을 받기는 상황은 결코바람직 하지 않은 것 같다.