[서평] AI는 양심이 없다

AI는 양심이 없다 - 인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기
김명주 지음 / 헤이북스 / 2022년 5월

저자 김명주는 서울대학교 컴퓨터 신기술 공동연구소 특별 연구원을 거쳐, 지금은 서울여자대학교 교수로 재직 중이다. 1995년부터 서울지방검찰청 특수부에서 컴퓨터범죄 사건에 대한 수사 자문을 맡기 시작한 그는 법무연수원에서 검사와 수사관을 대상으로 컴퓨터범죄 수사 기법을 교육했다.

교육과정에서 정보 보호와 디지털 윤리가 갈수록 중요함을 느껴 2001년 서울여자대학교에 정보보호학과를 신설하기에 이른다. 또한 2019년 바른 AI 연구센터를 설립한 후 윤리적 상상력을 기반으로 바람직한 미래 사회를 그려가고 있는 중이다.

70년이라는 짧지 않은 역사에서 불구하고 인공지능의 존재감과 위력을 전 세계인들이 대중적으로 인식하기 시작한 지는 겨우 10년 남짓 됐다. 우리나라의 경우는 이보다 더 늦은 2016년에 시작됐다. - 프롤로그 -

우리는 4차 산업혁명을 맞이하고 있다. 현재의 '정보화사회'에서 미래의 '지능정보사회'로의 전환을 시작한 것이다. 4차 산업혁명의 핵심 기술은 '인공지능'이다. 지금은 흔하게 접하는 인공지능기술을 불과 몇 년 전까지만 해도 잘 인식하지 못했다는 걸 이 책을 보며 알게 되었다.

영화에서나 볼 수 있었던 인공지능의 무서움을 느끼게 된 건 구글의 인공지능 알파고가 바둑 천재 이세돌 9단을 말도 안 되는 승부로 이긴 사건이다. 영화처럼 인공지능이 인간을 지배하는 순간이 올지도 모른다는 생각이 든 순간이었다.

우리의 기술이 어디까지 왔는지는 일반 독자인 나로서는 알 수 없지만, 자율주행차가 도로를 다니고, 드론이 전쟁에 이용되어 사람을 죽이는 일이 뉴스에 보도될 때마다 섬뜩한 기분이 느껴진다.

『AI는 양심이 없다』에는 우리를 상대로 인공지능이 이미 흔들어대거나 조만간 흔들 이슈를 저자의 경험을 바탕으로 한 사례별로 정리해 두었다. 「'죽음'을 흔드는 AI, '존재'를 흔드는 AI, '신뢰'를 흔드는 AI」가 1~3장을 구성하고, 4장에서는 「흔들림 너머 AI 바로보기」라는 주제로 우리가 인공지능과 함께 살아갈 미래에 대한 윤리적인 문제에 대해 이야기하고 있다.

작가는 인공지능이 인간과 함께 살아가려면 인간과 로봇, 인간과 인공지능의 관계는 어디까지나 '수직적 관계'여야 함을 강조한다. 인공지능은 인간을 돕는 존재이지, 인간을 대체할 수 있는 동등한 존재가 아니라는 것이다. 따라서 인공지능 때문에 인간이 희생되거나 천시되는 일이 발생해서는 안 된다고 힘주어 이야기한다.

이용자, 개발자, 공급자라는 인공지능 윤리의 3대 기본 주체와 별도로 지능정보사회 측면에서 볼 때 '정부'라는 네 번째 주체도 매우 중요한 역할을 담당한다. p.292

저자는 책의 마지막에 지능정보사회라는 글로벌 생태계의 성장이 바람직하면서도 지속 가능하게 이뤄지려면, 정부가 인공지능과 관련해 적합한 국가정책을 세워서 추진해야 한다. 그러면서 정부가 담당해야 할 역할과 방향을 제시해 두었다.

마냥 두려워할 것이 아니라 이제는 인공지능과 공존할 수밖에 없는 사회를 살아가는 시대에 『AI는 양심이 없다』는 생각하지 못했던 부분까지 사고하게 만드는 읽어볼 만한 책이다.