인공지능을 만들어내는 사람들의 이야기

은밀한 설계자들 - 세상을 변화시키는 새로운 종족
클라이브 톰슨 지음, 김의석 옮김 / 한빛비즈 / 2020년 4월

'세상을 변화시키는 새로운 종족'이라는 부제목을 갖고 있는 이 책은 은밀하게 우리의 일상을 설계하는 사람들이니 '프로그래머'에 대해 설명하고 있다. 온라인 메신저, SNS, 여러 어플 등 새로운 프로그램이 우후죽순 생겨나고 사라지기를 반복하면서 우리는 수많은 프로그램의 영향을 받으며 살아간다. 핸드폰, 어플, 컴퓨터가 없는 세상은 이제 상상할 수도 없다. 이런 세계에서 과연 알게 모르게 우리의 삶을 지배하는, 막강한 영향력을 가진 사람은 누구일까? 바로 이러한 소프트웨어를 만드는 프로그래머들이다.

우리가 인터넷에 접속해서 동영상을 보거나 음악을 듣고, 지인과 소통하는 건 표면적으로 봤을 때 대단할 것 없어 보인다. 하지만 프로그램은 우리의 일거수일투족을 감시하다시피 하고 있고 기록으로 남아 어쩌면 영원히 우리를 규정짓는 수단으로 사용될 수 있다. 정보가 권력이 되는 시대, 「은밀한 설계자들」을 읽으며 프로그래머의 뛰어난 능력에 놀라는 한편 이 사람들이 선이 아닌 악의 편에 선다면, 인공지능(AI) 이 인터넷에 만연한 차별과 오류를 습득해 인간의 삶에 해악을 끼치게 된다면 어떤 비극이 일어날지 생각하지 않을 수 없었다.

요즘 언론으로 접하는 법원 판결 또는 법관의 기강 해이에 관한 소식을 접하다 보면, 법원과 법관의 위상이 땅으로 곤두박질 쳐 국민에게 신뢰를 받지 못하고 있는 게 역력히 드러난다. 각종 비리와 정경유착, 제 식구 감싸기, 말도 안 되는 판결, 객관적으로 봐도 이건 아니다 싶은 형벌, 판결을 받아도 여전히 억울한 사람들의 이야기 밑에는 사람들이 댓글로 'AI가 판결을 내리게 해야 한다.'라는 말이 꼭 들어가 있다.

팔은 안으로 굽고, 그 누구보다 이성적으로 판단해야 하는 사람도 경우에 따라 소신이 흔들리게 되는 게 인간인지라 어쩌면 냉철하고 감정이 없어 판단력이 흐트러지지 않는 인공지능이 판사의 역할을 하는 게 옳은 게 아닐까 싶은 입장이다. 하지만 「은밀한 설계자들」을 읽으며 지금 이 상태로 인공지능을 법원에 도입한다는 건 어쩌면 더 큰 실수를 불러일으킬 수 있겠다는 공포심이 들었다. 책에 의하면 이미 미국에서는 AI가 판사의 재판을 보조하고 있는데 인터넷으로 수많은 자료를 수집하고 데이터를 수집해 편견에 대한 공부를 한 AI가 인종 또는 성별에 따라 다른 판결을 내리기도 한다. 분명 인간보다 믿음직스러운 판결을 내릴 거라 생각하기 쉽고, 인간의 실수를 줄이는 데 큰 도움이 되겠지만 인공지능의 장점은 '편향적이지 않을 때만 의미가 있는 것'이다.

즉, 학습 데이터가 나쁘면 추론 결과도 나쁜 것이 딥러닝 기술의 특성이다. 미국 또는 유럽에서의 아시아, 흑인들에 대한 편견이 만연한 정보를 습득한 AI가 과연 정당한 판결을 내릴 수 있는지, 어쩌면 아시아인 또는 흑인이라고 잠정적 범죄자 취급을 하는 AI가 생겨나는 것은 아닌지, 혹은 남자가 강력범죄율이 많기 때문에 사건 자체보다 성별에 의해 더 무거운 판결을 내리게 되는 건 아닌지 생각해보게 된다.