그런데 귀엽기도 한 AI

좀 이상하지만 재미있는 녀석들 - 인공지능에 대한 아주 쉽고 친절한 안내서
저넬 셰인 지음, 이지연 옮김 / 알에이치코리아(RHK) / 2020년 3월

인공지능에 대해 배우는 더 나은 방법을 상상하기 힘들다.

그리고 무엇보다도, 이보다 웃겼던 적은 없었다.

애덤 그랜트

#오리지널스의 저자 #애덤그랜트 의 서평만으로 이 책을 읽게 되었다. 믿고 보는 애덤그랜트랄까?

인공지능은 곳곳에 깊숙이 자리잡아 인간의 생활을 편리하게 해 주고 있다. 일각에선 인공지능의 발달로 인한 인간생존 자체에 위협을 받고 있고 어마어마한 실업율을 나을 것이며 언젠가 로봇이 인간을 완전히 대체하리라는 무서운 말들이 쏟아져 나오기도 한다.

그리고 가끔 파파고 번역기를 돌려보면 번역 실력이 예전보다 확실히 는 것을 확인 할 수 있다.

AI의 종류는 얼마나 되고 빅데이터를 얼마나 모아야 하며 어떤 식으로 AI를 훈련시키는 것일까?

#좀이상하지만재미있는녀석들 은 어렵기만 한 AI의 특징과 여러 종류, 그리고 그 훈련과정을 재미있게 풀어낸 책이다.

AI가 도대체 뭐야?

AI는 인공지능을 뜻하는 Artificial intelligence의 약자를 따서 AI라고 부른다. 이 책에서는 가장 많이 불리우는 기계학습 알고리즘이라고 칭하고 또 다시 특징별 여러 단어의 AI로 나뉜다.

-아래 표 참고.

AI 훈련과 오류

이미지 인식 AI 프로그램을 대표로 예를 들어보겠다. 아래와 같은 이미지를 수천장 혹은 수만장을 AI에 입력하고 양을 식별하도록 가르친다. 양의 앞모습 사진도 있을 것이고 옆 모습 사진도 있을 것이다.

사람이라면 한 번만 보더라도 양인지 아닌지 구분할 수 있지만, AI가 똑똑하긴 해도 분별력이 없으니 양으로 승부를 해야 제대로 양을 구분할 수 있는 능력에 조금 가까워질 수 있다.

하지만, AI는 아래 사진을 양이라고 대답하기도 한다. 어찌된 일일까?

분명 수많은 데이터가 있고 그 데이터는 '양'이라는 최종 명제를 갖고 있음에도 불구하고 AI는 어디에 포커스를 맞춰야 할지 모를 수도 있다.

인간은 사진 속 양을 바라보고 데이터를 입력했지만, AI는 정작 푸른 초원을 양으로 인식할 수도 있기 때문.

AI 실패의 네 가지 징후

AI가 세상을 접수할 걱정을 하는 것은

화성에 인구가 너무 많아질까 걱정하는 거소가 비슷하다.

앤드루 웅

AI가 실패하는 데는 4가지의 징후가 있다고 한다. 그 징후를 한 기업의 입사지원자 영상을 가려내는 AI라고 설정하고 살펴보자.(책에서 나온 예시.)

1. 문제가 너무 어렵다.

1차로 지원자를 걸러내는 작업을 AI에 맡기는 이유는, 면접관의 감정 변화에 따라 당락이 결정될 수 있고 그로 인해서 피해를 보는 이들을 최소화 하기 위함, 그리고 시간과 비용을 절감하기 위해서다. AI는 감정변화가 없어 인간의 단점을 보완해줄 수 있으리라는 목적에서 면접관에 대체되었을 것이다.

얼굴을 마주하고 면접을 보는 자리에서는 면접관과 면접자 모두 사람이기에 면접장의 공기와 사람사이의 분위기, 그리고 첫인상과 말투와 뉘앙스 모두가 합격과 탈락을 결정지을 수 있는 중요한 요소가 될 수 있다.

AI에게 녹화된 영상 인터뷰로 지원자를 1차로 가려내는 일을 맡긴다면 면접자의 눈빛과 뉘앙스를 판별하기에는 무리가 있을 것이다. AI는 뇌가 없어서 사고를 할 수 없기 때문이다. 따라서 AI가 그 자리를 대체한다고 해서 불평등한 결과를 최소화 할 수 있다는 근거는 어디에도 없다.

2. 문제가 우리 생각과 다르다.

AI에게 면접자를 가리라는 명령을 줄 때는, 그만큼 기반이 되는 데이터를 넣어 줘야 한다. 어떤 인재가 채용 담당자가 원하는 지 회사가 원하는 인재상의 기준이 데이터가 되겠다. 하지만 여기서 오류가 난다. 데이터를 모아서 입력하는 사람에 따라 인종 및 성별 편향이 AI에게까지 나타날 수 있기 때문이다.

3. 손쉬운 편법이 있다.

AI는 늘 손쉬운 편법을 사용한다고 한다. 그게 시간도 절약되고 결론 내리기 쉽기 때문이다. 양을 훈련했던 AI가 초원을 양으로 인식하는 것과, 암세포와 건강한 세포의 차이를 구분하기 위해 개발한 AI가 실제로는 그 뒤에 깔려있던 눈금자만 인색했던 것들이 그 예이다. AI 입장에서는 늘 동일한 모양의 격자를 인식하는 것이 덜 피곤해서였을 것 같다.

따라서, 인간이 입력한 데이터의 일례가 어떤 특정 브랜드의 카메라로 찍은 동영상에 특정 인종의 인물이 인터뷰하는 장면이라면, AI는 그 예시를 기반으로 동일 브랜드의 카메라로 영상을 찍어 보낸 사람을 우수 인재라고 가려낼 수 있다. 말투나 어떤 질문에 대한 대답을 기존 샘플과 맞느냐 틀리냐를 가려내는 것 보다 그 편이 훨씬 쉬우니까 말이다.

4. AI가 학습하려고 한 데이터에 문제가 있다.

인간이 주는 수많은 사례 데이터가 AI가 우선은 학습해야할 문제들이다. 그 사례들을 학습해야 그 다음 문제를 풀 수 있기 때문이다. 하지만 그 사례들의 질이 허무맹랑한 쓰레기라면 학습결과도 쓰레기일 수밖에 없다. 이렇게 되면 AI는 제 기능을 하기도 전에 쓰레기 사례를 배우느라 시간만 낭비하게 된다.

---

인간은 아주 오래 전부터 인간을 대체할 최첨단의 AI를 꿈꿔왔다. 그러다 어느덧 자율주행자동차도 나오고 수많은 공장의 자동화로 많은 사람들이 직장을 잃기도 했다. 자율주행자동차로 인간이 누릴 자유와 또 한편으로는 화물차운전수들이 맞게 될 어두운 미래도 함께 조명되곤 한다.

인간을 대신할 바리스타와 이미 요식업계에 깔린 키오스크들은 실업의 재앙이 눈 앞까지 다가왔음을 알려주는 경고장 같다.

하지만 AI를 훈련시키는 과정을 살펴보면 우리가 꿈꿔왔던 것처럼 완벽하게 인간을 대체하는 AI가 나타나는 것은 불가능해 보인다. 아니, 불가능하다고 믿고 싶다. AI는 단시간에 대량의 데이터를 외워서 정리하고 답을 내 주는 데는 인간보다 뛰어나지만, 애초에 문제의 목적 자체를 AI는 알지 못한다. 인간만이 그 목적을 알고 AI를 훈련시킬 뿐이다.

#좀이상하지만재미있는녀석들 에는 여러 AI의 사례들을 살펴보고 오류와 그 오류를 풀어가며 개발자의 의도에 가까워지는 과정을 그리고 있다. 책 소개에서는 정말 쉽게 AI를 설명했다고 극찬했지만, 사실 나는 좀 어려웠다. 반면에 흥미로웠던 부분은 AI는 맥락을 이해하지 못한다는 것이었다. 이 사실은 #대학에 가는AIvs교과서를 못 읽는 아이들 에서도 언급된 적이 있다. AI가 대학에 입학할 수준까지 발달했으니 인간이 해야할 일은 사고력을 키워 맥락을 파악하는 것이라고 말이다. 결국 AI를 키우는 것은 인간일테니까.

비전공자이지만 AI관련 책이 어려울 것 같아 접근하기 어려웠던 이들에게 이 책을 권하고 싶다.