-
-
좀 이상하지만 재미있는 녀석들 - 인공지능에 대한 아주 쉽고 친절한 안내서
저넬 셰인 지음, 이지연 옮김 / 알에이치코리아(RHK) / 2020년 3월
평점 :
A.I, 인공지능을 가질 로봇들을 그린 영화나 소설이 참 많다. 너무나도 인간같은 그러면서도 인간보다 뛰어난 A.I 의 모습이 당장 터미네이터 처럼 인간을 향해 반란을 일으킬 것이라 염려하는 사람이 많았을 것이다.
특히 우리나라에서는 이세돌과 알파고의 대결이 벌어졌을 때의 충격이 대단했다고.
하지만 AI가 정확히 무엇인지, 또 AI가 어떤 방식으로 학습하는지에 대해 자세히 알게 되면 이런 걱정을 덜어낼 수 있다.
AI는 무엇일까? 일단 위의 데이빗을 포함하여 SF 영화나 소설에 나오는 AI는 잊어버리자. 가끔 AI인척하는 인간도 있으니 잘 구분해야 한다. 또한 전통적인 프로그램 (규칙 기반 프로그램)방식, 즉 문제를 해결하기 위한 단계와 그를 묘사한 그대로 기계가 실행하는 동작은 AI가 아니다.
AI라 할 수 있는 기계학습 알고리즘은 프로그래머가 특정해 둔 목표에 대한 자신의 성공률을 계속해서 측정하는 방식으로, 시행착오를 통해 규칙을 스스스로 알아낸다.
AI를 프로그래밍한다는 것은 컴퓨터를 프로그래밍한다기보다 오히려 어린아이를 가르치는 것에 가깝다.
AI 스스로 규칙을 만들 때 좋은 점은 한 가지 접근법으로 수많은 문제에 적용할 수 있다는 점이다 ( 데이터가 여기 있으니,어떻게 모방할지 찾으시오 !)
하지만 AI는 인간이 보는 것과 전혀 다르게 판단하기에 의외의 결과가 나오기 쉽다.
양을 인식하게 하는 실험에서 AI는 양이 아닌 초원을 양으로 인식하기도 하고, 건강한 피부와 피부암 사진을 구분하도록 훈련시킬 때는 눈금자를 감지도록 훈련되기도 한다. 데이터세트에 있는 종양 다수가 사이즈 측정을 위해 눈금자를 대고 촬영한 탓이었다.
AI는 아주 느린 학습자라서, 체스를 두거나 자전거를 타거나, 컴퓨터 게임을 하려면 수년 또는 수백 년 치의 연습이 필요하다. 그래서 우리는 AI의 연습을 위해 시뮬레이션을 만든다. 시뮬레이션 속에서는 시간의 속도를 높이고, 수많은 AI가 동시에 같은 문제를 해결하도록 훈련할 수도 있기 때문이다.
하지만 시뮬레이션 속은 현실과 같지 않다. 공짜 에너지, 잘못된 편법들은 보통은 주어진 과제를 해결하는데 문제가 없지만 종종 AI가 이 편법을 황당하게 활용한다 .
게임에 질것 같으면 '버튼 마구 누르기' 수법으로 게임 자체를 다운시키거나, 수학문제를 풀어야 하는 AI가 해답이 보관된 곳을 찾아내 스스로를 저자 자리에 끼워 넣은 후 자신을 저자라고 주장하거나, 정답을 몽땅 삭제하고 만점을 받기도 한다.
판사를 대신해 판결하는 인공지능 , 인사 담당자를 대신해 지원자를 분류하는 인공지능에 대하여도 들어보았을 것이다. 이런 이야기를 들으면 당장 인간의 일자리가 대체되지 않을까 겁이 난다.
하지만 2018년 아마존이 입사 지원자를 사전에 검토하기 위해 시범 운영했던 툴을 사용 중단했다. 이유는 AI가 여성을 차별했기 때문이다. 프로그래머들이 여성 관련 용어를 삭제하는 것으로 문제를 해결하려 했지만, 남성 지원자의 이력서에 가장 흔하게 포함되는 '실행하다', '포착하다' 같은 단어에 가점을 주는 방법도 학습함을 알게 되었다. 결론적으로 이 알고리즘은 남자와 여자를 구분하는데는 아주 능했으나, 그 외의 지원자를 추천하는 측면에서는 거의 무작위나 다름이 없었다고 한다.
알고리즘은 우리에게 최선의 선택을 제안 하는 것이 아니라, 인간 행동을 예측하는 방법을 학습하고 있는 것이다. 인간은 편견을 갖는 경향이 있기 때문에 인간의 행동을 학습한 알고리즘 역시 편견을 가질 수 밖에 없다. 수많은 학습을 통해 오히려 편견이 증폭되는 경향이 크다.
인공 신경망은 인간 뇌의 뉴런에 어느정도 기초를 두고, 진화 알고리즘은 생물학적인 진화에 바탕을 두고 있다. 인간의 뇌에서 일어나는 여러 현상들이 이를 모방한 AI에서도 똑같이 나타난다.
하지만 AI는 좁은 영역을 반복 학습할 때 더욱 똑똑하다 . 하나를 충분히 학습시키고 두번째 과제로 넘어갈 때, AI는 더이상 첫번째 과제를 기억하지 못한다. 이런 문제점을 '최악의 망각'이라고 부르며 아직 이 문제를 해결하지는 못하고 있다. 현재 최악의 망각의 해결책은 '구분'이다. 과제를 추가하고 싶을 때마다 새로운 AI를 사용하는 것 말이다. 만약 단일한 과제를 처리하는 수많은 알고리즘이 개미처럼 협동할 수 있다면, 상호작용을 통해 복잡한 문제도 해결할 수 있을지도 모른다. (만약 존재할 수 있다면) 미래의 범용 AI는 인간보다는 사회적 곤충 집단과 비슷할 것이다.
결론적으로 인간 없이는 AI가 할 수 있는 게 많지 않다. 그냥 내버려 둔다면 AI는 쓸데없이 허우적거리거나, 완전히 엉뚱한 문제를 풀 것이다. 따라서 AI를 이용한 자동화가 인간 노동의 끝이 될 가능성은 많지 않다.
가능성 있는 미래를 예측해 보면, 첨단 AI 기술이 사용되고 있더라도 AI와 인간이 협업해 문제를 해결하고 반복적인 과제를 빠르게 처리하는 모습 정도일 것이다.
인간은 AI를 만들고, 학습할 문제를 지정하고, 학습할 수 있는 데이터셋을 제공해줘야 한다. 너무 많이 간섭하는 것은 비생산적이지만, 때때로 AI가 제대로 값을 도출할 수 있는지도 확인하고 수정해줘야 한다.
AI가 많은 곳에서 인간을 대체하는 것으로 보일 수 있지만, 인간없이 모든 것을 관장할 수는 없다. AI와 함께하는 미래는 대비가 필요하지만 영화의 모습과는 다를 것이다.