나는 괜찮은 AI입니다

나는 괜찮은 AI입니다 - 우리가 알아야 할 AI시대의 공존법 ㅣ 자음과모음 청소년인문 25
오승현 지음 / 자음과모음 / 2022년 7월

우리가 알아야 할 AI와의 공존법

자신이 평생 풀어야 할 질문과 문제를 스스로 찾아낸 사람들이 역사에서 위대한 발견을 했다. 아이작 뉴턴은 ‘사과는 왜 아래로 떨어질까’ 결국은 이 물음에 관한 답, 만류인력의 법칙을 알아냈다. 아인슈타인은 ‘빛의 속도로 달리면 빛은 어떻게 보일까’라는 물음을 한 끝에 상대성 이론을 발견하게 됐다. 

우리는 가끔씩 관성과 고정관념에 벗어나지 못할 때가 많다. 결국 문제를 달리보면 새로운 시각이, 그리고 또 답이 얻어진다. 이 책은 자음과 모음의 청소년인문시리즈25다. 

인공지능(AI; Artificial Intelligence)이란 게 뭔지, 이 책에서는 여섯 가지 질문형태로 책이 구성됐다. 질문은 탐구와 소통 그리고 미래의 시작이다. 1장 누구를 살릴 것인가? - 자율주행, 2장, 인공지능은 객관적이고 중립적일까? - 빅데이터와 알고리즘- , 3장 인공지능도 마음을 가질 수 있을까?- 관계-, 4장 업로드된 정신은 인간일까? - 신체-, 5장 일자리가 사라지면 어떻게 될까?- 일자리- , 6장 초인공지능과 어떻게 공존할까?-초인공지능-

이렇게 질문을 정리해보면, 인공지능에 관한 궁금증을 묻고 답하는 내용임을 알 수 있을 것이다. 

먼저 인간과 로봇이 생각하는 가치는 같을까? 그렇지 않다. 로봇은 인간을 보호하며, 인간의 명령에 복종해야 한다. 로봇은 스스로 보호해야 한다(영화,<아이,로봇>(2004)에 나오는 3원칙이다. 그런데 로봇은 인간을 보호해야하지만, 인간의 명령과 충돌되는 경우, 아울러 로봇은 스스로 보호해야 하는데, 상호모순관계에 있다. ‘가치’는 뭘로 결정되는가라는 물음이 생기지만... 또 영화<터미네이터>시리즈, 인공지능을 너머 스스로 생각하는 단계에 까지 이르러 인간을 멸종시키고 기계사회를... 이런 SF, 즉 미래공상과학 영화나 소설은 인공지능의 양면을 살펴보자는 의미이지 않을까, 물론 어느 한쪽에 초점을 맞춰지겠지만, 다음에서 몇 가지 문제를 생각해 보자. 

자, 첫 번째로 자율주행은 어디까지..., 미래의 자동차가 로봇이라면 로봇 3원칙과 어떤 관계에 놓이는가, SF영화에 자주 등장하는 자율자동차는 인공지능에 의해 통제되는 운송기계다. 운전자가 필요가 없을뿐더러 때로는 공유할 수도 있다. 가장 핵심적인 사항은 자율주행차의 목표를 어디에 두고, 우선 가치를 어떻게 설정하는가이다. 꽤 가치관에 관한 문제다. 자율주행차는 보행자, 탑승자 어느쪽을 우선하는가, 탑승자 우선이라면 보행자 보호는... 이런 논쟁은 어찌 보면 실제로는 탁상공론으로 끝날 수도 있다. 자율운행의 목표와 가치는 보행자와 탑승자 이 모두의 생명을 보호해야 한다. 로봇 3원칙으로만 판단하면 보행자냐 탑승자냐는 논리에 빠지기 쉽지만, 답은 문제가 잘못됐다. 즉 자율주행차의 윤리적 딜레마의 문제는 애초 일어날 여지가 없을수도 있다. 왜냐하면, 자율주행차는 모든 생명을 보호하려는 목적이기에...

두 번째는 인공지능은 객관적, 중립적?, 인공지능 알고리즘은 빅데이터와 같은 방대한 데이터를 능률적으로 처리할 수 있게 됐다. 이에 따라 방대한 자료를 다루는 직업들이 인공지능에 의해 대체될 것이라는 전망이 나오고 있다. 그렇다. 인공지능을 바탕으로 빅데이터 분석이 가능하지만, 어떤 목적과 용도로 데이터를 쓸 것인가하는 문제가 생긴다. 오래전부터 교통사고재판에서는 통계 등을 사용하여 AI 도입이나 빅데이터 사용 초기단계쯤이라고 해야할까, 서울지방법원의 교통사고재판전담부는 여러 조건을 대입, 인사사고에 관한 배상 즉 손해배상청구에서 피해자의 과실 비율을 정하고 있다. 형사재판이라면 어떨까, 아직까지는 인공지능을 활용했다는 말은 듣지 못했지만...

자, 보자 이 책에서 예로 들고 있는 인공지능판사라면 어떨까, 모든 판례를 바탕으로 케이스 판단을 할 것이다. 객관성의 기준은, 판결까지의 과정을 보자. 판사는 법과 양심에 따라 재판을 하지만, 법관의 지식과 경험측, 가치에 관한 기준 등에 작용하게 마련이다. 따라서 객관적, 중립적이란 꽤 위험한 로직일 수 있다는 말이다. 데이터가 어떤 의도로 어떤 기준에 의해서 수집됐는지도 관계가 있다. 

세 번째 마음을 업로드할 수 있을까? 업로딩은 현재 기술로는 불가능하다. 뇌의 복제와 전송이라는 발상은 모라벡<마음의 아이들>(김영사,2011)에서 인간과 기계의 공통점에 주목, 미래에 이 둘이 하나로 합쳐진 미래를 예언한다. 인간의 실체는 본질적으로 신체화된 행동이 아니라 정보 패턴이며, 따라서 인간 의식을 컴퓨터에 업로드할 수 있다고... 그렇다면 뇌과학자들은 인간의 마음을 어떻게 이해할까? 라는 근원적인 질문, 아직까지 마음, 바꿔말하면 의식, 감정, 정서 등등을 어떻게... 아직은 미지의 세계다. 하지만, 이런 논의는 유의미하다. 인간 커넥톰 프로젝트- 커넥톰(연결성)과 게놈의 합성어- 한 개체의 신경계 안에 존재하는 모든 신경세포들의 연결망을 나타내는 연결성지도다. 

네 번째 로봇이 인간의 일자리를 빼앗을까? 뺏길 것이다. 스마트 팩토리 100% 자동화공정을 갖춘 독일의 아디다스 공장에 상주 인력은 고작 몇 명, 예전에 600명이 일했던 곳이다. 미국에서는 1990이후 20년 동안 섬유업 종사 노동자의 75%가량이 일자리를 잃었다. 브루킹스연구소는 인공지능의 보급으로 앞으로 20년 안에 일자리의 25%일자리가 줄어들 것이고, 세계경제포럼은 “직업의 미래 보고서 2018”에서 2025년까지 기계가 전체 일의 52%를 대체할 것으로... 그러면 남거나 늘어날 일자리는 여전히 인간의 마음과 감성과 연결된 직업들- 돌봄, 보육, 심리상담, 학생 상담 등- 일 것이다.

제 아무리 인공지능이라 할지라도 인간의 의식활동까지 대체하기에는 무리가 있다. 하지만, 대체 가능하면 어떨까 하는 상상과 희망이 없으면 기술발전의 미래는 없을 것이다. 

앞으로 인간에 요구되는 것은 포스트 휴먼이다. 인공지능이 일자리를 빼앗아 가는 것이 아니라 미래 사회는 인간의 모순된 영역, 제한된 윤리성으로 비윤리적 행동을 할 수 있다는 점에 착안, 이를 예방할 수 있는 방법 등은 빅데이터 등을 활용하여 좀더 치밀하게 분석이 가능하게 될지도 모르겠다. 바로 이 대목에서 AI와 인간의 상호이해와 공존이 필요할 것이다. 

사람은 편리한 삶을 위해 인공지능을 만들었지만, 인공지능은 사람을 어떻게 생각하고 있을까? 인간을 정복대상으로 본 영화<터미네이터>나 기계에 의해 통제되는 사회 영화<매트릭스>처럼, 서로 지배하려들지도 모른다. 인공지능에 대한 오해와 편견의 벽을 허물기 위한 노력이 바로 이 책의 내용이기도 하다. 

여전히 미지수인 인간의 미래, 인간의 창의성이 미래의 원동력인 것만은 사실이다. 이런 창의성이 어떻게 어떤 방향으로 향할지...묻고 또 물어야 할 것이다. 

<출판사에서 보내준 책을 읽고 쓴 리뷰입니다>