로봇 길들이기

로봇의 자리 - 사람이 아닌 것들과 함께 사는 방법
전치형 지음 / 이음 / 2021년 9월

『로봇의 자리』는 4차 산업혁명, 인공지능, 메타버스 등이 화제인 '2020년대 현재 인간 사회에서 로봇을 어디에 위치시켜야 할지'를 함께 고민하자고 권한다.

제목만 보면 로봇이란 무엇이며 로봇이 자율성을 가지게 되면 인간과 같은 존재로 인정해야 하는가- 라는 해묵은 질문에 답하는 내용이라고 예상할 수도 있다.

그러나 저자는 프롤로그에서 그런 유의 식상함은 탈피할 거라고 예고한다. 탁상공론 대신 현장에 뛰어들어 사태를 관찰하고 진단하겠다는 선언, 한 마디로 정리하면 '로봇 길들이기'다.

🔖(11쪽)로봇을 길들이자는 것은 로봇에 대한 과도한 기대와 공포에서 벗어나서 로봇을 제대로 알아보자는 말이다. (...)로봇은 잘하는 일이 많지만 인간과 사회가 설정한 적정한 조건하에서만 그렇다. 사람이 혼자 맨몸으로 할 수 있는 일이 별로 없는 것처럼 로봇도 홀로 스스로 할 수 있는 일은 별로 없다. 로봇 길들이기는 로봇이 어떤 환경에서 어떤 일을 누구와 함께해야 하는지 설정하고, 절차를 점검하고, 그 결과를 평가하는 것이다.

첫장은 카렐 차페크의 희곡 『R.U.R(로숨의 유니버설 로봇)』을 인용하며 은유로서의 로봇과 실존하는 기계로서의 로봇에 대해 말한다. 두 로봇은 희곡과 현실에서 이미 구분하기 어려울 정도로 여러 맥락 속에서 사용된다. 중요한 건 두 개념 사이에 확실한 선을 긋는 게 아니라, 로봇을 통해 인간과 기계의 위상을 다시 생각해보는 것이다.

🔖(29쪽)로봇은 인간과 기계의 본질적 차이가 무엇인지 묻기보다는 현실 세계에서 인간이 다른 인간을 어떻게 취급하고 있는지를 묻는다. 우리가 로봇에게 법적, 사회적, 윤리적 지위를 부여하려 할 때 생기는 고민은 인간과 비교하여 로봇의 진짜 정체가 무엇인지를 규명한다고 해결되지 않는다. 로봇은 인간이라는 종의 고유하고 단일한 지위에 도전하는 것이 아니라 각종 인간들 사이에 설정된 위계를 비집고 들어오기 때문이다.

로봇에 대해 말하면 말할수록, 우리는 소설이나 영화에 등장하는 익숙한 로봇 이미지에서 멀어진다. 완전한 자율성을 가지고 감정을 느끼며 인간의 경계를 침범하는 똑똑한 인공지능 로봇은 너무 먼 이야기고 현실은 복잡하다. 나는 인공지능 로봇이 인간 사회에 섞이는 데 크게 거부감을 가지지 않는 편이었는데, 다음의 인용문을 읽고 나서는 꽤나 안일하게 그리고 무책임하게 관조하고 있는 나를 발견하고 정곡이 찔렸다.

🔖(41쪽)로봇과 '공존'하자고 쉽게 말할 수 있는 것은 로봇이 절대 난민 같은 존재가 아니라고 믿기 때문이다. 로봇에게는 역사, 문화, 종교, 신념 등 인간을 고귀하게 만들기도 하고 위험하게 만들기도 하는 것들이 없으므로, 그냥 우리 사이에 들어와서 살아도 골치 아플 일이 없다고 생각하는 것이다.

낯선 로봇에게 열려 있는 만큼보다 낯선 사람을 환대하기가 더 어렵다니, 냉동실에 처박아두고 잊었던 음식물쓰레기 봉투를 발굴해낸 것 같은 기분이 들었다😳

이어지는 내용도 대개 이런 식이다. 우리는 너무 쉽게 사람이 일하는 자리에 로봇을 대신 채워넣고 싶어하지 않는가. 피땀눈물 흘리는 사람을 치워두고 무색무취의 로봇을 전면에 내세우고 싶어하지 않는가. 인공지능의 뒤편에 알고리즘 설계자가 있다는 사실을 망각하지 않았나. 불완전한 인간이 만들어낸 인공지능을 너무 쉽게 완전무결하다고 믿고 싶어하지 않았나. 

하지만 기술이 아무리 발전해도 알고리즘은 편향, 차별, 배제, 혐오를 실어나른다. 왁자지껄하지 않아서 모르고 지나칠 뿐이다. 그나마 최근에 AI 챗봇 '이루다' 문제가 떠들썩했던 게 기술의 "유토피아적 자율성"이 틀렸음을 입증하는 좋은(?) 사례라고 할 수 있겠다. 

결론은 이것이다. 완전한 기계가 불완전한 인간을 대체할 것이라는 환상(또는 공포)이 아니라, 불완전한 기계를 불완전한 인간의 옆에 두어 양자를 보완하는 현실 직시하기, 마지막으로 인간 옆에 인간이 있어야 함을 잊지 않기, 그 과정을 성급하게 결정하지 말기로 하자.

🔖(239쪽)인간 세상에 들어오는 로봇에게는 적당한 로봇의 자리가 필요하고, 그 자리를 찾아주는 것은 인간의 일이다. 로봇과 같이 할 수 있는 일을 찾는 것도 인간의 일이다. 그렇게 하는 중에 인간도 자기 자리를 조금 옮겨 잡는다. 대략 이 정도가 인간이 감당할 만하고 인간에게 도움이 되는 포스트휴먼의 조건이다.

로봇은 인간과 기계의 본질적 차이가 무엇인지 묻기보다는 현실 세계에서 인간이 다른 인간을 어떻게 취급하고 있는지를 묻는다. 우리가 로봇에게 법적, 사회적, 윤리적 지위를 부여하려 할 때 생기는 고민은 인간과 비교하여 로봇의 진짜 정체가 무엇인지를 규명한다고 해결되지 않는다. 로봇은 인간이라는 종의 고유하고 단일한 지위에 도전하는 것이 아니라 각종 인간들 사이에 설정된 위계를 비집고 들어오기 때문이다. - P29

로봇과 ‘공존‘하자고 쉽게 말할 수 있는 것은 로봇이 절대 난민 같은 존재가 아니라고 믿기 때문이다. 로봇에게는 역사, 문화, 종교, 신념 등 인간을 고귀하게 만들기도 하고 위험하게 만들기도 하는 것들이 없으므로, 그냥 우리 사이에 들어와서 살아도 골치 아플 일이 없다고 생각하는 것이다. - P41

로봇이 들어가서 메꾸려고 시도하는 빈자리들을 보면서 우리는 왜 여기에 이렇게 사람이 없는지 한 번 더 생각하게 된다. - P75

인공지능의 젠더 식별 정확도가 높아질수록, 트랜스젠더를 식별 대상에 넣지 않는 차별적인 시스템도 더 굳건해진다. - P147

물리적 얼굴을 특정한 정체성이나 성향으로 대응시키려는 시도는 언제나 실패했다. 알고리즘은 얼굴에 새겨져 있는 차별과 배제의 경험을 읽어낼 수가 없다. 그 역사를 읽지 않는 것을 알고리즘의 객관성이라고 믿는 순간, 차별과 배제의 역사는 알고리즘을 통해 반복된다. - P148

인간 메인테이너에게는 자신에게 닥친 위험을 알리고 피할 수 있는 자율, 즉 아시모프의 로봇만큼의 자율도 허락되지 않는다. - P186

인공지능과 인공지구 모두 인간의 활동으로 말미암아 생겨나거나 변모한 존재들이지만 우리는 양쪽과 사뭇 다른 관계를 설정하고 있다. 우리는 스스로 만든 인공지능을 보면서 경이와 두려움을 고백하는 데 익숙하지만, 인공지구에 대해서는 이것이 우리 손으로 빚어낸 결과임을 쉽게 인정하지 않으려 한다. - P221

인간 같은 로봇에 집착할 것이 아니라 로봇과 인공지능이 인간 사회 속에서 각종 임무를 안전하고 효과적으로 수행하도록 하는 일에 집중하자는 것이다. - P238

인간 세상에 들어오는 로봇에게는 적당한 로봇의 자리가 필요하고, 그 자리를 찾아주는 것은 인간의 일이다. 로봇과 같이 할 수 있는 일을 찾는 것도 인간의 일이다. - P239