죽은 기계에게 살아있는 생각을 부여하기 위한

윤리적 AI로봇 프로젝트
변순용 엮음 / 어문학사 / 2019년 2월

이 글에는 스포일러가 포함되어 있습니다.

아마 윤리와 이성보다 서로 가까이 하기 어려운 단어가 또 없을 것이다. 운이 좋아 책을 수령할 수 있었고, 그 전까지 많은 기대를 품었다. 인공지능과 도덕성의 결합에 관심을 가지게 된 첫 계기는 아마 포탈 시리즈를 플레이하게 된 순간이었을텐데 글라도스의 아리아처럼 들리는 음성에서 아마 어떤 전율을 느꼈던 것 같다. 첼에게 짜증이 난다고 하는 그녀의 목소리라던가, 혹은 사유할 수 있는 기계에 대한 이전의 짧은 단편이라던가. 내게는 전부 흥미로운 경험이었다.

판단력을 갖춘 기계에 대한 인간의 두려움은 많은 작품 속에서 나타난다. <포탈> 시리즈가 그랬고, 스탠리 큐브릭의 <스페이스 오딧세이 2001>이 그랬다. 개인적으로 데이지 벨을 부르는 할의 장면 역시 굉장히 인상깊게 보았는데 동시에 드는 생각은 언제나 같았다. 인공지능에게 완벽성을 추구한다면 도덕적 결함 역시 수리할 수 있지 않을까? 하는.

이 책은 로봇윤리에 대한 이론적인 설명 (1부), 설명을 토대로 이루어지는 실제적 연구 (2부), 이러한 연구 과정 속에서의 담론 (3부) 에 대해 다루고 있다. 공학과 인문학 (사실 인문학이라고 명확히 말할 수 있을지에 대해서는 의문이다) 의 결합처럼 낯선 것이 또 있을까? 하지만 괴짜들이란 뭐든 해내기 마련이다. 어쨌거나 이 마음 따뜻한 사람들은 기계로 하여금 스스로 판단하는 데에서 그치는 것이 아닌, 자신의 판단이 '인간다운지' 에 대해 생각하도록 노력 중이다. 만일 이 연구가 성공한다면 우리는 더 이상 도덕성을 인간답기 위한 조건이라고 부를 필요가 없게 될지도 모른다. 주관적 가치를 수치화시키는 일에 성공했으니.

'도덕적 행위' 능력과 도덕적 '행위능력' 으로 분류할 수 있다는 언급과 함께 책은 두 가지의 차이를 다음과 같이 분류한다. 전자는 도덕적 사고를 통해 수행하기로 한 행위를 실행하는 능력 (실질적 능력)이며, 후자는 행위를 유발하는 능력 (inspire에 가까우나 예시에 따르면 유발보다는 분야 자체와 관련된 능력을 지칭하는 것으로 보인다) 이라는 것이다. 현재 로봇이 구현할 수 있는 행위의 정도는 후자에 불과하나 발전 과정에서 전자의 모습 (스스로 사유하기) 을 기대하는 것이 학계의 전망으로 보인다.

수많은 윤리 이론을 기계 안에 투입하기 위한 2부의 시도들은 나 자신이 과연 인간이 맞기는 한지에 대한 의문을 품게 한다. 인간에게 윤리 모형을 덧입히기 어려운 것은 이미 그들이 자율화를 마친 상태라서가 아닐까? 기계들이 딜레마를 제거하며 공정과 도덕을 찾을 때 과연 인간은 무엇을 하고 있는지. 공리주의 모형을 기계에게 도입하려는 연구 전반은 분명 흥미로우나 기왕 도입할 거 보다 현대적인 모형을 썼으면 좋겠다는 생각이 든다. 기계가 쓰일 사회는 결국 연구실 안이 아닌 바깥세상이니까. 다수를 위한 선택은 대개 내재된 폭력성을 지니기 마련이다. 차차 개선해나가기에는 위험이 크다. 이렇게 말하고 보니 꼭 기계파멸론을 외치던 20세기 사람같군... 

그러나 이 걱정이 무색하게 3부 내내 윤리적 쟁점과 이에 따른 연구 담론이 나열되어 있기 때문에 만족스러운 독서가 될 수 있었다. 도덕이란 결국 인간이 만들어낸 서사 중 가장 쓸모 있게 여겨지는 가치 중 일부다. 내러티브라는 것이 주관성을 포함하는 이상, 윤리적 기능이라는 가치에도 결국 의문이 생기기 마련이다. 이 근본적인 두려움 속에서 끊임없이 연구를 하고, 이렇게 책으로 설명해주시는 분들께 그저 감사할 따름이다.