서평 - 변순용 / 이연희 _ [인공지능 윤리하다]

인공지능 윤리하다
변순용.이연희 지음 / 어문학사 / 2020년 9월

주요 포인트는?

AI가 지금처럼 발전할 수 있었던 건 어찌보면 무한한 가능성이라고 표현할만한 자율성을 준 것이 큰 힘이라 할 수 있을 것이다. 하지만 모든 기술은 양날의 검처럼 발전에 따르는 만큼의 위험을 갖게 되는 듯 하다. 인공지능, 줄여서 AI라고 부르는 기술은 어느새 ‘인간’에 조금 더 가까이 다다른 것 같다. 물론 아직까지 인간의 영역에 이르는 길이 많이 남았지만 발전 속도를 볼 때 인공지능의 윤리라는 것을 생각해보지 않을 수 없겠다는 생각이 든다. 

​이런 시작점에서 이전에 잘 알려진 ‘아이작 아시모프’의 <로봇의 제 3원칙>이 떠오르긴 한다. 그와 같은 체계적인 원칙을 정립할 수 있을지가 궁금해서 그런게 아니라, 이 3원칙이 과연 로봇에게 그걸 꼭 지켜내야 한다는 강제성을 줄 수 있을 것인지가 더 의심이 되었기 때문이다. 이 책에서도 충분히 그 가능성을 보여주긴 한다. 그래서 아직 일어나지 않은 발생 이전의 상황에 예측을 통해 발전 방향과 해결책을 생각해보는 것에 큰 의미를 두고 있다는 걸 밝히고 있고, 이전에, 그리고 현재까지 수많은 곳에서 만들어내고 있는 윤리 원칙을 다양하게 알려준다. 

전공자이거나 현업에서 인공지능을 다루지 않는 이상 아마 그런 내용까지 관심을 갖기는 어려울텐데, 그중에서 눈길이 가는 건 ‘신뢰가능한 AI의 4가지 윤리원칙’이 나름 잘 초기 정립되어가는 것 같다. 내용은 ① 인간의 자율성 존중, ② 해악 금지, ③ 공정성, ④ 설명 가능성의 네가지이다. 물론 이 원칙들을 하나나 설명하기도 지면 관계상 어렵지만, 이미 다른 책에서 주장했던 바이기는 하지만 이 책에서 인용된만큼 다른 책에서도 이를 다양하게 활용할 것 같으니 직접 읽어보는 것이 더 이해헤 도움이 될 듯 하다. 

​물론 이런 인공지능에 대한 윤리에 대한 이야기가 근래의 문제제기는 아니다. 앞서 잠시 언급한 ‘아이작 아시모프’부터 로봇의 기본 원칙이 만들어졌고, 인공지능 역시 그것에 기반하여 조금씩 변해왔음을 충분히 예상할 수 있을 것이다. 이같은 이유로 책에서 제시한 로봇을 위한 윤리원칙의 기존 사례들도 도움이 될 것 같다. 이 책에서 알게 된 사실이지만 ‘아이작 아시모프’의 <로봇 3원칙>에도 수정 원칙이 하나 추가되었다는 것이다. 그건 “로봇은 인류에게 해를 끼쳐서는 안되며, 위험에 처한 인류를 방관해서도 안된다(A robot may not injure humanity, or, through inaction, allow humanity to come to harm)”인데 이 역시 상호보완적인 부분이므로 인공지능에 대한 것 연시 같은 관점으로 보게 될 것 같아서이다. 이 밖에도 ‘데즈카 오사무의 로봇 10원칙’, ‘SPSRC(Engineering and Physical Research Council)의 로봇 원칙’, ‘일본의 AI 연구개발 원칙’에 대해서 간단하게 설명해주고 있는데 이 부분이 얼마나 중요하고 많은 기관, 국가에서 신경쓰고 있는지를 단적으로 보여준다고 할 수 있겠다. 

인공지능에게도 윤리라는 기준이 정해져야 함을 잘 설명한 부분은데,책 앞부분에서 이미 모럴 튜링테스트(MTT)를 통해 윤리를 판단할 수 있다고 주장은 하고 있지만 그럼에도 이것이 잘 만들어지고 인공지능이 잘 이해할 수 있는지는 여전히 의문점이긴 하다. 즉 어떤 기계적인 기준을 ‘윤리’라는 범위로 기억시키고 따르게 하는 것까지는 가능할 수 있을지 몰라도 그것에 대해 ‘도덕성’이 만들어진다는 건 인간이 아닌이상 어렵기 때문이다. 그리고 이런 것을 도덕적인 발달단계로 볼 수 있는지 역시 불가능하기 때문이다. 그래서 어쩌면 이 책에서 말하는 많은 내용이 그저 이론서로 보일 수 밖에 없다는 생각은 책을 덮는 순간까지 지울 수 없을지 모른다. 하지만 ‘불가능’이라고 그냥 있는 그대로의 인공지능의 모든 것을 인정하기엔, 책의 앞부분에서 밝혔듯이 그런 모럴 튜링테스트조차 정답만을 선택해 그냥 통과하여 ‘윤리적인 것 처럼 보이기만 하려는’ 인공지능이 생겨난다면 우리는 어디까지를 믿어야 하고, 어디까지를 의존해야 하는지조차 판단할 수 없을지 모른다는게 가장 무서운 부분일거라는 것이다. 그래서 단 한번도 그것을 생각해보지 않았다면 사용자의 입장에서도 고민해봐야 할 부분으로 이해할 수 있겠다는 생각이 든다.

인상깊은 부분은?

윤리적인 것을 무조건 교과서적인 법률이나 관습적인 것으로만 생각하기보다는 우리의 경험속에 어떻게 드러날지에 대해서도 생각해보는게 좋을 것 같다. 책에서는 ‘창작’과 관련되어 경험하게 될 미래에 대해서도 언급하고 있다. 과연 인공지능이 만들어낸 것을 어디까지 창작으로 보고, 어느 범위까지를 저작권에 포함시킬지에 대해서는 사람들마다 의견이 다르겠지만, 인공지능의 ‘예술적 감각’이 점점 그 영향력을 펼쳐 가면서 아마도 가까운 미래에 심각한 분쟁을 일으킬 수도 있을 것 같다. 단순한 이미지부터 음악, 영화에까지 인공지능의 창작물이 생겨난다고 하니 그저 먼 미래의 일은 아닌 것이 확실할 듯 한데, 책에서는 인공지능이 작곡했다는 것과 더불어 IBM의 왓슨이 안토니 가우디의 건축 양식을 학습한 후 디자인했다는 조형물에 이르면 그저 따라하는게 아니라 학습한 후 그것을 기반으로 창작한 것이라는 데 이의가 없을 것이기도 하다. 창작하는 인공지능이라는 것 역시 최소한 전무全無한 것에서 만든게 아니라는 것에서 무언가 기초 데이터가 있기에 가능하지만 그 이후에는 인공지능에게 준자율성 또는 자율성을 위힘한다고 한다면 그렇게 생겨난 창작물에 대한 책임 역시 인공지능에게 전부 맡겨버릴 수 있다는 위험성이 꾸준히 논의되어야 한다는데 동감한다. 관심있는 부분이어서 이와 관련된 내용이 많았다면 더 좋았을 것 같은데, 전체적인 지면을 생각하면 더 많이 할애하기는 어려웠을 것이긴 하다.

​책을 받아 든 순간부터 떠오른 영화가 있었는데 바로 <바이센테니얼 맨(Bicentennial Man)> (1999, 크리스 콜럼버스 감독)이다. 이 이야기를 하는 이유는 이 책에서도 유사한 관점으로 소개되었기 때문인데, 의외로 영화를 바라보는 시선이 비슷했다. 이에 영화 말미에 앤드류는 진정으로 인간이 되기 위해서 유한한 삶을 택하게 된다. 즉 자신의 몸을 서서히 늙어가도록 수술한 것이다. 그의 몸은 결국 제조된 지 200년 만에 작동이 멈추게 되고, 그는 죽음과 동시에 한 명의 인간으로서 인정받게 된다. 이 영화 뿐 아니라 인공지능이나 미래의 로봇을 다룬 영화들에 이야기들도 언급되는데 앞서 나온 여러가지 사례들과 맞물려 구체적인 모습을 상상할 수 있어 좋았다. 단, 이런 사례들이 윤리적인 것과는 깊게 연관될지는 부족할 수 있을 것이다. 영화의 스토리에만 집중했어서 또는 원래 색체를 정확히 파악하지 못해서일 수 있는데, <그녀 Her>(2014, 스파이크 존즈 감독)에 대한 이야기를 단적으로 보다면 거기서의 인공지능을 윤리적인지 아닌지 따지기는 어렵다는게 그 이유이다. 그건 윤리 이전에 그저 잘 만든 인터페이스이었기 때문이다. 윤리와의 문제라면 그걸 그 이상으로 생각한 주인공에 관해 더 따져보아야 하지 않을까 한다.

거기에 최근의 일이긴 하지만 의료에서 사용되는 여러가지 로봇에 대해서도 언급했는데, 다른 분야에 비해 수동적일 수 밖에 없다는 것에서 아직은 윤리의 문제보다 그것을 다루는 ‘인간’의 의료사고에 대한 대처가 더 중요할거라는 생각이 들어 좀 더 발전이 된 후 논쟁할 수 있겠다는 생각이 들었고, 수많은 곳에서 인용되지만 아직 정답을 내지 못하는 '터널 딜레마'에 대해서도 다루는데 지금 인간이 결정을 내리지 못하는 것과 다르게 인공지능은 이에 대해 빠른 결정을 내릴 수 있겠다(다만 그게 도덕적인 비난에 처하더라도, 그에 대해 입력한 것에 기반한 가장 윤리에 가까운 답변을 내놓을 것이다)는 생각에 그걸 어떻게 하면 더 복잡하고 도덕적인 경험 Learning을 시킬지가 더 중요할 듯 하다.

​읽으면서 어느 교육과정의 교재로서 괜찮을 것 같다는 생각이 들었다. 지나치게 두꺼운 책에서 요리조리 끌어다 하는 것보다는 짧게 단위별로 나눠서 설명하기가 편할 것 같은데, 그래서 그런지 해외 문서나 저널을 인용한 부분이 너무 많다. 저자의 고민이 없었다기 보다는 내용 상 다양한 분야의 참고문헌이 있어야 하겠고, 그러다보니 유기적인 앞뒤 연결이 어려워 내용이 중간중간 끊긴다는 느낌을 자주 받았다. 아마 저자에게 좀 더 많은 시간과 최근의 topic을 연구할 시간이 있었다면 지금보다 더 다양한 이야기를 다뤘을 수도 있겠다는 생각에 좀 아쉽다. 그럼에도 뒷 부분의 우리나라 윤리 가이드라인의 기본틀과 핵심요소는 전공자 혹은 관심 있는 사람들이 한번 쯤 읽어보면 좋을 것 같다. 

덧붙인다면?

1. 사례가 생각보다 부족하다. 책의전체 분량에 비해서는 다양한 분야를 다루긴 했는데, 그러다 보니 내용에 깊이 들어가지 못한 건 아쉽다.

​2. 참고문헌에 있는 다양한 책들이 있는데, 인공지능에 대해 깊이 알고 싶다면 이 책들 중 2~3 권정도를 읽어보는 것도 좋을 것 같다.

​3. 인공지능에 관심이 있었고, 앞으로 다가올 인공지능의 도덕적 다양성에 관심이 간다면 추천, 미디어에서 보여주는 인공지능 외 별로 관심이 없다면 비추. 

​* 이 서평은 작성자 본인의 개인 블로그에 올린 서평 내용 일부를 편집한 것입니다.

* 이 서평은 출판사 ‘어문학사'로부터 도서를 제공받아 읽고 작성되었음을 밝힙니다.