AI는 양심이 없다

AI는 양심이 없다 - 인간의 죽음, 존재, 신뢰를 흔드는 인공지능 바로 보기
김명주 지음 / 헤이북스 / 2022년 5월

서비스 산업, 제조업, 행정, 교육, 나아가 일상생활에 이르기까지 거의 모든 분야에 AI가 도입되어 급격한 변화를 맞이하는 요즘입니다. AI가 일상에서 이처럼 널리 쓰이면 마냥 편할 것만 같지만 아직은 완성도가 떨어지는 데다 사람이 직접 응대할 때와는 달리 뭔가 고객 서비스가 무책임해진 듯한 느낌도 있습니다. 뿐만 아니라, 빅데이터를 활용하여 더 정밀하고 정확한 서비스를 제공한다고는 하지만 프로그래머, 시스템 오퍼레이터가 시스템의 정확한 자동 기제를 모른다면 오류를 어디서 개선해야 할지 알 수 없을 뿐더러, 사람한테서만 기대할 수 있는 윤리적 준칙 같은 건 아예 꿈도 못 꿉니다. 그래서 AI 시대의 전면 도래를 앞둔 사회는 특히 관련 법규범과 윤리적 기초를 마련하는 노력도, 기술적 완성에 쏟는 정성 못지 않게 기울여야 할 듯합니다. 

p60에서는 트랜스휴머니즘에 대한 논의가 나옵니다. 이는 무려 1989년, 지금으로부터 33년 전에 이란계 미래학자가 고안한 용어라고 합니다. 전통적인 인간상, 관점, 정체성에서 훨씬 벗어나 그보다 높은 능력을 발휘하면서도 종전의 본질을 어느 정도 간직하는 차세대 인간 담론을 가리키며, 그는 2030년에 이런 트랜스 휴먼의 개념이 완성될 것으로 기대하여 자신의 신체를 냉동시켜 줄 것을 요청했다고 합니다. 2030을 불과 8년 앞두고 있지만 1989년에 비해 유의미한 진보가 이뤄진 듯 보이지도 않고, 이란이라는 나라의 정치적 상황도 오히려 그때보다 더 경직되거나 폐쇄적, 나아가 퇴보한 듯도 보입니다. 기술적 면에서건 윤리적 면에서건 진보는 결코 쉬운 과제나 비전이 아니었나 봅니다. 

p68에서는 이런 논의에 결코 빠져서는 안 될 것 같은, 아이작 아시모프의 소설에 나왔던 인공지능 윤리에 대한 이야기가 나옵니다. 뿐만 아니라 1980년대 후반에 만들어진 SF 영화 <로보캅>에도, 순수 로봇이건 인간에 칩과 기계를 이식한 안드로이드건 간에 어떤 행동 준칙이 입력되는 설정이 나오는데, 인간은 타고난 양심 혹은 공감능력이라는 게 있어 따로 교육이 없어도(있는 편이 훨씬 낫지만) 어떤 격률에 의해 행동하지만, AI야 그런 게 있을 리 없으니 인간이 세세히, 그 창조주로서 세팅을 해 줘야 한다는 인식이 반영됩니다. 그러나 이런 픽션 속에 등장하는 정도로는 이 복잡한 세상 속에 AI를 론칭시키는 데 턱없이 부족합니다. 

사이버 가수, 배우 등은 20세기 말에 실험적으로 발주되었으나 모두 실패를 맞이했습니다(이 이슈는 이 책 p104 이하에서 리뷰됩니다). 그때와 지금이 다른 점이라면 소셜 미디어가 엄청나게 발달하여 이를 운영하는 인플루언서들이 활동한다는 건데, 사실 이런 계정주들이 꼭 실존하는 개인일 필요는 없고 얼마든지 가상으로 운영할 수 있습니다. 신X은행의 광고에 나오던 어떤 캐릭터가 크게 화제가 된 적도 있고, 이 책 p82 이하에도 여러 사례가 나오며 본캐뿐 아니라 이른바 부캐들까지 다양하게 파생하여 활용되고 있다고 합니다. 인플루언서 관련 논의가 매우 자세하고도 길게 나오는데, 특히 이런 가상 인플루언서야말로 말그대로 대중에 "영향을 끼치는" 존재들인 만큼 윤리 준칙의 확립이 시급한 선결과제이겠습니다. 

인공지능은 IBM 등 기업의 주도로  체스 같은 게임에서 처음 시도되었고 IBM은 이후 특히 의료 부문에서 이를 도전적 과제로 삼고 계속해 나간다고 합니다. 예전부터 가천 길병원과 협업을 시도했었고, 이 책에서는 국내 빅 5 병원들이 모두 이를 도입했다고도 소개합니다. 이어서 금융, 법률서비스, 미술 등에서도 AI는 실험적 행보를 이어가는데 아직 이것들이 만족스러운 서비스를 제공하거나 애호가들의 열렬한 관심을 받기까지는 걸어야 할 길이 먼 듯도 보입니다. 

GNR 기술(p167)이라 함은 유전, 나노, 로봇 공학의 앞글자를 딴 약어입니다. 특히 이 분야에서 인공지능은 급속도로 발전하여 학자, 기술자 들을 돕고 있으며 여기에서 얻어진 성과가 다시 범용 인공지능 발전으로 유입하여 인공지능 자체의 완성도를 높이는 게 쓰일 것으로 전망됩니다. 그러나 역시 인간만이 할 수 있는 섬세한 판단과 손길을 AI가 대체하기까지는 아직 높은 장벽이 남았겠죠. 인종차별, 소수자 혐오, 여성 경시 등의 성향을 내보이는 AI도 간혹 나타나는데 어차피 입력되는 데이터들이 그런 성향이었으니 그 산물인 AI에도 그런 개성이 배는 것도 무리가 아닙니다. 이 이슈는 "윤리"와 직결되어 있는 문제이기도 합니다.

특히 GAN이라고 하는, 이른바 생성적 적대 신경망(p198)은 AI의 최첨단을 보여 주는 성과입니다. 얀 르쾽의 찬사가 아니라고 해도, 이 GAN은 마치 헤겔의 변증법적 발전의 한 양태를 반영하는 것 같기도 하며, 몇 년 전에 타계한 어느 가수를 홀로그램으로 부활시킨 사례라든가, 지난 대선 후보 중 한 사람을 AI로 구현한 예 등이 모두 이 GAN에 기반했다고도 합니다. 이 GAN의 성과 덕에, 이른바 딥페이크가 더욱 놀랄 만한 완성도를 구현하게 된다는 게 책의 설명입니다. 

이 책의 4장부터 본격적으로 윤리에 대한 논의가 전개됩니다. 책은 스스로 질문을 던집니다. "왜 시작부터 윤리여야 하나?" 사실 이 책은 1~3장에서 그저 기술적 발전을 설명하는 게 아니라, 독자가 스스로 "이래서 AI 윤리 정립이 꼭 필요하겠구나" 같은 생각을 스스로 하게끔 유도하는 서술을 이미 하고 있었습니다. AI 공학자들이 최우선적으로 고민해야 할 과제이겠으나, 이런 성과를 타 분야에 응용하거나 향유하게 될 다른 분야의 전문가, 혹은 그저 소비자의 입장이라고 해도 윤리 규범의 제정에 참여할 필요와 권리가 있습니다. 그들만의 세계에 맡길 게 아니라 AI 윤리가 당장 우리의 문제임을 깨닫게 되는 게 이 책을 읽은 보람입니다. 

*본 포스팅은 네이버 카페 문화충전으로부터 제공 받아 솔직하게 작성된 서평입니다.

*출판사에서 제공된 도서를 받고 주관적으로 작성된 서평입니다.