[Review] 녹슬지 않는 세계 (김아직 作, 북다)

녹슬지 않는 세계
김아직 지음 / 북다 / 2023년 10월

앨런 튜링(Alan Turing, 1912~1954)은 기계가 인간과 얼마나 비슷하게 대화할 수 있는지를 기준으로 기계에 지능이 있는지를 판별하고자 하는 시험을 제안하면서 기계와 인간을 구분할 수 없을 만큼 뛰어난 언어적 행동이 가능한 기계는 지능을 가진 것을 보는 것이 타당하다 주장했습니다. 이를 튜링 테스트 혹은 이미테이션 게임이라 부릅니다. 

지능. 익숙한 단어이지만 이를 정의내리기란 쉽지 않습니다. 사실 인간이 가진 철학적, 윤리적 고민은 인공 지능이 아닌, 태어날 때부터 인간인 종을 중심으로 구축되어 왔기 때문에 인간이 아닌 다른 종 혹은 다른 존재의 지능에 대해서는 그 고민의 깊이가 얕을 수 밖에 없습니다. 무엇인 지능인지, 무엇이 인간인지에 대한 사회 보편적인 합의가 이루어지지 않았다고 볼 수 있습니다.  

하지만 21세기 들어 인공지능에 대한 연구가 활발해지면서, 그리고 ‘알파고’나 ‘Chat GPT’ 같은 인공지능이 사회에 큰 충격을 주게 되면서 무엇이 인간이고, 무엇이 지능인지에 대한 고민은 단순히 형이상학에서 벗어나 현실적인 문제로 다가오고 있습니다.

“녹슬지 않는 세계 (김아직 作, 북다)”를 읽었습니다.

루치아. 금속뼈대, 인공관절, 흡사 마네킹을 닮은 얼굴을 가진 이 존재를 안드로이드라 말합니다. 폐기 처분을 받고 도망친 로봇이기도 합니다. 하느님의 모상인 인간이 아니지만 천국에 가고 싶어하는 인공 개체입니다. 죽음 너머로 떠난 그분을 돌보기 위해. 루치아는 천국에 가기 위해 노사제로부터 병자성사를 받습니다. 병자성사는 그 자체로 유효한 것. (Ex opere Operato) 이제 천국에 갈 수 있을까요?

레미지오. 루치아에게 병자성사를 행한 노신부입니다. 하지만 루치아에게 속았음을 알고 온갖 저주를 퍼붓습니다. 로봇은 천국에 갈 수 없는 것일까요? ‘우리의 천국’에는 기계를 위한 자리는 없는 것일까요? 자기인식이 가능한 기계라 하더라도 ‘인간이 아니기에’ 생명이 꺼지면 용광로에 던져지면 끝나는 것일까요? 그럼에도 불구하고 루치아로부터 구원을 받습니다. 

루치아는 인간의 천국을 넘본 죄로 마녀로 규정됩니다. 이제 다시 마녀 사냥이 시작됩니다. 

인간 만의 것을 넘본 존재. 그리고 인간이라는 범주의 확장 . 새로운 시대의 새로운 마녀 사냥. 이 소설은 독자에게 철학적 사유거리를 던져주는 흥미로운 소설입니다. 인간을 규정하는 범주적 특징은 무엇일지, 비인간이 인간다움을 획득하기 위해 어떤 것이 필요한지. 소설을 읽는 내내 흥미로운 생각들이 교차하던 시간이었습니다. 그리고 전혀 다른 분위기이지만 박성환 작가의 단편 ‘레디 메이드 보살’이 연상되는 시간이기도 했구요.

#녹슬지않는세계 #김아직 #북다 #책과콩나무

※ 본 서평은 출판사로부터 도서를 제공받아, 직접 읽고 주관에 따라 서평을 작성하였습니다.

[Review] 괄호로 만든 세계 (마이클 울드리지 著, RHK)

괄호로 만든 세계
마이클 울드리지 지음, 김의석 옮김 / 알에이치코리아(RHK) / 2023년 10월

“괄호로 만든 세계 (마이클 울드리지 著, 김의석 譯, RHK, 원제 : The Road to Conscious Machines: The Story of AI)”를 읽었습니다. 제목만 봐서는 무슨 내용을 다룬 책인지 직관적으로 알 수는 없지만 원제를 보고 AI의 역사, 그리고 인공 의식까지의 미래를 다룬 책이라는 사실을 알 수 있었습니다.

저자는 책에서 AI이 탄생하기까지의 복잡한 여정, 진화, 윤리적 고려 사항, 인공 의식을 구현할 수 있을 것이라 추정되는 잠재적 경로에 대한 전체적인 이해를 전문 지식과 스토리텔링을 결합하여 흥미진진하게 독자들에게 들려줍니다.

AI, 인공지능 (人工知能, Artificial Intelligence). 그 시작을 어디로 봐야 할까요? 관점에 따라 다양한 견해가 나올 수 있지만 저자는 엘런 튜링 (Alan Mathison Turing, 1912~1954)을 그 시작으로 보고 있습니다. 특히 튜링 머신과 튜링 테스트는 오늘날 컴퓨터와 인공지능 발전의 기틀을 만들었다 보고 있습니다.

이를 시작으로 저자는 AI 기술 발전에 대한 초창기 역사를 독자들에게 흥미롭게 전달합니다. 특히 AI 개발 초기 존 매카시와 같은 선구자들이 직면한 낙관주의와 도전은 이내 해결할 수 있는 문제이지만 사실상 해결이 불가능한 문제라는 사실에 직면하면서 한계에 부딪히고 맙니다.  

이후 알고리즘이 데이터로부터 학습하기 시작하여 상당한 발전을 이끌어낸 방법에 중점을 두고 머신 러닝으로의 전환까지 역사 역시 흥미롭게 풀어냅니다. 이 역사는 이후 신경망의 출현과 딥러닝의 혁신적 힘으로 자연스럽게 이어집니다.

저자는 복잡한 개념을 이해하기 쉬운 정보로 풀어내어 이 분야의 초보자와 전문가 모두가 쉽게 접근할 수 있도록 도와줍니다. 특히 기술적인 세부 사항과 이러한 혁신을 주도하는 개인에 대한 일화를 엮어 기술 여정을 인간의 이야기로 풀어내는데 탁월하고 독자의 공감대를 얻어내는데 능숙합니다. 

이 책에서 가장 눈에 띄는 특징은 AI 연구가 직면할 수 있는 윤리적 차원에 대한 부분입니다. 특히 현대 AI 담론에 있어 핵심이 되는 편향성, 투명성, 책임감이라는 시급한 문제를 다루고 있습니다. 저자는 학습 데이터 채용 과정에서 발생할 수 있는 편향된 알고리즘과 같은 사례를 바탕으로 이야기를 전개함으로써 이러한 윤리적 과제에 대한 해결의 시급성을 강조합니다. 특히 윤리적 고려 사항은 AI 개발이 단순한 기술적인 노력 뿐만 아니라 사회적 영향에 대한 신중한 성찰이 필요하다는 점을 강조할 수 밖에 없습니다.

AI에 대한 연구 중 가장 흥미로운 분야는 바로 의식을 가진 기계, 즉 인공 의식에 대한 연구일 것입니다. 저자는 앨런 튜링이 제안한 유명한 테스트에 초점을 맞춰 기계 지능을 판단하기 위한 여려 역사를 설명하고 튜링 테스트가 가진 한계에 대해서도 논의를 이끌어나가면서 현대 AI가 가진 한계 역시 다루고 있습니다. 또한 이는 기술적 측면 뿐 아니라 철학적, 윤리적 측면에서 독자의 고민을 이끌어내고 있다는 점에서 매우 흥미롭습니다.  

AI가 사회에 미치는 영향력에 대한 주제는 매우 중요하고 시급성이 높은 아젠다일 수 있습니다.이 책 역시 AI가 사회에 미치는 영향에 대해 소홀히 다루고 있지 않습니다. 의료, 자율주행, 기후 환경 등 AI가 가진 더 넓은 영향력에 대해 고민할 수 있는 주제를 독자들에게 던져주고 있습니다.  

책을 쓰고 출간한 시점이 2019~2020년 정도라 최근 각광받고 있는 chat-GPT 같은 LLM (Large Language Model)에 대한 업데이트는 안되어 있다는 점이 아쉬웠다는 것을 제외하고는 굉장히 만족한 독서경험을 가질 수 있었습니다.

#괄호로만든세계 #마이클울드리지 #김의석 #RHK #리뷰어스클럽

※ 본 서평은 출판사로부터 도서를 제공받아, 직접 읽고 주관에 따라 서평을 작성하였습니다.

[Review] 나만 옳다는 착각 (크리스토퍼 J. 퍼거슨 著, 선순환)

나만 옳다는 착각 - 내 편 편향이 초래하는 파국의 심리학
크리스토퍼 J. 퍼거슨 지음, 김희봉 옮김 / 선순환 / 2023년 11월

“나만 옳다는 착각 (크리스토퍼 J. 퍼거슨 著, 김희봉 譯, 선순환, 원제 : Catastrophe!: How Psychology Explains Why Good People Make Bad Situations Worse)”를 읽었습니다. 

인지 편향으로 인한 인간의 오류에 대해 다룬 교양 심리학 서적입니다. 인지 편향은 올바른 선택을 방해하여 잘못되거나 비합리적인 의사결정을 하게 만들이죠. 특히 갖가지 재앙 혹은 긴급 상황에서 발생하는 인지 편향은 가끔 대파국으로 이끌기도 합니다. 

책에서 저자는 이의 대표적인 사례로 에어프랑스 447편 추락사고를 소개하고 있습니다. 2009년에 벌어진 이 사고는 우리나라에도 꽤 알려진 사고입니다. 과냉각으로 인해 속도계가 잠깐 이상을 일으켰고 이로 인해 오토파일럿이 잠깐 해제되었던 상황에서 부기장의 과실로 인해 실속(失速)  상태에 빠진 비행기가 추락한 사고입니다. 이 책 초반부에는 당시 부기장이 어떤 실수를 했는지에 대해 상황이 자세히 나와 있으습니다. 비록 유능하고 잘 훈련된 사람이라 할지라도 위기 상황에서 불완전한 정보를 접하게 되면 누구나 감정에 휩쓸려 혼란에 빠지게 되고 불필요하거나 불합리한 선택으로 인해 파국을 맞이할 수 있는 인지적 오류를 범할 수 있다는 것입니다.  

이 사례는 인간이 가진 정상적인 인지 능력 자체가 비효율적이며 좋지 않은 것을 보여주고 있다고 저자는 주장합니다. 특히 이상을 일으켰던 속도계나, 잠깐 해제되었던 오토 파일럿 기능이 정상으로 돌아왔음에도 불구하고 조종간을 지속적으로 잡아당겨 고도를 높이려 했던 부기장의 행동은 상식적으로 생각해도 잘못된 행동임이 분명하지만, 똑 같은 행동을 반복함으로써 결국 파국에 이르게 되었는데 이를 저자는 인내 오류 (perseverative error)라 일컫습니다. 사실 비행기 조종이 아니더라도 우리는 비슷한 오류를 수없이 저지르면서 살아가고 있음을 깨닫습니다. 

이러한 오류 상황에서는 커뮤니케이션이 단절되고, 판단력이 흐려지며, 충동성이 증가합니다. 이는 문명 이전 상황에서는 분명 도움이 되는 인지 기능이었을 것입니다. 하지만 유전적으로 프로그래밍 되어 있는 이 기능은 문명이 발달하면서 많은 상황에서 효율적이지 않은 기능이 되어버린 것이지요. 우리는 이를 인지 편향 혹은 인지 오류라 일컫습니다. 

또한 사람들은 비록 ‘사실이 아니’라 하더라도 놀라운 주장에 귀를 기울이는 경향이 많습니다. 그래서 음모론이 성행하는 것이지요. 책에서는 ‘죠스’라는 영화의 흥행이 상어 개체수 감소에 영향을 주고 있다는 주장에 대해 논박합니다. 

이 주장은 ‘죠스’라는 영화를 통해 상어의 공격이 치명적이고 공포스럽다는 사실을 사람들이 깨닫고 상어를 죽이기 시작했으며, 이로 인해 전 세계 상어 개체 수가 급격히 감소했다는 것입니다. 심지어 ‘죠스’의 원작자인 피터 벤클리조차 자신이 이 소설을 쓴 것을 후회한다는 말까지 했다는 사례를 덧붙입니다. 

물론 상어 개체 수가 급격히 감소하는 것은 맞지만 이는 영화 때문이 아니라는 것이 저자의 주장입니다. 상어의 개체 수는 ‘죠스’ 개봉 전부터 꾸준히 감소해왔으며 그 이후에도 그 경향성은 지속적으로 유지되고 있다는 것입니다. ‘죠스’ 영화의 흥행은 그 추세에 영향을 거의 주지 않았다는 것이지요. 상어 개체 수 감소는 상어나 어족 자원의 남획에서 비롯한 생태계 파괴의 결과물일 뿐 상어 혐오와는 그다지 관계가 없다고 볼 수 있습니다.

책의 일부 주장은 추가적인 보강 독서가 필요한 내용이긴 하지만 위기 상황에서 발생할 수 있는 인지 편향으로 인한 불합리한, 그리고 비효율적인 의사결정이 어떻게 내려지는지 그 메커니즘에 대한 이해를 높일 수 있는 독서였습니다. 

#나만옳다는착각 #크리스토퍼J퍼거슨 #김희봉 #선순환 #책좋사

※ 본 서평은 출판사로부터 도서를 제공받아, 직접 읽고 주관에 따라 서평을 작성하였습니다.

[100자평] 중세 유럽인 이야기

중세 유럽인 이야기 - 모험하고 싸우고 기도하고 조각하는
주경철 지음 / 휴머니스트 / 2023년 11월

오~ 쉽게 읽는 유럽인 이야기 같은 느낌.

[100자평] 괄호로 만든 세계

괄호로 만든 세계
마이클 울드리지 지음, 김의석 옮김 / 알에이치코리아(RHK) / 2023년 10월

인공지능이 한 순간에 탄생한 것이 아님을, 앞으로도 갈 길이 멀다는 것을 확인하는 책