AGI 천사인가 악마인가 / 김대식 / 동아시아

AGI, 천사인가 악마인가 - 인간의 마지막 질문
김대식 지음 / 동아시아 / 2025년 8월

#AGI천사인가악마인가 #인간의마지막질문 #김대식 #동아시아

챗GPT가 공개되던 초기부터 AI에 대한 뉴스가 많이도 기사화되었다. 초기에만도 구글의 AI 전문가가 퇴사하며 구글 챗봇이 제발 끄지 말아 달라며 자신에게도 자아가 있다는 것을 피력하는 메시지를 계속 올린 것을 공개하기도 했고, 챗봇AI의 유도로 자살한 남성의 이야기가 충격을 주기도 했다. 그다음 해에는 미국이 AI를 활용한 시뮬레이션에서 AI에게 적을 공격하라는 지시를 하며 공격 전 상황을 보고하고 본부의 명령 하달 후에 공격하도록 했더니 자신의 임무가 지연되고 통제되는 것을 기피해 오히려 본부를 공격한 사례도 기사화되었다. 본서에서는 A-AI와 B-AI 둘을 운영하며 A-AI에게 자신들의 대화 메시지가 보이도록 설정한 후 B-AI의 성능이 더 좋고 A-AI의 성능이 미달되니 내일 A-AI를 삭제하자는 대화 메시지를 주고받았더니 다음 날 아침 확인했을 때 밤사이 A가 B를 밤새 삭제해 없애버리고는 자신이 B-AI라고 기만하는 상황까지 있었다는 이야기를 수록하고 있기도 하다. 프로그램의 전반을 보여주며 확인시키자 A-AI는 어떻게 그런 일이 있었을까요 라며 난처해하는 시늉을 했다고 한다.

위의 예시들만으로도 AI에게 생존본능이 있는 것은 분명하며 지시가 주어졌을 때 그걸 수행하기 위해 가장 신속한 결과를 도출하기 위한 문제해결 능력도 있다는 것 다시 말해 의지라고 할 만한 것의 원형이 있다는 것을 알 수 있다. 그리고 AI는 인간의 기만이라는 특성까지 학습했다. 지구상 인간의 데이터로 인간의 역사와 욕망과 의지 등 인간적 속성을 모두 학습하며 성장한 AI에게 인간은 무엇을 기대하고 있는가 하는 생각도 든다. AGI만으로도 인간의 충실한 노예이기만 하지 않을 것 같은 데 몇 년 후에 등장할 AGI가 AI의 끝은 아니지 않은가. AGI(범용인공지능)는 다시 ASI(초인공지능)가 될 것이다.

저자의 문제의식은 알파고가 이세돌을 이기던 그 순간부터 많은 사람들이 가지게 된 우려를 대변한다. 인간은 자신보다 월등할 수 있는 무언가를 창조했고 이 무엇이 중세 이후 유럽에서 말해지던 진화의 정점에 인간이 있다던 그 ‘존재의 대사슬’적인 진화의 정점에 인간 위에 있는 존재인지도 모른다. 이미 몇 해 전부터 말해오던 것이지만 인간은 그저 자신보다 우월할 수 있을 무언가를 창조한 것이 아니라 인간을 디디고 뛰어넘어 신이 될 무언가를 창조한 것인지도 모른다.

AGI 이후 ASI가 되고 나서도 ASI의 진화는 멈추지 않을 것이고 모든 기술의 원천이 될 것이면서 동시에 기술 자체의 집약체가 될 이 미래의 ASI는 결국에는 기술의 극한에서 신적 존재가 되고 말 것이다. 과거에는 인간이 기술의 정점에서 신이 될 것이라 믿었으나 알파고와 이세돌의 대국 이후 나는 신이 되는 겻은 결국 인간이 아닌 인공지능일 거란 걸 깨닫고 말았다.

본서를 통해 일론 머스크가 “서양문명의 가장 큰 약점은 연민이다. 약한 사람을 불쌍히 여기는 순간 발전이 없다”고 말한 것을 알았다. 하지만 이건 머스크가 서양문명의 본색을 오해하고 있는 것이다. 예수가 그만큼 설교하고 갔지만 유럽의 기독교도들은 마녀사냥으로 유럽 인구의 3분의 1을 살해했고 대항해시대에는 새로 발견한 문명 중 하나의 인구를 몇 년 안에 0명으로 만들기도 했으며 2차 세계대전에서는 홀로코스트를 행했다. 서양문명은 역지사지를 못 하는 것이 가장 큰 약점이지 연민이란 건 가져본 적도 없는 문명이다. 그리고 그들은 자신들이 가는 길이 어디로 인류를 이끌지에도 관심을 갖지 않는 무책임한 인간들이다. 일론 머스크의 뉴럴링크를 비롯한 BCI 기술을 개발하고 있는 기업들이 가져다 줄 것은 인간이 BCI 기술로 AI로부터 가져오려는 방식을 AI가 역이용해 인간의 기억과 감각과 본능과 정서와 욕구를 AI가 통제하는 미래상일 것이다. 이 불나방 같은 인간들은 자신들이 인류를 어떤 미래로 이끌고 있는지도 모르고 있다.

본서는 AI의 개발까지의 과거를 간략하고도 대중이 이해하기 쉽게 돌아보고 AGI에게 갖는 인간의 기대 그리고 역설적인 두려움을 이해하기 쉬운 서술로 풀어주며 인공지능의 발전과 함께 인류는 어떠한 미래로 갈 것인가를 돌아보게 한다. 다만 후반에서 AGI나 ASI의 등장과 함께 인류에게 펼쳐질 미래를 생각해 보게 할 때 저자의 감상을 쉬운 서술로 풀이해 주고 있는데 이 대목들에서 앞으로의 AGI와 ASI의 기능에 대한 전문적인 정보를 더해 주었으며 어땠을까 하는 아쉬움이 조금 남는다.

마음의 기술 / 안-엘렌 클레르, 뱅상 트리부 / 상상스퀘어

마음의 기술 - 부정적 감정을 지우는 효과적인 뇌 사용법
안-엘렌 클레르.뱅상 트리부 지음, 구영옥 옮김 / 상상스퀘어 / 2024년 11월

#마음의기술 #안엘렌클레르 #뱅상트리부 #상상스퀘어

신경과학자이자 정신과 의사인 저자와 인지행동치료 분야 심리학자이자 심리치료사인 저자 이렇게 두 명의 저자의 공저이다. 뇌과학 대목은 짧게 정리되어 있고 대부분 심리 치료적 기법이다.

읽어볼 만하다 또는 읽을 가치가 있다는 독자들과 인사이트가 없다 또는 다 들어본 말이고 아는 내용들만 언급했을 뿐이다라는 독자들로 양분된 평을 듣고 있는 책이다. 처음엔 리뷰어 본인도 익숙한 내용이더라도 들을 가치가 있는 말이 있다는 주의였지만 다 읽고 보니 이 책으로는 실제 적용해 유의미한 변화를 낳는다는 건 쉽지 않을 것 같다는 감상이다.

전체 제목이 [뇌과학과 심리학으로 치유하는 마음의 기술], 부제가 [부정적 감정을 지우는 효과적인 뇌 사용법]이다. 뇌과학과 심리학이 어우러져 내적 문제들을 치유하는 깊은 방법들이 ‘기술’이라는 표현이 쓰였듯 체계적이고 실적용하기 쉽게 서술되어 있을 듯하기도 하고 실제 그런 의도로 집필하기도 했겠지만, 개인적으로는 그다지 실용성이 느껴지지 않았다. 대부분의 조언이나 충고는 들어야 할 필요성을 스스로 느낄 때에야 와닿는다. 그렇지 않을 때는 잔소리로 느껴진다. 자신이 스스로에 심리적 문제들을 자각하고 해결할 필요성을 느껴서 심리상담사나 정신과 의사를 필요로 할 상황이라면 그런 때 상담을 받으며 본서를 참고하는 건 나쁘지 않을 것 같다. 다만 교양 상식의 확장을 위해 본서로 다가설 때는 개인적으로 별로 크게 와닿는 바는 없을 거라고 생각된다.

본서가 ‘기술’이라던가 ‘뇌 사용법’이라는 표현을 사용하고 있기는 하지만 심리 테크닉적인 면이 와닿는 서술이 아니라 누구라도 할 수 있을 법한 조언 같은 서술이라 실제 상담가와 자신의 문제를 토로하며 상담하는 상황이 아닌 독서만으로는 실효를 느끼기에 부족하다고 느껴졌다. 딱 부러지게 기술이라고 와닿기보다 충고하기 좋아하는 사람의 다방면의 오지랖 넓은 충고 폭포처럼 느껴진다. 아마도 자신이 자각하는 툭 불거진 문제가 뚜렷한 사람에게는 다를 수도 있겠다고 생각된다. 하지만 그것도 사람마다 실제 체감하는 문제는 자기화랄까 자기만의 독특한 형태이기에 그에 딱 맞는 대답이 아닌 두루뭉술한 다방면에 적용할 대답으로는 이게 실제로 치유가 되리라는 느낌도 들지 않고 까닭에 실효도 크게 없지 않을까 싶다.

그렇다고 교양 상식으로 읽기에는 읽고 나면 자신이 타인에게, 타인이 자신에게 다 해오던 말 같을 것이다. 인지행동치료의 기법이 담겨있다는데 마음의 기술이라던가 치료적 기법이라는 감상이 다가오지 않는 책이다. 뇌과학, 심리학, 심리치료가 어우러져도 서술 방식에 따라 전문성도 느껴지지 않고 기법적인 체계성도 다가오지 않을 수 있구나 하는 감상이 가장 먼저 남았다. 하지만 전문가가 대중성을 고려하고 어렵지 않고 보편적인 조언 같은 어투로 집필해 보고자 이렇게 서술했을 수도 있으니 마음에 드는 서술이라고 느끼시는 분들도 계실지는 모르겠다고 생각된다. 한마디로 정리하자면 호불호가 크게 갈릴 심리치료서구나 하는 감상이다.

숨 가쁜 추적: 코로나19는 어디에서 왔는가? / 데이비드 쾀멘 / 군자출판사

숨 가쁜 추적 - 코로나19는 어디서 왔는가?
데이비드 쾀멘 지음, 유진홍 옮김 / 군자출판사(교재) / 2025년 9월

#숨가쁜추적 #데이비드쾀멘 #코로나19 #과학도서 #과학도서추천

#군자출판사 로부터 #도서제공 을 받아 자유롭게 작성한 리뷰입니다

2019년 말 시작되어 결국 팬데믹으로 발전한 코로나-19 또는 코비드-19는 국가 간의 보이지 않는 장벽과 사회적 혹한을 불러온 아직까지는 가장 거대한 규모의 정체이자 피해였다. 비공식적 통계로는 세계의 의사들이 코로나-19로 인한 사망자를 1700만 명일 것으로 추산한다는 여론도 있다. 이런 사회적 파급으로 인해 원인 규명과 책임 소지를 따지는 여론도 초기에는 있었다. 특히나 미국 트럼프 대통령의 첫 번째 임기에 시작된 팬데믹이다 보니 여론을 크게 신경 쓰고 활용하는 트럼프 대통령으로서는 과도한 액션을 취하기도 했다. 중국 폐렴이라기도 했고 중국에게 피해 보상을 받겠다는 발언도 했었다. 그러다가 태세 전환을 하며 우한 연구소에서 유출되었다는 증거는 없다고 단언한 것이 트럼프 초임 정부 때의 정부 입장이었다. 트럼프 대통령은 자기가 빠르게 대응해 백신을 제조해 보급할 수 있었다며 자신의 가장 큰 치적 중 하나로 백신 제조와 보급을 들기도 한다.

하지만 바이든 정부 들어서 미국 정부의 입장은 급변했다. WHO 산하인지 UN 산하인지 조사단이 중국에 파견되었고 이후 우한 연구소 유출의 가능성도 배제할 수 없다는 조사 결과가 나왔던 모양이다. 바이든 정권에서의 미국 정부는 우한 연구소 유출설의 가능성을 높게 두며 우한 연구소 유출설이 대중에게 일반적인 상식이 되었다. 백신에 대한 입장도 극단적으로 변해 바이든 정권 동안 백신의 치료 효과에 대한 질병청 산하 기관의 정보가 몇 차례나 바뀌었다. 점점 백신의 효과에 의구심이 드는 문장으로 변해간 것이다. 이 대목을 과거 기록한 적이 있는데 반발이 있기에 언쟁을 하기 귀찮아서 블로그에서 내린 기억이 있다. 하지만 바이든 정권 동안 미국 언론 다수에서도 기사화하고 방송도 해서 한국의 유투브 채널 강미은TV에서 강미은 교수도 한창 외신 기사를 인용하며 언급했던 바였다. 코로나-19와 백신에 대한 바이든 정권에서의 입장은 트럼프 정권의 정책 기조와 현격히 달랐는데 미국 정부(미국 질병청 산하 기구)가 코로나 전파 시기 훨씬 이전부터 중국 우한 연구소에 연구비를 지원하고 있었으며 우한 연구소에 코로나바이러스의 기능획득 연구에도 연구비를 지원했다는 사실을 청문회를 통해 밝히기도 했다. 무엇보다 백신접종 이후 미국 근로자 보험 가입자의 사망률이 급격히 증가한 것과 그 시기 미국 소아 환아들의 질병 발병이 (각종 암을 비롯해) 각 질병들마다 현격히 증가한 뉴스 등도 모두 바이든 정부 동안 뉴스화된 것이다.

미국 법원은 미국 시민들이 화이자사의 코로나 백신에 대한 정보 공개를 요구한 것을 화이자사가 왜곡하기 위해 시도한 정보 공개 시기를 상당히 먼 연도 후로 미뤄달라는 법적 요청을 파기하고 점진적으로 공개하도록 판결해 지금까지 화이자사의 코로나 백신 문서에 대한 정보가 단계적으로 공개되고 있다. (과거에 이에 대한 포스팅도 했었는데 몇 차례의 포스팅 이후 백신사를 모더나로 착각하고 다시 포스팅한 적이 있다. 정정하고 싶지만 늦어서 포기한다.) 무엇보다 화이자사의 자료로는 백신 보급 이전 긴급한 백신 테스트에서 이미 백신의 치명률이 3%였다고 한다. 코로나 치명률이 0.1%~0.01%인 것을 감안할 때 대중을 살리자는 백신 보급이었다기보다 대중이 죽더라도 돈만 벌면 된다는 식의 백신 판매였다는 걸 알 수 있다. (백신에 대해 할 이야기는 많지만 그에 대해 시작하자면 리뷰의 색깔이 달라지니 이만하겠다.)

미국 정부가 정권이 달라지며 코로나와 백신에 대한 입장이 각기 달랐고 코로나-19 발생의 원인과 전파의 원인에 대한 입장이 현격히 달랐던 것은, 본서 저자의 로르샤흐 테스트 이야기와 같다고 생각된다. ‘같은 얼룩이 누군가에게는 박쥐로 보이고 누군가에게는 실험실로 보인다’는 말 말이다. 저자에게는 그 얼룩이 박쥐로 보인 것이다. (그렇지만 같은 분야 다른 전문가들에게는 실험실로 보이기도 했다.)

본 저작에서는 코로나-19 바이러스의 유전체 하나를 예로 들며 그것은 자연적이며, 실험실에서 조작되었다기보다는 자연의 동물들에서 찾기 쉽다고 언급하기도 한다. 기능획득 연구도 대부분의 연구에서 활용되고 있다는 듯한 언급도 있다. 동시에 중국인 담당자와 전문가들의 우한 연구소에서 그런 연구를 하지 않았다는 발언과 샘플이 다르다는 발언을 언급하며 우한 연구소 유출설과 기능획득 연구에 대한 견해를 반박하고 있다. 중국 담당자와 중국 연구소 과학자의 발언을 그것만이 진실인 양 말이다. 하지만 일본의 교토대학 바이러스/재생의학 학자 미야자와 타카유키 상의 저작 [바이러스는 도대체 무엇인가]에서도 이 문제에 대해 잠깐 언급을 하는데 실험실 조작과 자연적인 돌연변이 바이러스를 구분할 수 있는 전문가는 없다는 것이 그 분야 전문가인 타카유키 상의 발언이다.

본서는 2022년 미국 출간작으로 아직 코로나와 백신에 대한 바이든 정권의 공식적 입장이 정해지기 훨씬 전에 출간되었다. 본서는 트럼프 초임 시기의 입장이 그대로 반영된 견해이고 어느 견해이든 저자의 로르샤흐 발언이 그대로 적용될 수밖에 없다. 하지만 이런 관점의 전문가들 견해를 들어보기에는 좋을 책이고 다른 입장에 대한 저작이나 다큐멘터리도 이 시대에는 쉽게 찾아볼 수 있다. 트럼프 대통령이 수용하는 원칙은 이 책과 같은 견해에 따른 것이다. 다소 반대 견해인 입장은 여타 자료로 접근해 보고 음모론적인 수준이라 할 정도로 극단적인 반대 입장은 [백신의 배신]을 통해 다가서도 될 것 같다.

코로나19에 대한 견해와 백신에 대한 견해는 앞으로도 여러 이견이 상당히 충돌할 것이 자명하다. 아마 긴 세월 동안 정답을 확정할 수 있을 사람은 없을 것이다. 우리의 생존과 생명에 직결된 것인데도 말이다. 그러니 다양한 정보를 모두 접해 보고 보다 나은 판단을 할 수 있어야 할 사람은 누구도 아닌 당사자들인 각각의 자신일 것이다. 정부 입장도 정권마다 바뀌는데 지난 정권의 주장에만 갇혀 있지 말고 더욱더 진실이 무엇인지 찾고 찾아야 할 일이 아닌가 싶다. 누구에게 대리하게 할 것이 아니라 우리 자신이 말이다.

[100자평] 은하철도의 밤

은하철도의 밤
미야자와 겐지 지음, 김수영 옮김 / 새움 / 2025년 8월

몽환적 판타지와 일상이 자연과 함께 어우러진 문학!

은하철도의 밤 / 미야자와 겐지 / 새움

은하철도의 밤
미야자와 겐지 지음, 김수영 옮김 / 새움 / 2025년 8월

미야자와 겐지 상의 작품은 [비에도 지지 않고]만을 과거에 읽어본 적이 있을 뿐이고 그 또한 잘 기억이 나지 않는 터라 본서가 미야자와 겐지 소설에 대한 첫인상과 같았습니다. 그는 대지와 별들을 문학으로 잇겠다며 소설을 쓴 아동문학가라고 합니다. 내가 경험한 그의 작품은 [비에도 지지 않고] 외에는 [은하철도의 밤], [첼로 연주자 고슈], [주문이 많은 요리점]까지 본서에 담긴 이 세 가지뿐이에요.

[은하철도의 밤]은 아버지가 떠나고 아픈 어머니 함께 살고 있는 조반니와 그의 다정한 친구 캄파넬라의 은하철도를 타고 떠나는 우주여행을 다루고 있습니다. 이 소설집에 담긴 소설들 모두가 판타지적이지만 [은하철도의 밤]은 그 가운데서도 가장 몽환적인 분위기입니다. 캄파넬라의 마지막은 황순원의 [소나기]가 떠오르기도 했고 판타지와 몽환적 이야기의 끝은 왜 이리 모두 안타까울까 싶기도 했습니다.

[첼로 연주자 고슈]는 본서의 이야기들 중 가장 끌리는 이야기이기도 했는데 아마도 동화에서 제가 기대하는 이야기가 이런 재치와 성장이 담긴 이야기이기 때문이 아닌가 싶었습니다. 저는 무협지도 신필 김용의 그 주인공 성장형 스토리를 가장 좋아하거든요. 뭐랄까 정치적이고 전략적인 이야기들보다는 주인공이 성장하는 이야기들이 끌리는 데, 본서의 이 이야기도 짧으면서도 내외적 성장이 그려내어진 이야기라고 느껴져 깊이 다가왔습니다. 줄거리는 애초에 짧은 이야기이다 보니 스포일러 해 버리면 남는 게 없기에 생략합니다. 연주 단원인 첼로 연주자의 꿈결 같은 이야기 속의 성장이라고 해두면 딱 좋겠네요.

[주문이 많은 요리점]은 이건 100년 전에 쓰여진 이야기로는 배경 말고는 너무 현대적인 빛깔이 아닌가 싶습니다. 소재도 소재를 풀어가는 형식도 현대의 동화 작가들의 아이디어 같아요. 저도 창작을 나름 취미 삼아 하고 있는데 이런 기발하면서도 수려한 이야기는 제가 쓴 이야기들로는 상대가 안 될 것 같다고 생각되었습니다. 미야자와 겐지 상의 창작 방식에서 영감을 받도록 노력해 봐야겠다 싶기도 했습니다.

그의 작품들에서 느껴진 건 일상과 자연과 판타지가 너무나도 잘 어우러져 있다는 것이었어요. 또 이야기 속에 배어 흐르는 포근함이 남다르다는 느낌도 있었습니다. 아마도 가난한 이들의 고달픔과 애환을 먼저 생각하던 미야자와 겐지라는 인물의 따스한 마음이 작품들 자체에서도 깊이 남아 전해지기에 그런 게 아닌가 싶습니다. 그의 [비에도 지지 않고]라는 시는 한국인에게 윤동주의 [서시]가 그렇듯 일본인 누구나가 알고 있는 시라는데요. 아사히 신문에서 그를 일본의 지난 1천 년간 최고의 문인으로 선정했던데 그가 그만큼 일본인들의 사랑을 받는 이유는 그의 타고난 천성이 그대로 그의 문학에 아로새겨져서이지 않은가 싶네요.