-
-
먼저 온 미래 - AI 이후의 세계를 경험한 사람들
장강명 지음 / 동아시아 / 2025년 6월
평점 :
제목 : 먼저온 미래
작가 : 장강명
출판사 : 동아시아
읽은기간 : 2025/09/10 -2025/09/30
장강명 소설가의 논픽션..
기자 출신이라 그런지 취재의 깊이와 글빨이 매우 좋다.
이세돌과 알파고의 바둑대결을 보고 AI가 우리에게 미칠 영향을 바둑세계를 중심으로 써내려간 글이다.
바둑대결이 충격적이었던 것만큼 그 이후 바둑세계에 끼친 영향도 어마어마했다.
책을 통해서 배운 바둑세계는 AI에 점령당한 인류가 어떻게 생각하고 적응해가려고 노력하는지를 보여주는 작은 세상이었다.
아직도 그 충격은 진행형이다. 누구는 바둑세계를 떠났고, 누구는 AI를 따라하려고 노력하면서 바둑스타일을 변화시키고 있고, 누군가는 잊혀져 버렸다.
까마득한 실력의 AI에 대항하지는 못하고, 그저 AI가 던져주는 수를 외우고 따라가는 바둑기사들이 좋은 성적을 거두는 이른바 암기잘하고 AI를 통혀 열심히 공부하는 기사들을 양산하고 있다.
우리 사회도 AI가 점령하고 나면 그런 모습이겠지.
사실 지금도 그렇다. 대출신청을 하면 AI를 활용한 대출시스템은 내게 금리와 대출한도를 보여주는데 어떻게 그런 결론을 내렸는지는 아무도 모른다.
마치 과거에 델포이 신탁을 받는것처럼, 또는 무당에게 조아리는 것처럼 지금은 AI에게 물어보고 맞겠거니 하는 방법밖에 없어보인다.
작가는 마지막 챕터에서 AI이후의 사회에서 해야할 또는 살아갇야할 모습을 써놓았다. 좀 허망해보이긴 하다. 그렇게 될 것 같지 않아서다.
10년정도 지나면 AI하에서 인류의 모습이 대략 보일 것 같은데 유쾌하거나 좋을 것 같지는 않다.
그러나 좋은 척하든가, 좋다고 믿으면서 살아가야 할 것 같다.
기술의 발달로 내 자리가 사라지는 걸 지켜보는 건 참 우울하다.
p13 작가들 관점에서는 위대한 무엇인가가 중요하지 그것을 꼭 사람이 만들어야 하느냐는 중요한 문제가 아니다. 인터뷰 기사의 제목은 이렇다. 배명훈 SF작가 “왜 위대한 작품을 꼭 인간이 써야 하는가?”
p15 단순히 위대한 작품을 쓴 주체가 인간이 아니다라는 점이 문제가 아니다. 그보다는 위대한 작품이 24시간 동안 288편 나왔다라는 상황이 문제다. 자동차나 휴대전화는 24시간 동안 288대가 생산되어도 괜찮지만, 위대한 작품은 그렇게 나오면 안 될 것 같다.
p24 테크노 낙관주의자들은 이렇게 말할지도 모르겠다. 이것은 축복이라고. 진보라고. 인공지능 덕분에 모든 사람이 손쉽게 뛰어난 소설을 쓸 수 있는 시대가 열리는 거라고. 모든 사람이 예술가가 될 수 있는 거라고. 그런데 나는 그때 예술이나 예술가 중 한 단어, 어쩌면 두 단어 모두 지금과 의미가 달라질 거라고 생각한다.
p25 사람들이 거기에 어떤 가치가 있다고 믿으며 수십 년의 시간을 들여 헌신한 일을 더 잘해내는 인공지능이 어느 순간 갑자기 등장하는 것. 그 인공지능이 싼 가격에 보급되는 것. 그 인공지능과의 공존을 강요당하는것. 인공지능이 만드는 새로운 질서를 따라야 하는 것. 당신이 알던 개념을 인공지능이 재정의하고, 당신은 그것을 다시 배워야 하는 것. 인공지능은 타자기나 워드프로세서와는 다르다
p32 지금대로라면 뭐랄까. 정감이 없는 바둑이라고 말하고 싶다. 마음을 움직이는 감동이 적다. 바둑은 승부를 내는 동ㅅ히에 음악이나 회화와 같이 개성을 표현하는 엄연한 예술이다. 예술이라면 우리들이 보고 감동하는 그만의 독특하고 창조적인 차원의 세계가 무르녹아 있어야 되는 것이다. 오직 이기기 위한 승부에 앞서, 자기표현에 충실한 바둑을 항상 생각할 일이다.
p38 이쯤 되니 실수라고 봤던 알파고의 수들을 다시 평가하지 않을 수 없었다. 알파고는 바둑을 제대로 둔 것이었고, 인간 기사들은 그걸 이해하지 못할 것뿐이었다
p43 인공지능이 창의적인 바둑을 둘 수 있다면 언젠가는 기계가 수학의 난제도 창의적으로 해결할 수 있고 창의적인 예술작품도 만들 수 있다는 뜻일까?
p52 저는 공동연구를 되게 좋아했어요. 서로 나는 이렇게 생각해, 너는 어떻게 생각해 그러면서 돌을 이렇게도 놓아보고 저렇게도 놓아보고, 각자 결론을 내리죠. 그렇게 공동연구를 많이 했는데 지금은 저희보다 훨씬 더 센 존재가 있잖아요. 저희끼리 토론하는 의미가 없어졌어오. 이제는 인공지능이 없으면 공부를 못 하는 수준이에요
p55 인류 과학자 중 일부는 자신들이 아무런 기여도 할 수 없게 된 과학을 포기하고, 남은 과학자들은 메타인류의 과학을 해석하는 문헌 해석학과 제품 해석학으로 연구 방향을 돌린다.
p58 AI를 사용하면 이길 확률이 바로 뜨니까 이 수는 아웃 이렇게 돼요. 전보다 더 견고한 성에 답답하게 갇혀버린 기분이에요.
p59 제가 알기로 10명 이상인데 저는 그분들을 부러워하면서 AI공부를 해요. 저를 잘 모르시는 분들은 조혜연은 AI공부를 열심히 한다고 생각할 거에요. 저는 슬퍼ㅗ하면서 공부하고 있는거에요.
p65 사람과 사람의 바둑을 보면 서로의 생각이 수에 담겨서 스토리가 계속 이어지는데 알파고 대 알파고 대국을 보면 어디에 두다가 갑자기 다른 곳에 둬요. 그런 때 뭔가 뚝뚝 끊긴다는 느낌을 많이 받았어요.
p73 2010년대 후반 바둑계에서는 AI일치율이라는 개념이 생겼다. 어떤 인간 기사가 인공지능이 추천한 수대로 돌을 둘 확률을 가리키는 말이다. AI일치율이 높다라는 말은 곧 그 기사가 강하다는 뜻이었다.
p77 이런 대국의 초반은 사실상 서로 암기량을 확인하는 과정과 다를 바 없다. 전에는 볼 수 없었던 광경이다. 5장에서 더 자세히 살피겠지만, 이런 트렌드 속에서 초반에 드러나던 기사들의 개성이랄 것도 사라졌다. 이것을 인간의 바둑이라고 부를 수는 없는 노릇이다.
p79 작가든, 편집자들, 출판사든 문학계의 발 빠른 플레이어들이 그 인공지능을 이용하고 그만큼 다른 경쟁자에 비해 우월한 위치에 오를 것이다. 그때가 되면 인공지능이 문학계에 어떤 영행을 미칠 것인가같은 한가한 고민을 할 여유는 사라진다.
p80 그 업계에서 영향력 있는 플레이어들은 인공지능을 어떻게 활용할 것인가라는 고민에 빠져 있어서, 그런 인문학 포럼에서 나오는 이야기에 별 관심이 없다.
p92 모두 인공지능을 따라 배우고 두다 보니 계속 봤던 포석들이 나오고 또 나온다라며 시각적으로 매우 피곤하고 고통스럽다라고도 말했다.
p98 이유야 어찌됐든 여성 기사들이 남성 기사들에 비해 약하다고 지적받는 부분은 초반 폿헉이었다. 그리고 인공지능을 활용한 공부로 실력을 가장 크게 키울 수 있는 부분도 바로 초반 포석이었다.
p102 어떤 업계에서 일하는 사람들, 그리고 그곳에서 일하려는 사람들이 다 함께, 한목소리로 인공지능을 거부하는 일은 아마도 벌어지지 않으리라는 것이다. 그 업계에 일단 인공지능이 도입되어 영향을 미친 뒤에는 말이다.
P105 가슴 아픈 사연이나 끝내주는 이야깃거리를 지니고 있음에도 문장이 서툴러 소설 쓰기를 포기하는 경우도 있었을 것이다. 인공지능은 그런 이들을 도와줄 수 있다. 자기 경험과 아이디어를 누구나 쉽게 문학으로 만들 권리라는 개념이 진지하게 논의될지도 모른다.
P112 알파-히스토리언과 알파-논픽션라이터를 위해 자료에 태그를 붙이는 인간 조수가 필요할지도 모르겠다. 그 인간 조수는 종일 책과 웹페이지를 흝으면서 알파-작가들을 위해 이건 쓸만함, 이건 애매함, 이건 불량식품 같은 버튼을 누르는 일을 할지도 모르겠다. 내게 남은 일자리가 그런 거라고 생각하면 등골이 서늘해진다.
p133 한국의 전설적인 기사인 서봉수9단은 알파고가 등장하기 훨씬 전부터 같은 말을 했다. “바둑에 신이 있다면 그 신의 눈에는 승부수니 기세니 하는 애매모호한 말은 전부 가소로운 것들로 비칠 것”이라는 말이었다. 신의 눈에는 오로지 정수와 악수밖에 없을 것이기에.
p165 저는 바둑이 예술이라고 생각했어요. 바둑이 스포츠로 간 건 사실 정부 지원을 받기 위해서였죠. 그런 변화로 좋아진 점도 있었고 나빠진 점도 있었는데 AI가 나온 다음에는 확실히 스포츠가 아닌가 싶네요.
p172 인상주의 화가들은 사람의 눈으로 본다는 주관적 감각을 답으로 제출했다. 그들은 사진의 영향을 받는 동시에 당시 사진기가 잘 포착하지 못했던 색채와 움직임을 강조하는 데 힘을 쏟았다. 탈인상주의 화가들은 거기에서 더 나아가 예술가 내면의 표현이라는 답을 찾았다. 대중이 그런 주장에 설득되는 데에는 꽤 오랜 시간이 걸렸다. 그동안 마네의 그림은 손가락질 당했고, 고흐는 가난과 고독에 몸부림쳤다.
p174 하우절은 같은 책에서 많은 이들이 경제적 인센티브는 뿌리칠 수 있지만, 문화적, 집단적 인센티브는 더 뿌리치기 힘들다라고도 적었다. 예술가들을 움직이는 인센티브에는 경제적 보상도 있지만, 그들은 뭔가 고상한 것, 의미 있는 것, 자신만이 만들 수 있는 것을 만들어 낸다고 인정받는 것에도 강하게 끌린다.
p185 공무원이 생성형 AI를 활ㅇ둉해 보고서를 작성하고, 그로 인해 업무 효율이 높아져 세금을 절약할 수 있게 됐다는 뉴스를 들으면 다들 환영한다. 그런데 같은 일을 화가나 영화 제작자가 하면 비판을 받는 식이다.
p188 중세 서양 봉건제의 기원을 등자(안장에 달린 발 받침대)의 발명에서 찾는 역사학자들이 있다. 그때부터 전쟁터에서 중기병의 위력이 크게 강해지면서 말과 숙련된 기사를 얼마나 확보하느냐가 영주들의 생존을 좌우하는 문제가 됐고, 경제시스템이 그에 맞게 바뀌었다는 것이다.
p205 뒷자석에 승객이 있을 때 택시 기사가 네비게이션의 제안을 거부하기 어렵듯이, 인간 의사도 AI 진단 도우미의 제안을 거부하기 어려워질 것이다. 그런 때 그의 수입은 장기적으로 어떻게 변할까? 그리고 그의 자부심은? 그의 권한과 책임은?
p216 인공지능이 결코 줄 수 없는 의료 현장에서의 사용자 경험을 인간 의사가 제공하고 있다고 말해도 될까? 그보다는 의료 현장에서 인간이 여전히 필요하기는 하지만 보조 인력의 자리로 물러났고 권위도 추락했다라고 말하는 게 더 정확한 진술아닐까?
p221 나는 소설을 쓸 때 무엇이 중요한지 안다. 내가 그 일을 하고 있는지 아닌지도 안다. 아무리 옆에서 누군가가 당신은 중요한 존재라고 말해도, 내가 소설을 쓸 때 중요한 일을 하고 있지 않다면 나는 소설을 쓸 때 중요한 존재가 아닌 거다
p222 불쉿 작업은 힘들고 보수와 처우가 형편없어서 인기 없는 일을 가리키지 않는다. 그레이버에 따르면 그것은 쉽 직업인데, 그런 쉿 직업들은 불쉿 직업과 반대로 사회적 가치와 의미가 있으며, 종사자들이 사라지면 사회가 제대로 굴러가지 않는다. 환경미화원이나 건설 현장의 잡부가 대표적 사례다. 반대로 보수와 처우가 괜찮고 노동 강도가 높지 않은데도 의미가 없는 일이라면 불쉿 작업이다.
p239 이거라도 붙잡지 않으면 안 된다는 절박한 마음이 큰 것 같아요. 다른 예술 분야에서도 그럴 텐데. AI보다 사람이 낫다고 하려면 감정을 말할 수밖에 없잖아요. 사람이 대국에 임하는 마음, 그게 반상에 드러나는 심리전. 이런 것만이 우리의 살길이다. 약간 그런 생각이죠.
p249 성악 전공자들은 포츠의 실력을 아주 잘 부르는 아마추어 정도로 평가한다. 만약 포츠가 브리튼스 갓 탈렌트가 아니라 성악콩쿠르에 출전했다면 입상하지 못했을 거다. 그가 정규 성악 교육을 받은 적이 없음을 감안하면 이는 부당한 폄하가 아니다. 한편으로는 성악콩쿠르에 입상한 정도로는 음반 500만 장을 팔거나 실화 기반 영화의 모델이 되지 못한다.
p263 요즘엔 별걸 다 해야 돼요. 얼마 전부터 출판계 관계자들을 만날 때 자주 듣는 소리다. 작가도, 편집자도, 마케터도, 서점 직원도 한숨을 쉬며 말한다. 요즘엔 정말 결걸 다 해야 돼요. 나도 예외는 아니다. 데뷔하고 매년 책을 한 권 이상씩 냈는데 해마다 전에 못 해본 마케팅 행사에 참여하게 된다.
p267 인공지능이 문학 출판계에서 본격적으로 활동하면 인간 소설가의 영역은 인공지능이 잘하지 못하는 일로 축소된다. 그런 때 인공지능이 팔 수 없는 걸 내가 팔 수 있다면 든든하리라. 그리고 내 머리에는 나만이 팔 수 있는 상품으로 내 사생활이라는 답이 떠오른다.
p282 신약용 고분자를 찾는 인공지능과 생화학무기 후보 물질을 찾는 이공지능은 실제로 동일하다. 신약 개발에 도움을 줄 혁신적인 인공지능이라는 말은 생화학무기 개발에 도움을 줄 혁신적인 인공지능이라는 뜻도 된다.
p294 하지만 특이점이 온다는 미지의 기술을 도입하는 일에 따라야 할 검증과 확인 절차에 대해서는 별 얘기가 없는 책이다. 대신 무지막지한 낙관론을 펼쳐 보이는데, 커즈와일에 따르면 우리가 생물학적 몸과 뇌의 한계를 극복하고, 인간의 사고를 완전히 이해하고, 죽음도 제어할 수 있게 되어 원하는 만큼 살게 될 것이라고 한다. 우리가 운명을 지배할 수 있는 힘을 얻게 될 거라고 한다. 그런데 나는 그런 서술을 읽으며 커즈와일이 운명이라는 개념을 제대로 이해하지 못하는 것 같다는 생각이 들었다.
p301 중세인들의 심리를 짐작하기 어렵다면 그냥 어린 시절을 떠올려 보면 될 것 같다. 요한 하위징아의 중세의 가을을 보면 중세인들은 어린아이 같은 심리 상태로 세상을 살았던 것 같다. 자주 울고, 자주 감동받고, 무절제하고, 활기차게.
p304 일본도의 용도는 일본도를 만든 장인이 거의 정한 것 아닐까? 우리는 과학기술이 가치중립적이라는 헛소리를 경계해야 한다. 과학기술은 물질세계뿐 아니라 정신세계 깊은 곳까지 힘을 미치는 강력한 권력이다.
p309 관찰력이 뛰어난 사람이 정직하게 쓴 글은 늘 읽는 사람들을 불편하게 만든다
p311 우리는 기계와 과학의 시대에 살고 있기에 무슨 일이 있어도 진보는 지속되어야 하고 지식은 절대로 억제되어선 안 된다는 관념에 감염되어 있다. 우리는 말로는 기계가 사람을 위해 만들어졌지 사람이 기계를 위해 만들어진 건 아니라고 한다. 하지만 실제로는 기계의 발달을 제어하려는 시도는 지식에 대한 공격이며 곧 일종의 불경으로 간주되는 것 같다.
p316 1984가 그리는 미래는 정말이지 끔찍하고 무섭다. 그래서 사람들은 행동을 바꿨고 우리는 그런 미래를 맞지 않았다. 멋진 신세계가 그리는 미래는 그 정도로 끔찍하고 무섭지는 않다. 그래서 사람들은 행동을 바꾸지 않았고 우리는 멋진 신세계가 그린 것과 비슷한 미래를 맞았다.
p322 우리는 현실감을 잃어버린 뒤에야, 기술로 인해 객관적 현실이라는 개념이 무색해지고 증강현실 기기 이용자들이 모두 주관적 현실 속에서 사는 때가 되어서야 현실감이 어떤 가치였는지 이해하게 된다. 2020년대는 공통 현실이라는 게 존재한 마지막 시대가 될지도 모른다.
p324 나는 불확실성 역시 소중한 가치임을 우리가 너무 뒤늦게 깨닫게 되는게 아닐까 우려한다. 사람은 불확실한 상태에서만 결단할 수 있다. 그리고 결단을 통해서만 성장하고 운명에 맞설 수 있다. 모든 정보를 아는 상태에서 최적의 해답을 고르는 것은 결단이 아니라 인지능력 테스트다
p327 리얼리즘 소설가로서 당대 사회현실에 비판의식을 품고 뭔가를 쓰고자 할 때 나는 발품을 팔아 직접 현장을 취재하거나 당사자를 만나 이야기를 듣고 현실의 복잡함과 다면성을 내 작품에 생생하게 담으려 한다. 일종의 직업윤리라 해도 좋다
p327 평소 행동을 학습시킨 인공지능으로 그 개의 뇌를 대체할 수 있다는 말을 들으면 얼마나 많은 견주가 수술에 응할까?
p329 그는 동인도 회사와 마찬가지로 정부에 버금가는 규모, 영향력, 권력을 가진 민간 기업이 탄생할텐데, 이 거대 기업들이 단순히 시장에 참여하는 것이 아니라 시장 자체를 구현하는 방법으로 전환하고 있다라고 진단한다.
p340 윌리엄 어니스트 헨리의 시 인빅투스 마지막 구절을 조금 변형해 책을 마무리하도록 하자. 우리는 우리 운명의 주인이다. 우리는 우리 영혼의 선장이다. 아직까지는