물론, 문해력의 하락세는 생성형 AI가 등장하기 전부터 있던 현상입니다. 하지만 이제는 LLM(Large Language Mode)이 방대한 데이터세트를 ‘읽은’ 다음 종이 위의 텍스트를 요약 비평 비교한 글을 ‘쓸’ 수 있게 되면서 우리가 굳이 몸소 읽지 않아도 된다는 유혹을 더 크게 느끼고 있습니다. 그 결과로 예상되는 개인의 문해력 상실은 중대한 문제입니다. - P13
읽기는 개인에게 가치 있는 일입니다. 다른 사람의 생각과 감정을 헤아리는 데 도움이 되는 길을 보여주기도 하죠. 하지만 그와 동시에 읽기는 사회적으로나 정치적으로도 중요한 가치 있는 활동이기도 합니다. 현대 민주주의 사회에서 살아가기 위해 시민들은 시대적 관심사를 잘 알아야 합니다. 그래야 시민들이 투표로 결정할 사안들에 대해 각자 주체적인 입장을 정립할 수 있겠죠. 그러한 이해를 확보하기 위한 핵심 통로가 바로 읽기입니다. - P14
읽기는 (순수한 즐거움은 말할 것도 없고) 학습의 핵심 원천이다. 읽기는 우리가 다른 사람의 눈으로 세상을 바라보게 하고, 무엇을 생각하고 느끼고 믿을지 스스로 결론에 도달하도록 이끈다. 읽기는 우리의 뇌를 단련시키고, 결코 만나지 못할지도 모르는 (죽었거나 허구인) 존재들에게 감정을 이입하며 연결될 기회를 제공한다. 거기에 바로 우리가 읽기를 통해 더 나은 시민, 나아가 더 나은 사람이 될 수 있다는 희망이 있다. - P19
AI 덕분에 인간의 사고 노력을 아낄 수 있다니, 마치 정신이 공짜로 휴식을 누린다는 말처럼 들릴지도 모른다. 하지만 지나친 사고 감소는 사고 능력의 상실로 이어지게 마련이다. - P21
2022년, 프린스턴대학교 4학년생 에드워드 티안은 겨울 방학 동안 이 문제를 해결하려 했다. 그 결과 탄생한 것이 GPTZero 프로그램이다. 티안의 프로그램은 이후 공개적으로 이용 가능한 AI 탐지 도구 산업에 선도적 역할을 했다. 이들의 공통 목표는 텍스트 작성자를 규명하는 것이었다. 봇인가, 아닌가? - P68
‘당혹감’은 티안이 텍스트의 전반적인 복잡성을 측정하는 지표였다. (중략) 챗GPT는 본질적으로 (출현 빈도에 기반해) 다음에 나올 가능성이 가장 높은 단어를 예측하는 방식으로 작동하기 때문에, ‘익숙한’ 글일수록 당혹감 점수가 낮게 나온다. (중략) 이 척도의 한 가지 함정은 영어가 모국어가 아닌 학생들이 부족한 어휘력 때문에 자신의 글에 챗GPT를 사용했다는 부당한 혐의를 받기도 했다는 점이다. - P68
티안이 도입한 두 번째 프로그래밍 척도는 ‘간헐성’으로, 문장의 길이와 복잡도 같은 지표를 고려해 텍스트 내 문장 변화량을 계산한다. (중략) 인간이 작성한 문장은 일반적으로 텍스트 전반에 걸쳐 길이와 복잡도 면에서 등락을 보이는 반면, AI가 생성한 문장은 훨씬 균일하다. - P69
그러니 옥스퍼드대학교 출판부가 2024년에 올해의 단어로 ‘뇌썩음 brain rot’을 선정한 배경이 이해가 간다. 옥스퍼드는 이 표현을 다음과 같이 정의한다.
사소하거나 도전적이지 않을 듯한 자료(현재는 특히 온라인 콘텐츠)의 과도한 소비 결과로 보이는 개인의 정신적 지적 상태 저하.
기록상 이 용어가 처음 등장한 곳은 1854년에 출간된 헨리 데이비드 소로의 ‘월든’으로 보인다. 소로는 당시 사회가 복잡한 사상과 정신적 노력을 회피하는 경향을 보이는 데 대해 비판하며 이렇게 썼다.
영국이 썩은 감자를 치료하려고 애쓰는 동안, 그보다 훨씬 더 광범위하게 퍼져 있고 치명적인 뇌 썩음은 (아무도) 퇴치하려고 시도조차 하지 않는 건가? - P70
저널리즘의 세계는 2020년을 기점으로 심대한 변화를 겪었다. 신문 기사의 상당수가 이제는 (표기를 하든 말든) AI로 생성된다. 이 수치가 얼마나 되는지 확실히 알기는 어렵지만, 2024년 중반 한 추정치에 따르면 전 세계적으로 하루 약 6만 건에 이르렀다. 이는 전 세계 뉴스의 7퍼센트에 가까운 수치이다. - P76
한 사회에 문자가 존재한다고 해서 구성원 대부분이 읽을 수 있지는 않았다. 고대 아테네와 중세 유럽, 이후에도 마찬가지였다. 그러나 시간이 지나면서 그 수치는 점점 늘어났다. 1500년 영국의 문해율(추정치)은 남성의 경우 약 10퍼센트였으나, 1900년에 약 95퍼센트까지 증가했다. 여성은 약 5퍼센트에서 시작했으나 1900년에 이르러서 남성을 거의 따라잡았다. 식민지 시대의 뉴잉글랜드에서는 청교도들이 놀라운 문해율을 자랑했다. 백인 남성의 경우에는 거의 100퍼센트에 달했다. - P109
고국에서는 자발적으로 책을 읽어 본 적이 없던 병사들까지 읽었다. 믿기 어렵겠지만, 노르망디 상륙 작전을 앞두고 영국에서 노르망디 해안으로 향하는 수송선에 승선하는 병사들을 위해 배정된 책만 해도 100만 권에 가까웠다.
상륙 후에는 어떻게 됐을까? 오마하 해변에서 벌어진 일을 보자. 여기서 미군은 2400명의 사상자를 냈다. 처음에 상륙한 병사들은 거의 모두 전사했다. 그럼에도 병력은 밀물처럼 몰려가며 상륙을 계속 시도했다. 수많은 병사가 부상했는데, 일부 병사는 주머니에 책을 넣고 있었다. 매닝이 썼듯이, "그날 나중에 해변을 오른 많은 사내는 중상을 입은 병사들이 가파른 언덕 기슭에 몸을 기대고 앉아 책을 읽고 있던 모습을 결코 잊지 못할 것이다." - P128
왜 진중 문고(Armed Services Edition)는 그토록 수요가 많았을까? 첫 번째 이유는 책들이 충족시킨 다양한 욕구이다. 병사들에게 책은 기분 전환이나 지루함을 달래주는 수단, 오락거리, 현실로부터의 탈출구였다. 더 깊이 생각해 보면, 책은 눈앞의 도전과 비극에 대처하기 위한 도구이자 나아가서 희망의 원천이 되기도 했다. 두 번째 이유는 지극히 현실적인 사정이었다. 다른 대안이 없었기 때문이다. (중략) 2차 대전 참전 용사 중 상당수가 ‘제대군인원호법 GI Bill’으로 대학에 진학했다. 그리고 일부는 대학 진학 여부와 상관없이 열혈 독자가 됐다. - P128
19세기만 해도 미국의 사립대학 수가 많지 않았다. 입학 지원자의 규모도 마찬가지로 제한적이었다. (중략) 하버드 대학교는 1870년 9월에 ‘뉴욕 타임스’에 광고를 내면서 지난 6월에 입학시험을 치른 지원자 210명 중 185명이 합격했다고 자랑하기도 했다. 이런 지원자들은 압도적 다수가 사립 예비학교 출신이었다. 그러나 이후 판도가 바뀌기 시작했다. 20세기 초가 되자, 대학에 입학하는 공립 고등학교 졸업생 수가 점점 늘어났다. 공교육의 수준이 향상되고 이민자 인구가 급증한 결과였다. 새로운 지원자 중에는 유대인 학생이 많았는데, 대다수가 부유한 형편은 아니었다. 아이비리그 대학 캠퍼스에서 이들의 존재감이 커지면서 개신교 상류층 중심의 기존 질서는 도전에 직면했다. 해결책은? 새로운 입학 요건을 도입하는 것이었다. 그리하여 공식적인 대학 지원서가 등장했다. - P178
대학 지원서의 서술형 영역을 AI가 쓰고 읽는 지금의 추세는 나를 상당히 심란하게 만든다. 우리는 인간이 무엇을 쓰는지, 그것이 어떻게 읽히는지에 대해 점점 더 신뢰하지 못하게 되는 초현실적 게임을 하고 있다. 듀크대학교가 에세이 영역에서 쓰기의 질 평가를 중단하기로 한 결정은 앞으로 나아가기 위한 합리적인 첫걸음으로 보인다. 그렇더라도 우리가 신뢰할 수 있는 평가 방식을 마련해야 한다는 과제는 여전히 남아 있다. - P189
2025년 3월에는 과학 출판계의 거대 기업인 엘스비어가 사이언스 다이렉트 AI를 출시했다. 사이언스 다이렉트 AI는 엘스비어가 보유한 세계최대의 과학 논문 및 단행본 정보 사이트인 사이언스 다이렉트에 축적된 방대한 자료를 기반으로 작동한다. 인간 연구자들이 다루는 주제에 관한 연구 결과를 요약, 비교, 종합해서 제시한다. 완전한 인용은 물론 원문 링크를 함께 게시해 편의성뿐만 아니라 AI의 정확도를 확인할 손쉬운 방법까지 제공한다. - P227
AI 조사 에이전트가 추구하는 또 다른 목표가 있다. 문헌에 대한 체계적 고찰 systematic review이다. (중략) 체계적 고찰은 연구자들이 특정 분야의 연구 결과를 개관하는 데 중요한 역할을 한다. 의학 분야에서는 임상 시험과 치료에 대한 접근법을 안내하기도 한다. 이를 책임감 있게 준비하려면 각고의 노력이 필요하다. AI 조사 에이전트는 매력적인 지름길을 보여주지만, 본격적으로 활용하기에는 아직 이르다는 게 일반적 평가이다. 최소한 체계적 고찰에는 지금의 AI가 만들어내는 ‘환각’을 용인할 여지가 없다. - P228
2023년에도 뉴욕의 변호사 스티븐 슈워츠의 악명 높은 사례가 있었다. 그는 자신이 맡은 사건과 관련된 판례를 훑는 데 챗GPT를 사용했다. 그러나 그가 변론에 인용한 판례들이 실제로 존재하지 않는다는 사실을 판사가 발견했다. 슈워츠는 잘못을 깊이 뉘우치며 후속 심리에서 "챗GPT가 판례를 날조할 수 있다는 사실을 이해하지 못했다"라고 호소했다. 변호사로서 훌륭한 일은 아니었지만, 당시는 챗GPT가 막 등장한 시점이었고 환각을 유발하는 문제가 대중에게 널리 알려지기 전이었다는 사실을 기억할 필요가 있다. - P235
AI 사용의 영향을 뇌에서도 측정을 통해 확인할 수 있는 증거는 없을까? 2025년 6월 ‘아카이브’에 게재된 흥미로운 연구가 긍정적 답을 시사한다. 뇌파 검사EEG는 뇌의 전기적 활동을 측정하는 확립된 방법이다. 보스턴 지역의 한 연구진은 이 기술을 활용해, 참가자들이 LLM을 사용하거나, 전통적인 웹 검색을 하거나, 아니면 둘 다 사용하지 않는 (오직 뇌만 사용하는) 상태에서 에세이를 작성할 때의 뇌 활동을 서로 비교해 봤다. 참가자들 중 ‘뇌만 사용한’ 집단의 신경 활동 수준이 가장 높았고, 검색 엔진을 사용한 집단이 그 뒤를 이었다. LLM을 사용한 집단은 신경 활동 수준이 가장 미미했다.
- P357
빅테크 기업들이 자신들의 서비스를 채택하도록 우리를 몰아가는 행위를 탓하기는 어렵다. 그러나 생각하는 소비자로서 우리는 (선택권이 우리에게 있을 때) 읽기 대행자로서 AI에 얼마나 의존하고 싶은지를 결정할 수 있다. AI에 과도하게 의존한다고 해서 체중이 늘거나 과다 복용으로 죽지는 않는다. 그러나 종국에는 우리의 학습과 개인적 성장에 해가 될 수 있다. AI가 환경에 끼치는 피해에 기여하는 점은 말할 것도 없다. - P360
마지막으로 지금까지 쏟아놓은 모든 연구를 통해 내가 얻은 가장 큰 깨달음을 제시하면서 글을 마칠까 한다. 첫째는 정신적 노력의 중요성이다. (중략) 둘째는 문해력 사업에서 진정성이 얼마나 중요한지를 인정하는 것이다. - P361
셋째는 우리가 AI 시대에 어떤 독자가 되고 싶은지를 고민해야 한다는 과제이다. 우리에게 주어진 기술적 선택지가 아무리 인상적이라 해도, 우리는 여전히 한 개인으로서 뇌를 사용하고 인성 (그리고 영혼)을 구축해야만 한다. 또 사회 구성원으로서 책임도 있다. 타인과 상호작용하고, 시민으로서 자신을 교육하며, 아이들에게 본보기가 돼야 한다. - P362
|