....사람은 성장기 때 교육과 학습을 통해 형성한 인지 방식과 사고 구조를 변화한 환경에 맞게 업그레이드하기를 꺼리는 ‘인지적 구두쇠’ 속성을 지니고 있다. 심리학자 애덤 그랜트는 《싱크 어게인》에서 “대상이 물건일 때 사람들은 열정을 다해 업데이트하지만 대상이 지식이나 견해일 때는 기존의 것을 고집하는 경향이 있다”고 말한다. 인간이 개발한 도구는 인간의 지능 수준을 넘어설 정도로 똑똑하고 강력해졌지만 그를 사용하는 인간은 똑똑한 도구에 압도당할 우려가 제기되는 상황이다. 호모 파베르의 역설이다. ...대규모언어모델에서 만들어내는 문장은 통계에 기반하여 거대한 양의 텍스트에서 패턴을 찾아 그다음 단어를 추측하는 방식으로 작동한다. 이런 언어 모델은 모방에 능하고 사실에 약하다. 왜냐하면 대규모언어모델은 문제를 일으키는 문어와 마찬가지로 실제 세계의 대상을 이해할 수 없기 때문이다. 이런 언어 모델을 철학자 해리 프랭크퍼트는 책 《개소리에 대하여》에서 듣는 이를 현혹시키는, 도덕적으로 상관하지 않는, 속임수 전문가가 하는 개소리의 정석이라고 한다. 프랭크퍼트는 이런 ‘개소리’들이 거짓말보다 나쁘다고 주장한다. 그 이유는 ‘개소리’들은 거짓이든 진실이든 상관하지 않고 독자를 설득하는 것만 중요시하기 때문이다. ...결국은 기술 자체의 문제가 아니라 기술에 반응하는 사람의 문제인 것이다. 에밀리 벤더는 단어의 형태와 의미를 혼동하지 말라고 이렇게 역설한다. 기계는 마음이 없이도 텍스트를 생성해낸다. 문제는 우리가 그 텍스트 뒤에 마음이 있다고 상상하는 것을 멈추지 못한다는 것이다....삶의 모든 영역에 침입하는 것은 억압적인 빅브라더가 아니라, 우리가 누구인지 알기 때문에 사적인 근거 하에 각자와 관계를 맺게 되는 수많은 호의적 ‘리틀 시스터스’이다. 쉽게 말해 정보 사회의 통제란, 높은 데서 내려다보는 차갑고 거대한 감시탑이라기보다 우리 곁을 맴도는 따스하고 친밀한 반려동물처럼 작용한다....‘그럴듯한 이야기’가 곧 진리는 아니다. 서사는 인과 관계로 빽빽하게 채워지곤 하지만, 실재에는 우연적 요소들도 많다. 이야기는 연속적이고 자극적이다. 진리는 대체로 비연속적이며 권태롭다. 음모론이 과학적 설명보다 훨씬 각광받으며 빠르게 확산되는 이유는 인지적 소모를 줄이면서 사태를 흥미롭게 설명해주기 때문이다. 서사 중독은 기본적으로 개인의 증상을 가리키는 개념이며, 이 증상이 사회적으로 확산되면 ‘서사 과잉narrative excess’이 된다....인지 빈곤이 시사하는 바는 무엇일까? 간단히 정리하면, 압도적인 정보량과 인간의 인지적 한계 때문에 타당한 지식을 습득하는 것은 물론이고 터무니없는 허위정보를 감지하는 일도 점점 어려워지고 있다는 것이다. 하라리의 표현을 빌리자면 확실히 “우리의 뇌는 점점 더 해킹당하기 쉬워지고 있다.” 하지만 이는 챗GPT의 등장이나 ‘자유 의지’라는 신화 때문만이 아니다. 가상 공간에서 정보의 폭발적 유통이라는, 꽤 오랫동안 지속된 과정을 통해 우리의 내면에서 일어난 사태다.