AI 없이는 이제 업무가 불가능할 정도로 LLM은 우리 삶에 깊게 파고들었다. LLM은 업무, 유희, reference, 상담, image 생성 등 다양한 영역에서 이용되고 있다. 좀 더 진보적으로 전략적 이용을 강조하는 쪽과, 약간은 보수적으로 윤리적 여파를 우려하는 목소리 양쪽 다 들려온다. 한글판 제목이 더 멋진 “기계가 언어를 사용한다는 것에 대한 인문학적 사유” (원제 Communicative AI)의 번역은 그래서 시의적절하다.
이 책의 서문은 ChatGPT 4.0이 작성하였다. 서문은 책의 의도와 방향성에 대해 유려하게 서술하고 있는데 저자들은 단지 프롬프트만 넣었을 뿐이라고 한다. 챗지피티를 서문의 저자로 각인한 시도 자체가 우리의 현실을 보여주는 실험으로, 이 책에서 논할 철학적 성찰의 실천적 퍼포먼스라고 감히 평가하고 싶다.
1장은 인문학적 사유를 개시하기에 앞서 LLM의 작동 방식에 대한 총론격 성격이지만, 여기부터 책의 신뢰도를 높인다. 너무 복잡하지도 않으면서 간단하게 LLM의 언어 생성 원리와 구조를 개괄한다. LLM이 단어에 수치적 벡터를 할당하는 워드 임베딩을 통해 의미적 연결망을 구현하고, 이것이 여러 층으로 정교하게 이루어진 트랜스포머 구조를 통해 대규모 학습을 거쳐 맥락에 맞는 텍스트를 생성해 낸다는 것을 쉽고 차근차근히 밝힌다.
2장에서는 1장에서 논증한 LLM의 작동 방식의 성격으로부터 초래될 수밖에 없는 문제를 설정한다. 환각 생성에 따른 신뢰 문제, 사회적 맥락에 존재하는 편향성의 확대 재생산, 책무성에 대한 윤리 등 인공지능 시대의 윤리적·법적·사회적 당면 과제의 아젠다를 설정해 나간다.
3-6장이 이 책의 하이라이트라고 보며, 매혹적인 전개에 빠져들어 감탄하며 너무 재미있게 읽었다. 3장은 인간 외 존재에서 지능과 의식이 존재하는가에 대한 합의가 어려움을 역사적 흐름으로 보여주고(인간의 인지 능력이 특별하다는 ‘인간 예외주의’), 그 유명한 앨런 튜링의 ‘모방 게임’과 ‘튜링 테스트’, 그리고 이에 대립하는 입장인 존 설의 중국어방 실험을 소개한다. 만약 인공지능의 지능과 의식을 인정한다면 도덕적 지위가 수여됨과 동시에 법적 보호를 받을 자격까지 논의되어야 하므로 첨예한 대립이 불가피한 것이다. 여기서 타자 마음의 증명 불가능성으로부터 비롯한 형이상학적 이분법의 한계 때문에 존재론의 대대적 재구성이 절실히 필요함을 보여준다.
4장은 언어를 다루는 인공지능의 작동 원리 자체가 ‘지시적 실재론’과 ‘진리 대응설’(로고스 중심주의, 즉 기표로서의 언어가 기의를 반영하는 거울과 같다는 형이상학적 이분법)의 중요한 허점을 짚고 붕괴시킨 후기구조주의 철학의 실천적 작동 그 자체임을 논증하는데, 이 대목을 읽는 지적 쾌감이 상당하여 굉장히 재미있었다😭 푸코에 따르면 개인/저자성/권위 개념은 오래되지 않아 근대에 겨우 개발되었기에, 이것이 후기구조주의에서 해체되는 과정을 다루는 것도 너무 재미있었고. 저자성과 권위에 대해 다루는 5장에 나오는 다음 문장은 한마디로 그간의 논의를 압축한다.
“LLM은 고전 기호학의 핵심인 개념적 대립항을 해체하는 구조주의적 기계들이다.” (170쪽)
“1873년 『도덕 외적인 의미에서의 진실과 거짓에 관하여』 에서 니체가 주장했듯이, 인간은 세계에 대한 ‘진리’를 창조하기도 하며, 그 자체로 존재하는 진리도, 객관적 진리도 없다. 다시 말해 수사학이 철학으로 귀환한 것이다.”
6장에서는 진실, 거짓, 그리고 환각에 대해 다루며, LLM이 기존의 편향을 재생산하기에 언어가 중립적이지 않음을 보여주고 진리는 특정한 언어적·사회적 환경 속에 위치하는 관계적 개념임을 논증한다. 편향성이나 거짓 선동의 문제를 규제하기 위해 기술을 개발하고 배포하는 다국적 기업의 윤리적 책임이 막대한 이유다.
7장은 다소 교과서적으로 결말을 짓긴 하지만, 이 책에는 5.0/5.0점을 주고 싶다. 많은 이들이 반드시 읽었으면 하는 시의적절한 텍스트이며, 여기서 파생된 윤리적 문제가 대중적으로도 널리 알려지고 논의되었으면 좋겠다는 바람이 든다. 간만에 책의 주요 개념과 논지들을 정리하고 필기까지 해 가며 굉장히 재미있게 읽었다. 초강력 추천.
