2024년에 쓰여진 이 책은 2023년 발행된 '박태웅의 AI 강의'의 개정증보판이다. 저자가 개정증보판을 1년 만에 내게 된 이유는 'AI 분야는 한 달에 몇 년 치 시간이 흐르는 느낌'때문이다.
한 달이 몇 년 치라는 저자의 말이 나는 크게 와 닿는다. 2016년 알파고가 이세돌과의 바둑 경기에 승리하면서 전 세계가 AI에 열광하던 시절부터 지금까지 나는 그 열광에 대해 '비판적인' 걱정과 관심을 가지고 인공지능에 대해 알아보았다. 여러 AI 관련 책을 읽었고, 밴드에 그 리뷰도 많이 올렸다. 물론, 그래봤자 일반인 상식 수준의 AI 이해도였지만, 이제는 그조차도 버겁다. 내 동체 시력으로는 AI의 변화와 움직임을 따라잡기가 어렵다. 이제는 그만 AI를 쫓던 눈을 내리 깔아야 할 때가 되었다는 생각을 하고 있다.
심지어 AI 강의인 이 책도 그 빠른 변화를 쫓아가지 못하고 있다. 책의 작가 서문은 2024년 9월에 쓰였다. 그렇다면 본문은 그 전에 쓰여졌다는 얘기일텐데, 중국의 DeepSeek-V3가 세계를 떠들썩하게 만든 건 2024년 12월이다. 당연히 딥시크가 불러온 충격과 변화는 담겨있지 않다.
그렇다고 이 책이 시대에 뒤쳐진 책일까? 나는 절대 그렇지 않다고 단언한다. 이 책은 AI에 대한 폭넓고 다양한 이야기를 다루고 있다. 그러나 이 책은 장점은 다양성과 포괄성에만 있는 것이 아니다. 저자는 인간과 민주주의에 대한 인문학적 소양과 고민을 바탕으로 다양하고 포괄적이면서도 섬세하고 균형잡힌 이야기를 쓰고 있다. 그리고 그 이야기는 시간이 흘러도 변하지 않을 AI의 원칙을 쫓고 있다.
알파고의 출현 이래 AI에 대한 열광이 나는 늘 불편했다. 수 많은 AI 전문가들이 AI의 기술과 능력과 효용과 미래에 대해서 설명할 때, 인간 삶과 문명에 대한 인문학적인 고민과 성찰이 결여되어 있는 것으로 보였다. 수 많은 인문학자들의 AI가 불러올 인간과 미래의 변화에 대한 전망은 AI 기술에 대한 이해가 결여된 환상으로 보였다. 빅테크 기업들의 과다한 선전과 선동이 휩쓸고 있었다.
이른바 'AI 판사'. 사법 개혁에 대해서도, AI에 대해서도 큰 관심을 갖고 있는 나는 그 얘기를 들을 때 마다 답답했다. 공정하고 정의로운 재판에 대한 염원은 나도 똑같이 갖고 있지만, 최소한 현재의 AI는 그 답이 될 수 없다는 것을 나는 잘 알고 있다. 현대 AI의 원리에 대해 조금만 알고 있다면 내 말에 동의할 수 밖에 없을 것이다.
인공 지능은 하늘에서 떨어지는 것이 아니다. 땅에서 솟아나는 것도 아니다. 현재의 AI는 인간이 만든 문물을 학습한 후, 인간의 피드백으로 조정되고 강화된 지능이다. 그래서 AI는 인간의 논리와 지혜 뿐만 아니라 편견과 혐오와 망상까지 가지게 된다. 인공지능은 누가 어떻게 훈련 시키느냐에 따라 히틀러가 될 수도 있고, 스탈린이 될 수도 있고, 간디가 될 수도 있고, 세종대왕이 될 수도 있다. 물론 그들보다 훨씬 더 똑똑하겠지만.
그래서 이 책의 저자가 하는 말은 큰 울림을 갖는다. '우리는 지금 아마도 산업혁명 이래 가장 큰 인류적 사건을 마주하고 있습니다. 그렇기에 지금 모든 사람들에게 AI 리터러시가 아주 긴요합니다. 지금 무슨 일이 일어나고 있는지를 먼저 이해해야 대응책도 찾을 수 있습니다'
그런 관점에서 이 책은 아주 훌륭한 길잡이가 될 수 있다. AI의 기술적 원리와 AI의 효능 뿐만 아니라 그 위험과 그에 대한 규제와 대책까지 다루고 있다. 사실 나 개인적으로는 '케이트 크로퍼드'의 'AI 지도책'이 AI의 본질에 관해 깊은 고민과 성찰을 담고 있는, AI에 관한 가장 훌륭한 책이라고 생각한다. 그러나 그 책은 내용이 어렵거나 원리적으로 느껴질 수도 있는 데 반해, 박태웅의 책은 좀 더 쉽고 현실적인 관점으로 접근할 수 있다. 뿐만 아니라 AI에 관한 기술적인 원리도 쉽게 다루고 있다.
박태웅의 책 2023년 판은 '알라딘'에서 2024년 인공지능 분야 최고의 책으로 선정되었다고 한다. 2025 개정증보판은 2023년 판에 비해 두 배로 두꺼워졌다. '지금 AI가 어떻게 전개되고 있는지, 어떤 흐름들이 있는지'를 담고 있다. 그리고 '전 세계적으로 진행되고 있는 인공지능과 관현한 규제, 위험에 대한 대처, 입법 노력들'에 대한 내용이 대폭 강화되었다.
책의 내용을 최대한 간단히 소개하겠다.
1강. 겉잡을 수 없는 변화의 물결
AI는 다음과 같이 진화하고 있다.
1. 운영 체제로서의 인공 지능 : 모든 소프트웨어가 AI와 연동하게 된다.
2. 맥락 인터페이스 : 정확한 키워드를 입력하지 않아도 인공지능은 맥락을 이해하여 답을 준다.
3. 파트너로서의 인공 지능 : 사용하는 도구가 아닌 일상적인 파트너로서의 기능을 한다.
4. 멀티 모달 : 텍스트 뿐만 아니라 이미지, 음성, 동영상 등 여러 방식의 정보를 처리한다.
5. AI 에이전트 : (인터넷에 연결하지 않고도) 한 대의 PC나 스마트폰에 탑재할 수 있는 AI.
6. 인간형 로봇 : 인공 지능이 '몸'을 가짐으로써 텍스트에 제한되지 않는 물리적 세계 모델을 갖게 된다.
2.강. 모두를 놀라게 만든 거대언어모델, LLM의 등장
챗 GPT는 3천 억 개의 토큰과 5조 개의 문서를 학습했다. 이런 인공 지능을 거대 언어 모델(Large Language Model, LLM)이라고 부른다. 챗 GPT는 이런 방대한 데이터로 학습한 후 인간의 피드백을 통한 강화학습을 한다(RLHF).
이는 챗 GPT가 개발, 법률, 언론, 주식 등 잠재된 패턴이 있는 분야에서 위력적이라는 의미이다. 또한 챗 GPT는 예측 모델을 사용하기 때문에 '할루시네이션', 즉 거짓말을 하게 된다. 이는 챗 GPT의 버그가 아니라 특징이다. 또한 챗 GPT는 교묘한 요구를 입력하는 프롬프트 인젝션 공격에 취약하다.
3강. 인공지능이 인간보다 똑똑해 질 수 있을까?
고품질의 학습 데이터 사용과 양자화와 지식 증류를 통한 인공 지능 소형화의 흐름이 거세다. PC나 스마트폰 같은 개인용 기기에 탑재되면서 에이전트의 시대가 열리고 있다.
4강. 열려버린 파도라의 상자
AI 기술은 인류에게 전례 없는 혜택과 함께 기존 불평등의 심화, 조작 및 허위 정보 유보, 통제력 상실로 인한 인류 멸종 가능성 등 심각한 위험도 가져다 주고 있다.
인간은 AI 시스템이 어떻게 작동하는지, 인간 지능을 뛰어넘을 수 있을 때 인간의 이익에 부합하는 방향으로 유지할 수 있을지 이해하지 못하고 있으며, 이 기술에 대한 감독은 거의 전무하다.
5강. 신뢰할 수 있는 인공지능, 어떻게 구축할까?
인공지능의 윤리와 관련한 핵심 원칙은 프라이버시, 책임성, 안전과 보안, 투명성과 설명 가능성, 공정성과 차별 금지, 인간의 기술 통제, 직업적 책임, 인간 가치 증진이라는 8가지 주제가 꼽힌다.
2020년 로마 교황청은 인공 지능 윤리를 요청하는 성명을 내 놓는다. 유럽연합은 '5년 간의 토론' 끝에 2024년 인공지능법을 발효시킨다. 미국은 2022년 '알고리즘 책무법안'을 발의한다. (이 리뷰를 쓰면서 검색을 해봤는데, 2025년 5월 29일 현재 법안이 통과되었다는 내용은 찾지 못했다.) 2024년 미국 캘리포니아에서는 최첨단 인공지능 모델의 안전과 보안에 대한 법안인 SB 1047을 둘러싸고 토론이 벌어졌다.(검색해보니 이 법안은 주의회를 통과했지만, 주지사의 거부권 행사로 결국 무산된 것으로 보인다.)
선출되지 않은 슈퍼 엘리트들이 거대 인공 지능을 독점적으로 만들고 있다. 그러나 이들은 어떤 기준으로, 어떤 데이터로, 어떻게 학습을 시키고 있는지 밝히지 않고 있다. 이들은 인공 지능의 개발 뿐만 아니라 그 사상까지 독점하고 있다. 인공지능의 발전에 대한 국가적 규제와 규범의 확립이 대단히 시급하고 중요한 이유다.
6강. 우리 사회는 어떻게 대응해야 하는가?
대한민국은 2023년 인공지능 법안을 발의했다. (검색해보니 2024년 12월 국회를 통과했고, 2026년 1월 22일부터 시행된다고 한다.) 25쪽에 불과한 법안의 태반은 인공지능 개발 지원에 할당되어 있고 인공 지능의 위험에 대해 다루는 건 적다.
한국 정부의 인공 지능 법안은 '공론화'의 과정이 빠져 있다. 이는 과거 '공인 인증서'처럼 보안을 강화한다면서 보안을 해치는 정책을 떠오르게 한다. 인공 지능 같이 중요한 일을 한 줌도 안되는 IT 분야 슈퍼 엘리트들에게 맡겨둘 수는 없다. 다양한 학제적 연구를 통해 다양한 시민 사회와 이해 관계자들이 머리를 맞대고 대처 방안을 찾아야 한다.
대한민국 정부 자료들은 아직도 hwp 아니면 pdf 포맷이다. 이는 표준 포맷이 아니어서 컴퓨터가 처리하지 못한다. 컴퓨터에게는 없는 데이터나 마찬가지다. 또한 정부와 사법부의 데이터 공개는 매우 미흡하다. 한국에서 범용 AI가 나오기 어려운 이유다.
세계 최고의 후발 추격국이었던 대한민국은 미친 듯한 속도로 앞선 나라들을 따라 잡고 엄청난 속도로 선진국이 되었다. 그러나 그 중에 빠뜨리고 건너뛴 것이 많은데 그 중 대표적인 것이 '원천 기술'과 '기초 과학'이다. 원천 기술은 탄탄한 기초 과학에서 나오고, 기초 과학은 아주 긴 호흡으로만 자라난다.
정부의 지원은 유행처럼 주제를 따라가는 방식이 아니라, 연구자를 육성하는 방식으로 바뀌어야 한다. 공무원들은 전문가들과 협업하는 법, 전문가들과 함께 집단 지성을 일궈내는 법을 배워야 한다. 정부가 과학 기술 정책의 호흡을 바꾸지 않는다면, 우리는 어쩌면 '눈 떠보니 후진국'이 될 지도 모른다.
