문과 출신으로 AI 융합교육을 주로 연구하는 공학 분야 현직 교수라 그런지 책 내용에 기술적인 언급보다는 AI가 우리 사회에 미치는 영향이나 AI를 긍정적으로 활용하는 방법 등에 대한 이야기가 주를 이루고 있다. 우선 AI 기술의 발전은 우리 사회에 긍정적 영향과 부정적 영향을 동시에 가져올 것이라면서, AI는 생산성을 향상시키고 새로운 기회를 창출할 수 있지만 동시에 일자리 감소와 사회적 불평등을 심화 시킬 수 있다고 말한다. AI 오용 가능성에 대한 우려도 존재하는데, AI 기반 감시 시스템은 개인의 프라이버시를 침해할 수 있으며, AI 기반의 무기는 인류의 안전을 위협할 수 있다고 언급한다. 따라서 AI 기술의 발전과 함께 윤리 문제는 중요하게 고려해야 한다면서, AI 시스템의 투명성과 책임 소재를 명확히 하고, AI 기술의 오용을 방지하기 위한 정책과 규제가 필요하다고 강조한다. 또한 AI를 이해하려면 먼저 모델이라는 개념부터 알아야 하는데, 모델이란 예측하려는 대상과 다양한 변수들 사이의 관계 패턴을 수식이나 알고리즘으로 표현한 것이라 말한다. 모델의 파라미터(가중치와 편향)를 조정해 입력 데이터에 대한 모델의 예측 정확도를 높이는 과정이 학습이며, 아무리 뛰어난 알고리즘이 있어도 데이터가 없으면 AI는 무용지물이라 말한다. 좋은 데이터가 많을수록 AI의 성능이 좋아질 가능성이 크다면서 말이다. 한편 평소 공적으로 중요한 의사결정은 AI의 결정과 비교해 왜 최종적으로 이러한 결정을 했는지 소명하도록 하자는 것이 저자의 지론이라면서, 인간이 범할 수 있는 논쟁 회피적 선택, 파벌, 맹목적 복종, 선입견 등을 극복할 수 있기 때문이라 설명한다.
또한 AI와 소통 과정에서 인간처럼 자아를 가지고 있는 것으로 느껴진다면 그것으로 족하다면서, 실제로 자아를 가지고 있지 않더라도 인간에게 정교한 프레젠테이션을 통해 자아를 갖고 있다는 느낌을 무리 없이 받아들이도록 유도할 수 있다면 실제 여부를 떠나 AI의 자아는 있는 것이나 마찬가지라고 말한다. 아울러 인간의 창의성은 단순히 새로운 것을 만들어내는 것 이상이라면서, 창의적 수행은 영역 관련 기술, 창의성 관련 과정, 과제 동기의 교차점에서 나타난다고 지적한다. 즉, 인간의 창의성은 개인적 경험, 감정, 문화적 맥락, 인생의 의미와 깊이 연결되어 있다는 말이다. 특히 예술적 기술과 학습 능력을 모두 갖춘 사람들이 가장 뛰어난 창작 능력을 보였다면서, AI 시대에도 여전히 기술에 대한 이해와 학습 능력은 중요하다고 말한다. 다만 그 기술이 과거의 수작업 기술에서 AI와의 협업 기술로 변화했을 뿐이라면서 말이다. 또한 AI를 단순히 도구로 사용하는 것을 넘어 AI와 진정한 파트너십을 구축할 필요가 있다고 말한다. 인간은 상상력, 직관, 감정, 윤리적 판단력을 제공하고, AI는 계산 능력, 패턴 인식, 대용량 데이터 처리 능력을 제공하는 상호 보완적 관계를 만들어가야 한다면서 말이다. 예를 들어, 음악 창작에서 인간 작곡가는 감정적 메시지와 문화적 맥락을 제공하고, AI는 화성 구조나 멜로디 패턴을 분석해 제안할 수 있으며, 시각 예술에서는 인간 예술가가 주제와 의미를 설정하고, AI가 다양한 시각적 표현 방식을 제안할 수 있다고 언급한다. 이러한 협력을 통해 인간 혼자서는 불가능했던 새로운 형태의 창작이 가능해진다면서 말이다.
인간 중심 AI의 핵심은 설명 가능성, 투명성, 그리고 인간의 최종 결정권 보장이라 말한다. AI가 어떤 과정을 통해 결과를 도출했는지 인간이 이해할 수 있어야 하고, 최종적인 창의적 결정은 여전히 인간의 몫이어야 한다면서 말이다. AI는 옵션을 제공하고 가능성을 확장하는 역할에 집중해야 한다는 것이다. 한편 좋은 프롬프트 엔지니어가 갖춰야 할 역량은 융합이라면서, 인문 소양이 풍부한 STEM 전공자 또는 기술을 아는 인문사회 전공자가 이런 융합인재에 해당된다고 말한다. 환각에 속지 않기 위해 우리는 더더욱 AI를 깊이 이해해야 하고, 전문 지식과 인문 교양도 늘려 나가야 한다고 지적한다. 특히 인간과 역사에 대한 이해, 즉 인문학적 기초가 핵심 역량이라면서, 그리스 신화와 우리의 구전동화에 익숙한 사람이 구사할 수 있는 다양한 언어적 표현은 바로 AI와의 협업을 가능케 하는 중요한 자산이 될 것이며, 독서의 중요성이 바로 여기서 드러난다고 말한다. 또한 AI는 감정을 갖고 있지 않지만 감정표현 자체를 학습해서 언제 어떤 표현을 했을 때 가장 임팩트가 클 것인지 계산해서 적시에 표출해줄 수 있다고 말한다. 인간과 AI가 공존하는 세계에서는 신속한 정보교환만큼이나 깊이 있는 감정교환이 중요해질 것이라면서 말이다. 한편 요새 대학교에서도 모르는 개념을 접하거나 어려운 과제가 주어졌을 때 무작정 AI부터 뒤지는 학생들이 나타나고 있다면서, 어려운 문제를 곰곰이 생각하며 교정을 산책하고, 주변 사람들에게 묻거나 도서관을 방문하는 지적 모색의 시간이 사라져가고 있다고 말한다.
이러한 모색의 시간이야 말로 성장의 순간이며 지성이 발달하는 모멘텀이라면서, 기술 의존증은 진정한 지적 고찰과 성장을 방해하는 괴물이라 단언한다. 그 밖에도 이 책의 저자는 범죄 사실과 증거 분석, 관련 법조문 검색이나 중요 정보 추출, 이전 유사 사건 분석, 최적 형량 추정치 보고 등은 자연어 처리, 비전, 지능형 데이터베이스, 설명가능한 AI 기술 등을 통해 상당 부분 가능하다고 생각한다고 말한다. 그리고 그렇게 도출된 AI 의사결정 제안이 담당 공무원의 자체 판단과 비교되고 경합해야 투명성이 제고될 수 있다고 본다면서, 법률 및 사법 서비스 영역에 AI 도입이 시급하다고 주장한다. 또한 AI 과의존을 줄이는 방법으로 한 개의 생성형 AI만 쓰기보다는 여러 개의 생성형 AI를 동시에 사용하면서 각각의 답변을 비교하고, 그것 중에 양질의 답변을 조합하거나 재해석할 수 있는 이용자의 AI 리터러시를 함양 시켜야 한다고 말한다. 이렇게 생성형 AI가 고도화될 수록 우리에게는 양질의 결과물을 선별할 수 있는 역량이 필요하다면서, 그러한 역량은 인류의 역사와 문화를 이해할 수 있는 독서, 여행, 교육 등 직간접 경험과 첨단 기술에 스스럼없이 다가갈 수 있는 테크놀로지 이용 경험, 친숙도 등을 통해 길러질 수 있다고 말한다. 마지막으로 우리의 정보기술 교육이 뒤쳐지고 있는 이유로 교대, 사범대학의 커리큘럼에 수십 년간 존재해온 과목들이 가지고 있는 뿌리가 너무 단단하기 때문이고, 그런 과목들에 기대어 살아온 수많은 기득권층이 있기 때문이라면서, 여기에 새로운 정보, 디지털 관련 교과들이 비집고 들어갈 틈이 없다고 언급하고 있다.
