홍진기 교수는 위의 두 학생 중 전자는 스스로 생각해 결과물을 내는 학생으로 본다. 반대로 후자의 학생은 "사고외주", 즉 생각 과정을 AI에게 맡겼고 결과물로 나온 매끄럽고 완벽한 보고서를 제출하는 것을 "똑똑한 무능함"이라 평가한다. 즉, 저자는 "생각"을 AI에게 맡기는 것이 매우 큰 문제라고 본다. 사고 과정 없이 나온 결과물은 결국 그 자신의 것이 아니다. 그래서 아무리 똑똑해보이는 결과물을 제출했더라도, 결국 그 결과에 대해 아는 것이 없다. 말 그대로 똑똑해 보이는 무능함일 뿐이다.
#뇌가소성 #치명적
저자에 따르면 이 문제는 나이든 사람보다 학생과 같은 젊은 사람에게 더 치명적이라 한다.
"뇌는 우리가 반복하는 행동의 모양대로 자신을 다시 설계하는 '가소성'을 가지고 있습니다. 어떤 문제를 오래 붙잡고 씨름할 때 그 사고의 경로는 신경망의 고속도로처럼 단단해지고, 자꾸 해결을 외부에 맡길 때 그 경로는 잡초가 무성한 폐도처럼 천천히 지워집니다."(21쪽)
말 그대로 뇌는 쓰지 않으면 퇴화한다. 즉, AI에 사고 과정을 점차 맡기게 된다면 우리 스스로 사고할 수 없는 지경에까지 이르게 될 것이라는 점이다. 그것은 이미 사고 과정을 충분히 거쳐 뇌가 단련된 성인이 아니라, 이제 막 사고 과정을 훈련하고 연습해야하는 젊은 학생들에게 더 치명적일 수밖에 없는 것은 자명하다.
그래서 저자는 AI의 사용을 '근육'과 '목발'로 비유한다. 이미 탄탄한 사고 능력을 갖춘 사람에게는 더욱 성장할 수 있는 '근육'이 되어줄 수 있지만, 사고 과정 자체를 할 수 없는 사람에게는 '목발'이 될 수밖에 없다는 것이다. 목발을 사용해본 사람은 아마 쉽게 이해할 것이다. 사용하지 않았던 근육이 반대쪽에 비해 상당히 약해져 있다는 사실을 말이다.
#시간 #차이
저자는 또한, 시간이 지남에 따라 능력의 차이가 더욱 벌어질 수밖에 없다고 경고한다. AI 도구는 전 세계적으로 모두에게 공평하게 주어진 도구인 것처럼 보이지만, 그 도구를 쓸 수 있는 사람의 능력에 따라 격차가 더욱 벌어질 수밖에 없다는 것이다.
"예를 들어 기본 능력이 2인 사람과 1.9인 사람이 있다고 가정해봅시다. ... 그런데 AI가 인간의 능력을 두 배로 증폭시켜주는 수준이라면 능력 2는 4가 되고, 1.9는 3.61이 됩니다. ... 하지만 증폭 효과가 열 배, 백 배로 커질수록 이야기는 완전히 달라집니다."(41쪽)
AI가 인간의 능력을 증폭시키는 도구로서 누구에게나 평등하다면, 결국 달라지는 것은 인간 개개인의 능력 차이에서 벌어집니다. 이 도구를 온전히 자신의 성장을 위해 사용할 수 있는지, 아니면 이 도구에 의존해 자신의 능력 자체를 갉아먹고 있는 것인지는 생각해봐야할 중요한 문제입니다.
#인간의능력 #문제정의능력 #메타인지능력 #신체경험
그렇다면 저자는 AI시대 가장 중요한 인간의 능력으로 무엇을 꼽았을까. 문제 정의 능력, 메타 인지 능력, 신체 경험이다.
AI는 답을 빠르게 찾아내지만, 무엇이 문제인지를 스스로 인지할 수 없다. 즉, 인간이 어떤 문제를 인식하고 그것을 해결하기 위해 AI에 답변을 요구하는 것이 필요하다는 설명이다. 즉, 질문할 수 있는 능력이라고 볼 수 있겠다.
메타 인지는 내가 어디까지 알고 있는지 스스로 평가하는 능력이다. 즉, 자신의 능력으로 어디부터 어디까지를 스스로 판단하고 선택해야 하는지 결정할 수 있어야 한다는 설명이다. AI에게 얼마나 맡겨야 하는지 결정하는 것도 포함해서다. 나는 이 부분이 매우 중요하다고 생각한다. 내가 만들어낸 결과물에 결국 내 이름을 붙일 수 있느냐 없느냐가 이 부분에서 결정되기 때문이다. 내가 스스로 방향을 정하고 만들어나가면서 AI를 도구로 활용한 것만 내 이름을 붙일 수 있는 결과물이다. 하지만 AI의 결과물을 그대로 내가 베낀 것이라면, 과연 그 결과물에 내 이름을 붙일 수 있을까.
마지막은 신체 경험이다. 직접 만지고 실패하면서 다듬어 나가는 실제 경험이야말로 AI는 흉내낼 수 없는 부분이다. 물론 피지컬 AI가 로봇의 외피를 쓰고 완전한 인간의 신체를 갖게 된다면 또 다르게 볼 수도 있겠지만, 현재로서는 우리가 직접 경험하는 것이야말로 중요한 자산이다. AI는 결코 그 경험을 가질 수 없다.
#결과를전달받는위치 #결과를해석하는위치
저자가 제시하는 답은 명확하다. 스스로 생각하고 판단하고 결정해야 한다. AI에게 맡기는 것은 적정한 선에서 조절할 수 있어야 한다. 그렇다면 우리는 왜 그렇게 하지 않으려 할까. 답은 결국 '편안함'이다. 선택의 결과를 책임져야 한다는 부담감과 두려움으로부터 벗어날 수 있다는 것이다. AI가 전해주는 결과를 그대로 믿고 따르면 얼마나 편한가! 얼마 전 읽었던 '편안함의 습격(2025)'이 떠오른다. 편안함에 안주하는 순간 우리의 능력은 서서히 바닥나기 시작한다. 편안함에서 벗어나려는 용기가 없다면 새로움을 찾을수도, 발전할 수도 없다는 마이클 이스터의 조언이 귓가에 맴도는 듯 하다.