인간과 인공지능이 손잡을

수학 지능 - 인공지능은 할 수 없는 인간의 일곱 가지 수학 지능
주나이드 무빈 지음, 박선진 옮김 / 까치 / 2023년 10월

2022년 11월 30일, Chat GTP가 출시되면서 세간에 놀라움을 선사했다. 기존의 단순한 AI(인공지능) 모델과 다르게 자연스러운 소통을 보여주는 생성형 AI로서 사람들은 큰 인상을 받은 것이었다. 최근엔 중국의 딥시크가 미국 기업들의 모델보다 더 나은 효율성을 보여주며 기술의 발전은 계속해서 폭탄 터지듯 이루어지고 있다. 이런 AI에 대한 발전은 흔히 인간을 대체하고 심지어 기계가 인간을 지배할 것이라는 예상까지 이어지는데, 이런 생각은 새로운 것이 아니다. 2016년 3월 이세돌과 알파고가 대결할 때에도 사람들은 AI에 대한 두려움을 느꼈다. 그것뿐인가, 1997년 IBM이 개발한 슈퍼컴퓨터 딥 블루가 체스 경기에서 가리 카스파로프를 이겼을 때도 사람들은 놀라움과 동시에 두려움을 느꼈다. 

이런 상황이 벌어질 때마다 사람들은 나름의 두려움을 느끼면서 'AI가 대체할 수 없는 인간의 특징은 무엇인가?'를 질문하기 시작했다. '대체 가능한 인간'이라는 두려움에서 인간의 쓸모를 증명함과 동시에 대체 불가능성을 인정받아야 했기 때문이다. 그렇게 우리는 '인간다움'을 처음부터 생각하기 시작했다.

그러나 <수학지능>의 저자 주나이드 무빈은 이런 두려움은 다소 과장된 측면이 있고, 인간을 과소평가할 위험이 있다고 말한다. 그는 AI를 인간이 역사적으로 발전시켜온 '도구'로서 받아들여야 하고, 중요한 것은 '기계가 사람을 위해서 무엇을 할 것인가'라는 것이다. 저자는 순수과학과 응용수학을 넘나들며 AI 모델의 한계를 파악했는데, 이 책에서 인간과 AI의 사고 차이를 설명하며 아직 AI가 넘어서지 못한 인간만의 사고, 즉 인간만의 수학 지능을 설명한다. 이런 지능까지 AI가 뛰어넘을 수도 있지만, 두려움을 느끼기 보다 정확히 파악하자는 의미다.

실제로 인간은 수백만 년의 진화를 거치고 수천 년간 진보를 거듭해오면서 세상의 이치를 깨닫고, 새로운 무엇인가를 상상하며, 복잡한 문제를 해결하기 위한 강력한 시스템을 발전시켜왔다. 우리는 이 시스템을 통해서 우리 사회의 기반이 되는 경제를 구축하고 민주주의의 개념을 형성할 수 있었다, 이 시스템은 현재 우리를 위협하는 기술을 낳았지만, 이 디지털 괴물을 길들일 수 있는 기술도 역시 이 시스템에서 찾을 수 있다.

이 시스템이 바로 "수학"이다.

16p

먼저 인간이 어떻게 사고하는지를 살펴봐야 한다. 이 이야기는 하나의 수학사이자 인지과학 교양서처럼 흥미롭게 전개된다. 컴퓨터는 짜인 틀대로 계산해 정확한 값을 제공하지만 인간은 애초부터 '모호한 관점'으로 세상을 바라보는 게 핵심이다. 객관적으로 절대적으로 나눠진 무엇이다!라고 생각하지 않는다는 것이다. 인간에겐 사물을 4개까지 인식(구분) 가능한 정확한 수 감각이 있지만 더 큰 수를 처리하지 못하는 대신 큰 수를 처리할 때 자연적으로 정밀한 연산이 아닌 어림짐작을 사용하는 근사 수 감각이 있다. 일정 수준 이상 숫자가 커지면 인간은 어림짐작을 하게 된다. 우리가 수학을 인식하기 위해 사용하는 숫자(체계)는 어떤 상징일 수밖에 없는데, 이는 문화마다 다르다는 점에서 수학적 사고가 환경과 언어의 산물임을 알 수 있다. 인간은 추상의 힘으로 적은 숫자만을 계산할 수 있는 인지적 한계를 극복했다. 어찌 됐든 수학을 설명하기 위해서 다양한 도구가 개발되었다는 의미다. 저자는 우리가 수를 파악할 때 어떤 한계를 맞이하며 이를 극복하기 위해서 어떤 도구(표상 혹은 추상)들을 발전시켰는지 로그, 지수 등의 예시를 들며 수학적 계산의 역사를 설명한다.

수와 수학에 대한 우리의 지식은 세상에 대한 지식이든 더 추상적인 종류의 지식이든 그러한 지식을 효과적인 방식으로 표상하는 우리의 능력에 달려있다.

93p

AI 연구자들은 각 모델마다 규칙을 통해 세상을 설명하려 했지만, 항상 완전히 지정된 규칙만으로 파악하기에는 세상이 너무 광대하고 복잡했다. 하나의 모델만으로 설명할 수 있는 세상은 너무나도 좁다는 것이다. 계산된 값을 다른 분야에도 상호 적용하며 답을 찾아야 했는데, 이는 또 다른 차원의 문제를 만든 것이다. AI는 문맥이나 의미를 파악할 수 없다. 결괏값에 대한 의미를 찾지 않으며, 다양한 결과를 비교하지도 않는다. 만약 '방향'이 엉뚱한 곳으로 가고 있어도 인지하지 못한다. 컴퓨터 그저 "규칙 내에서만 활동할 수 있다."

컴퓨터는 우리가 묻는 질문에 대해서만 답을 찾는다. 기계가 스스로 목표를 정의하려면 일단은 지각할 수 있어야 한다

213p

그러나 인간은 도구를 바꾸며 문제를 해결하는 능력을 가졌으며 그 말은 즉 "표상을 전환하며 여러 관점을 융화"시킬 수 있다는 것이다. 더불어 저자는 '규칙에서 벗어나는 것'이 인간의 근본적인 미덕이라고 말한다. 반사실적 추론을 통해 "만약에"라는 질문이 가능한데, 그러한 질문을 통해 무리수나, 0, 허수의 발견(혹은 발명)으로 이어졌다. "창의적인 사고를 위해서는 선입관과 물리적 규범을 뛰어넘을 준비가 되어 있어야 한다" 그렇기에 답보다 중요한 것이 질문이다. 무엇이 문제인지를 상정해야 한다는 것이다. 

기계학습 프로그램은 아주 약간의 수학적 개념을 포착한 후 이를 토대로 모든 사고를 진행한다. 이 과정에서 기계는 수학이 베푸는 다양한 표상들을 놓치게 된다. 또한 수학자는 풍부한 정보를 바탕으로 세계에 대한 모형을 배제해야 할 시점을 판단할 수 있지만, 컴퓨터는 그러한 억제력을 보이지 않는다. 

135p

우리는 스스로 진단하고, 스스로 학습 과정을 설계하고, 적절한 난이도의 과제를 파악하는 방법을 배운다. 우리는 지식의 습득을 조절한다.

280p

여기서 AI가 가질 수 없는 인간 특유 주체성의 특징으로 이어진다. 인간은 스스로 목표를 세우며 해결하고 잘못된 것이 무엇인지 파악하고 또 다른 방향을 제시하며 목표를 해결하며 멈추지 않는다.

기계학습 프로그램은 아주 약간의 수학적 개념을 포착한 후 이를 토대로 모든 사고를 진행한다. 이 과정에서 기계는 수학이 베푸는 다양한 표상들을 놓치게 된다. 또한 수학자는 풍부한 정보를 바탕으로 세계에 대한 모형을 배제해야 할 시점을 판단할 수 있지만, 컴퓨터는 그러한 억제력을 보이지 않는다. 

135p

AI가 하는 일이 정해져있고, 사람이 하는 일이 정해져 있다. 이 둘은 협력 관계가 되어 문제를 해결하는 방식으로 나아가야 한다는 의미다. AI가 계산 영역에서 사용되고, 인간이 방향을 제시하고 융합시킬 때 그 효과는 극대화된다.

저자는 개미의 협동 사례를 들면서 인간 협동의 중요성을 이야기한다. 개미는 환경에 맞춰 집단과 소통하며 자신의 역할을 바꾸면서 일을 해나가는데, AI 연구에 있어서도 다양한 모델들의 협동이 더 좋은 성능을 낸다는 것이다. "인지적 다양성의 힘은 특정 상황에 대해서 각 모델이 어마어마하게 다양한 표상을 제시할 수 있다는 점에서 온다." (303p) 우리가 세상이나 어떤 현상을 설명할 수 있는 표상이 다양할수록 도구가 많아진다는 의미이며 문제 해결의 정확도는 더욱 올라간다. 다양한 표상을 교차시키고 또 다른 생각을 낳음으로써 해결책을 낼 수 있는 것, 그것이 인간이 세상을 바라보는 방식이며 AI가 아직은 따라올 수 없는 부분이다.

최근  AI의 발전에서 우리가 진정으로 알게 된 사실은 컴퓨터가 인간의 지능을 모방했다는 것이 아니다. 인간 지능을 완벽하게 보여주는 전형으로 간주되었던 어떤 게임이 그러한 전형으로서 최상의 척도는 아니라는 사실이다.

42p

저자가 말하는 '인간다움'의 특징, 애초에 AI와 다를 수밖에 없는 인간만의 특징을 설명하는 과정에서 어떤 안도를 느낄 수도 있지만, 저자의 말에선 인간 사고 특유의 아름다움이 나타난다. 인간 사고의 가치는 컴퓨터와 같은 계산이나 정보의 나열이 아니라 정보들의 종합적인 압축을 통해 표현하는 것과 다양한 표상으로 세상을 이해하며 표출하는 그 방식에 있다는 것이다. 정보는 고립된 단편으로 존재하지 않는다. 어떤 도구를 통해 표출된다. 숫자 표상은 인간의 신체적, 정신적 한계를 벗어나지 못한다. 인공지능의 아름다움은 그 나름대로의 아름다움을 갖고 있지만, 인간다움은 그 나름대로 아름답다.

책이 전하는 시사점의 핵심은 책의 후기에 나오는 듯하다. 결국 우리가 어떤 목적을 향해 있는가, 어떤 "의식적인 선택"을 하느냐, "어떤 질문을 던지느냐"에 따라서 수학을 포함한 파생되는 기술들까지 바뀌는 것이다. 역사적으로, 사회적으로 무엇이 중요하냐에 따라서 그와 관련된 수학적 기술 혹은 표상들이 개발되었다. 기술은 혼자 발전하지 않는다. 한편 인간은 협력이라는 또 하나의 인간적 특징을 통해 다양한 상호보완적인 도구를 개발하며 문제들을 해결해 나갔다. 그러므로 저자의 결론은 다양성을 강조하는, 창발의 미덕을 강조하는 것이다. 인간의 지향점은 기계가 '이해'할 수 있는 것이 아니다. 지향점과 목표는 인간이 설정하며 그 나름대로 해결해 나가는 것이다. 세상은 기계가 풀어나가기엔 너무 복잡하고 방대하다. 세상을 정확히 표상하는 것조차 어려운 인간의 지능으로 만들어낸 지능이 과연 세상을 정확히 '풀어'나갈 수 있을까? 그저 특정 목적을 가진 또 하나의 도구로서 작용할 수밖에 없는 근본적 한계를 가진 것이 아닐까?

수학의 질문과 답은 오늘날 가장 똑똑한 기계조차 방향을 찾기에는 그 범위가 너무 방대하고 탐구해야 할 내용은 너무 깊다.

321p

이 책을 읽고 나는 GPT와 생각보다 길게 대화를 나눴다.(물론 더 많은 대화를 나눴지만 주요한 것만 캡처해 본다.) 통상적으론 AI의 한계점이 6개로 요약되는데, 나는 AI는 탄생의 근거가 유한한 '인간의 정보'임과 동시에 존재 목적 자체가 도구적이라는 한계 때문에 그 선을 넘어가면 아이러니하게도 인간에게도 더 이상 의미를 주지 못할 것이라 생각한다. 그런 의미에서 AI는 인간과 손을 잡고 함께 가는 것이고, 한편으론 인간의 수학 지능뿐 아니라 사회, 정의적 지능 또한 시험하는 결과를 낳을 것이다. 저자는 인간 탐구에는 절대적으로 정해진 궤적이 없다는 것을 근거로 인간vsAI의 관점에서 주체성을 가진 인간을 긍정한다. 인간만의 지능을 긍정할지라도 우리가 진정 두려워해야 할 것(고려해야 할 것)은 AI가 아니라 인간과 그들이 만들어내는 사회일 것이다. 그리고 만약 협력으로 아름답게 포장된 인간+AI의 모습이 AI의 강한 힘들 가진 인간과 그렇지 못한 인간을 나누는 모습 또한 인지해야 할 것이다.