AI 시대, 인간은 무엇을 할 것인가

AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라
헨리 A. 키신저 외 지음, 김고명 옮김 / 윌북 / 2023년 5월

챗GPT의 등장 이후 놀라운 일이 계속되고 있다. 지금까지의 인공지능은 우리 삶에서 알게 모르게 티나지 않게 생활의 편리를 돕는 방식으로 이루어졌다. 그런데 챗GPT가 세상에 모습을 드러낸 후 사람들은 인공지능이 할 수 있는 결과물에 놀라고 있다. 인공지능이 글을 쓰고, 시를 짓고, 이야기를 만들어내고, 거짓말을 하고, 그림을 그리고, 사진을 만들어낸다. 챗GPT를 이용해 책을 낸 출판사가 있고, 챗GPT를 이용해 사진전에 공모했다가 대상을 수상했으나 챗GPT를 이용한 것임을 밝히고 상을 거절하기도 했다. 

고대 그리스까지 가지 않고, 한국의 조선 시대만 봐도 양반들은 시를 짓고 그림을 그리고 정치를 하는 등 놀고 먹고 창작하는 여가 활동을 위해 집안에 노예를 부려 귀찮은 일, 허드렛일을 처리했다. 인간이 인공지능의 쓸모로 생각한 것은 여기까지였지만, 이제 인간의 창작 활동까지 인공지능이 넘보고 있는 것이다. 사람만이 할 수 있는 일까지 인공지능이 해내고 있다. 그 현실을 목도하고 있다. 

“인공지능은 인간이 통제할 수 있는 도구다. 문제는 우리가 설정한 안전상의 제한을 누군가는 설정하지 않으리란 점이다. 이에 반응하고, 규제하고, 대처할 시간이 그리 많지 않다.”(샘 올트먼, 오픈 AI CEO)

인간이 쌓아놓은 온라인의 데이터를 스스로 학습하여 점점 더 발전된 결과물을 내놓는 인공지능을 인간이 따라잡기는 사실상 어렵다. 인공지능은 생각하지 않지만, 생각하는 인간보다 더 좋은 창작을 해낸다. 보통 수준이 아니다. 물론 인공지능이 좋은 결과물을 내놓으려면, 인공지능에게 지시하는 인간이 그만큼의 전문성과 좋은 질문을 확보하고 있어야 한다. 그래서, 인공지능은 스스로 좋은 창작물을 내놓지는 못하고, 사실상 뛰어난 인간과 협업을 통해 내놓을 수 있다. 그러나 미래는 어떻게 될지 모른다. 

“AI를 배치할 때마다 인류는 세 가지 길 중 하나를 선택할 수 있다. AI를 제한하거나, AI와 협력하거나, AI를 따르는 길이다.”

인공지능이 올바른 방향으로 발전하고 올바른 결과물을 내놓으려면, 데이터를 축적하는 인간이 올바른 데이터세트를 만들어줘야 한다. 인간이 편향성을 지닌 데이터를 축적하면 인공지능은 잘못된 결과물을 내놓게 되고, 단순히 창작의 영역이 아니라 정책 결정이나 법적 영역이 될 때에는 심각한 결과로 이어질 수 있다. 이미 여러 기사를 통해 인공지능이 잘못 판단한 경우를 많이 접했다. 흑인 얼굴에 대한 인식 데이터가 부족하거나 동물을 총기로 인식하거나 하는 등의 경우 말이다.

인공지능은 분명 우리 삶에서 많은 영역에 엄청난 영향을 미칠 것이다. 현실에 존재하는 인물이나 풍경을 그림을 그려 보존하던 시대에 사진술이 등장했을 때의 충격과 같이 말이다(이 사례는 최근 출판인회의 인사이트 포럼에서 김대식 교수가 강연 중 이야기한 내용이다). 

우리는 그동안 인류가 축적한 지식을 잘 정리하여 배우고 암기하여 머릿속에 집어넣고 이를 창의적으로 생각하는 훈련만을 해왔다. “현시대에는 인간의 정신이 데이터를 취합, 분석해서 습득하는 지식과, 관찰 및 깨달음으로 습득하는 지식을 중시한다.” 하지만 “AI시대에는 지식이라는 개념이 인간과 기계의 협력에서 나오는 결과물로 재정의된다.” 우리가 어떻게 학습하고, 생각할지, 교육은 무엇을 해야 하는지, 아니 어떻게 인간을 교육해야 하는지부터 다시 고민해야 하는 시점이다.

AI는 예측하고, 결정하고, 결론을 도출할 수 있지만 자의식은 없다. 즉, 이 세상에서 자신이 수행하는 역할을 사유하는 능력은 없다. AI는 의도도, 동기도, 양심도, 감정도 없다. 그런 것이 없어도 주어진 목표를 달성할 의외의 방법을 제법 잘 찾아낸다. 하지만 이런 AI로 인해 인간은, 그리고 인간이 사는 환경은 바뀔 수밖에 없다. 어릴 때부터 AI를 경험하거나 AI로 교육이나 훈련을 받은 사람은 무의식중에라도, AI를 의인화하며 자신과 같은 존재로 대하고 싶은 충동을 느낄 수 있다. - P63

정보에 맥락이 더해질 때 지식이 된다. 그리고 지식에 소신이 더해지면 지혜가 된다. 역사적으로 볼 때 소신이 생기려면 홀로 성찰하는 시간이 필요했다. 하지만 인터넷은 이용자에게 수천, 수만, 수억 명의 의견을 쏟아부으며 혼자 있을 시간을 허락하지 않는다. 홀로 생각할 시간이 줄어들면 용기가 위축된다. 용기는 소신을 기르고 지키기 위해 꼭 필요하며 특히 새로운 길, 그래서 대체로 외로운 길을 걸을 때 중요하다. 인간은 소신과 지혜를 갖출 때만 새로운 지평을 탐색할 수 있다.
디지털 세상에는 지혜가 생길 여유가 없다. 디지털 세상에서 중시되는 덕목은 자아성찰이 아니라 타인의 인정이다. 그래서 디지털 세상은 이성이 의식의 요체라는 계몽주의의 명제를 위협한다. 디지털 세상은 역사적으로 거리, 시간, 언어의 한계 때문에 인간의 행동에 가해진 제약을 파기하면서 ‘연결’을 의미 있는 미덕으로 내세운다. - P89

가장 어려운 문제는 기계에게 무엇을 어떻게 가르칠 것이냐다. - P97

인공지능은 인간이 통제할 수 있는 도구다. 문제는 우리가 설정한 안전상의 제한을 누군가는 설정하지 않으리란 점이다. 이에 반응하고, 규제하고, 대처할 시간이 그리 많지 않다. (샘 올트먼, 오픈 AI CEO) - P132

AI를 배치할 때마다 인류는 세 가지 길 중 하나를 선택할 수 있다. AI를 제한하거나, AI와 협력하거나, AI를 따르는 길이다. - P256