인공지능과 함께하는 세상

AI 이후의 세계 - 챗GPT는 시작일 뿐이다, 세계질서 대전환에 대비하라
헨리 A. 키신저 외 지음, 김고명 옮김 / 윌북 / 2023년 5월

이제는 부정할 수 없는 인공지능 시대. 이 책은 작년에 출간이 되었다. 작년. 겨우 한 해가 지났을 뿐인데, 인공지능에 대한 이야기에서 흐름을 따라가지 못하고 있다는 느낌을 주기도 한다. 그만큼 인공지능 부분은 급속도로 발전해 왔다는 얘기다.

일년 전에 책이 나오기 위해서는 그 전부터 준비를 했을테니, 인공지능에 대한 책을 쓰면서 출판은 인공지능 이전 식으로 한다면 시대에 뒤떨어질 수밖에 없다. 이미 지난 이야기를 하고 있을 가능성이 많기 때문이다.

그 예로 이 책에는 챗지피티-3이 나온다. 지금은 3이 아니라 4, 그리고 그 이상의 버전이 나왔다고 한다. 예상할 수 없는 분야로, 대답으로 우리를 당혹스럽게 하는 것이 인공지능이라면 인공지능의 발달 역시 우리의 예측을 훨씬 뛰어넘는다.

그럼에도 이 책은 생각할거리를 제공한다. 바로 우리 인간에게 인공지능은 무엇이어야 하는가를 질문하기 때문이다. 인공지능을 어떻게 해야 하는가라는 질문과도 통하는데, 여기에는 사유가 필요하고 인류의 삶을 이끌어내는 철학이 필요하다는 저자들의 주장에 동감한다.

세계의 관계자들 또 지식인들, 정치인들이 모여서 인공지능에 어떤 한계를 정해야 하지 않을까 하는 문제제기도 생각해 볼 필요가 있다.

하지만 이윤을 최우선으로 하는 자본주의 시대에 그러한 제안은 낭만적으로(제안은 좋지만 실현 가능성은 거의 없다는 의미로) 들린다.

인공지능을 군사력에 도입하면 앞으로 어떤 사태가 벌어질지 예측할 수 없다는 말에 동의하지만, 그렇다고 세계의 정치가들이 모여 인공지능의 쓰임에 한계를 정하는, 과거 핵무기 사용에 관한 협정과 같은 협정을 맺으리라고는 생각할 수가 없다.

아직까지 인공지능은 군사 분야보다는 다른 분야에서 쓰이고 있으며, 그러한 인공지능의 사용이 인간에게 편리함과 자본가들에게는 이윤을 안겨주기 때문이다.

지금도 아마 알게 모르게 인공지능을 군사력과 결부시키는 나라들이 있을테지만, 대놓고는 하지 않고 있다고 보는데, 이제 곧 대부분의 나라 군사력에 인공지능은 결합이 될 것이다. 결합이 된 다음에 대책이 나오면 인류를 파멸로 이끌 무기를 만들어놓고 사용하지 말자는 것과 같은 말이 되는데, 이미 만들어진 것에 한계를 두자고 하면, 그 협정을 누가 깨는 순간 인류는 되돌아올 수 없는 선을 넘어서게 되니... 이것도 어찌될지 알 수 없는 일이고.

그런 만큼 이 책에서는 인공지능의 발달을 살피고, 그것이 우리 인간에게 주는 의미를 알아보고 있으며, 앞으로의 세계에서 인공지능을 어떻게 대해야 또는 이용해야 하는가에 대해서 논의하고 있다.

중요한 문제고, 인류의 생존에도 인공지능에 대한 논의는 반드시 필요하다. 하지만 어떻게 토론의 장을 만들고, 인공지능에 대한 한계를 정할 수 있을까? 아직 인공지능이 어떻게 발달할지 알 수도 없는 상황에서. 세계적으로 인공지능의 사용에 대한 협정이 맺어질 가능성이 있을까?

이 책의 저자들은 그래야 한다고 하지만, 지금 세계에서 인공지능의 개발을 몇 달(6개월이던가?) 늦추고 논의를 하자는 말도 있다고 하는데, 그럼에도 한 편에서는 계속 인공지능의 개발에 박차를 가하고 있지 않은가. 

왜냐하면 늦으면 이윤을 확보할 수 없으니까. 따라갈 수 없으니까. 그러니 인류의 생존 또는 생활이라는 목표를 놓고 토의를 하자는 제안은 공염불로 그칠 공산이 크다. 오히려 예전 핵무기 협정과 비슷하게 될지는 모르겠지만. 저자들도 이러한 협정을 맺어야 한다고 하고 있지만 말이다.

책을 읽으면서 이미 대세가 된 인공지능 시대라는 생각. 이 인공지능 시대에 우리는 어떻게 살아야 할까? 아직 오지도 않은 세상을 미리 걱정하는 우를 범하고 있는 것은 아닌지 하는 생각도 들지만 그때가 오면 늦었을테니, 미리미리 걱정하고 대책을 마련해야 한다는 생각을 한다.

적어도 인류의 삶에 대한 철학을 정립하고, 그 철학에 의해서 인공지능 시대의 방향을 정해야 하지 않을까 하는 생각을 한다. 

아무튼 인공지능은 이제 거불할 수 없게 되었다. 이것을 받아들이고 거기에서부터 시작해야 한다.

정보에 맥락이 더해질 때 지식이 된다. 그리고 지식에 소신이 더해지면 지혜가 된다. 역자적으로 볼 때 소신이 생기려면 홀로 성찰하는 시간이 필요했다. 하지만 인터넷은 이용자에게 수천, 수만, 수억 명의 의견을 쏟아부으며 혼자 있을 시간을 허락하지 않는다. 홀로 생각할 시간이 줄어들면 용기가 위축된다. 용기는 소신을 기르고 지키기 위해 꼭 필요하며 특히 새로운 길, 그래서 대체로 외로운 길을 걸을 때 중요하다. 인간은 소신과 지혜를 갖출 때만 새로운 지평을 탐색할 수 있다. - P89

AI는 비정밀하고, 역동적이고, 창발적이며, ‘학습‘이 가능하다. AI는 데이터를 소비하여 ‘학습‘하고, 데이터를 토대로 관찰하며 결론을 도출한다.

- P95

AI가 결과물을 생성하면 연구자가 됐든 평가자가 됐든 인간이 그 결과물을 당초 목표에 부합하는지 검사해야 한다. - P115

AI는 자신의 발견을 반추하지 못한다. - P116

AI는 반추하지 못하므로 그 행동의 의의를 결정하는 것은 인간의 몫이다. 따라서 인간이 AI를 규제하고 관리해야 한다.

- P116

이 글을 쓰는 현재 AI는 세 가지 차원에서 코드의 통제를 받는다. 첫째,코드에 AI가 수행할 수 있는 행동의 매개변수가 지정된다. 둘째, AI는 최적화 대상을 정의하고 지정하는 목적함수로 통제된다. 셋째, 당연한 말이지만 AI는 원래 인식하고 분석하도록 지정된 입력만 처리할 수 있다. - P122

심각한 사태가 발생하기 전에 정부, 네트워크 플랫폼 운영자, 이용자가 자신들이 추구하는 목표가 본질적으로 무엇이고, 어떤 전제와 한계 내에서 상호작용할 것이며, 어떠한 세계를 만들고자 하는지 따져야 한다. - P135

AI 무기를 설계할 때와 배치할 때 그것이 수행할 수 있는 행동의 범위를 잘 설정해서, 인간이 시스템을 관리하고 시스템이 본래 목적에서 이탈할 시 가동을 중단하거나 교정하게 해야 한다.

- P205

AI의 ‘학습‘ 능력과 ‘목표물 설정‘ 능력을 중심으로 새로운 제한 방식을 모색해야 한다.

- P212

개인과 사회가 삶의 어떤 측면을 인간지능의 몫으로 남기고 어떤 측면을 AI에게, 혹은 인간과 AI의 협업체계에 맡길지 결정해야 한다. - P225

설명이 가능할 때 의미와 목적이 생기고, 대중이 도덕원리를 인정하고 실천할 때 정의가 구현된다. 하지만 알고리즘은 제 결론을 인간의 경험에 근거하여 대중에게 설명하지 않는다.

- P227

AI 기반의 맞춤형 교육이 도입되면 인간의 평균적 능력이 향상될 가능성과 손상될 위험성이 공존한다. - P234

우리 시대의 모순은 디지털화로 인간이 이용하는 정보가 계속 늘어나지만 진중한 사색에 필요한 공간은 점점 줄어든다는 사실이다. 끊임없이 범람하는 콘텐츠 때문에 사유의 비용이 증가함에 따라 사유의 빈도는 감소한다. 자극을 원하는 인간의 욕구에 맞춰 알고리즘이 우리에게 추천하는 콘텐츠나 경험은 대체로 극적이고, 충격적이고, 감정적이다. 이런 환경에서 진지하게 생각할 공간을 찾기란 쉬운 일이 아니다. 그뿐만 아니라 현재 지배적인 커뮤니케이션 방식도 진득한 사유에 그리 도움이 안 된다. - P235

특히 AGI가 신과 같은 지능으로 세계를 이해하고 그 구조와 안에 내포된 가능성을 직감하는 초인적 존재로 여겨질 수 있다. ... AI 시대의 특성을 잘 반영하고 시대의 지침이 될 윤리체계를 확립하는 일이 무엇보다 중요하다. - P255