AGI, 천사인가 악마인가 - 김대식

AGI, 천사인가 악마인가 - 인간의 마지막 질문
김대식 지음 / 동아시아 / 2025년 8월

- 책의 출처: 구입

말 그대로 바야흐로 인공지능의 시대다.

업무 자체에도 활용하고는 있지만 직장의 특성상 인공지능 자체가 미래를 어떻게 바꾸게 될지에도 관심이 많을 수밖에 없다.

그러다 보니 유튜브 알고리즘의 추천으로 저자를 알게 되었고, 그의 대표작도 읽어보게 되었다.

제목 그대로 AI의 시대인 현재의 이야기를 담아내고 있다.

책의 전반부는 AI가 지금까지 발전해 온 역사를 훑고, 후반부에는 그래서 앞으로 어떻게 될지를 시뮬레이션 한다.

사실 인공지능이라는 개념 자체는 꽤나 오래되었는데, 우리가 피부에 와닿게 AI를 이용하게 된 것은 최근에 이르러서다.

개인적으로는 스마트폰도 굉장히 늦게 쓰기 시작한지라 생성형 AI 역시 직장 선배가 제발 좀 써보라고 권유하는 바람에 써보게 되었다.

하지만 지금도 인공지능에게 무언가를 맡기는 것에 심리적으로 저항감이 꽤 있는 편이다.

제시한 문제를 '진짜로' 인식한 후 고민해서 대답을 토해내는지에 대한 확신이 잘 없기 때문이다.

게다가 그 대답이라는 것을 믿고 무턱대고 업무 결과물에 반영할 만큼 신뢰성이 높지도 않다.

그러나 개인적인 사용감과는 별개로 인공지능이 그야말로 미친 속도로 발전하고 있다는 사실을 부정할 수는 없다.

업무적으로도 예전에는 포토샵이나 일러스트 좀 다룬다는 직원에게 부탁했어야 할 일을 혼자 15분 만에 뚝딱해 낸 적도 있었으니 앞으로는 얼마나 많은 일을 해줄 수 있을지 감히 상상도 되지 않는다.

하지만 중요한 것은 이러한 일이 어떻게 가능한가에 대한 이해가 아무에게도 없는 것 같다는 점이 늘 막연한 불안감을 느끼게 하는 것 같다.

문제는 이 하나하나의 계산으로는 문제가 해결 안 되고, 어마어마한 트랜스포머를 연결해야 하다 보니 너무 커져서 전체적인 이해가 한눈에 안 된다는 점입니다.

결과적으로 LLM은 이제 거의 블랙박스가 됐습니다.

안에서 무슨 일이 벌어지는지 우리는 모르게 된 것입니다.

(pg 74)

또한 결국 AI가 많은 직업을 대체할 것이라는 전망 역시 불 보듯 뻔한 일이 될 것이다.

아이를 키우는 부모 입장에서는 그래서 우리 아이가 자라서 사회에 나갔을 때 과연 먹고살 수는 있을 것인가가 가장 궁금할 것 같다.

저자는 지금 당장은 판단력을 좋은 인간이라면 할 일이 있을 것이라 말한다.

그래서 최근 나오고 있는 제안은, 앞으로 개발자, 디자이너, 기획자가

하나의 직업이 될 거라는 겁니다.

지금은 이 일들이 분리되어 기획자, 개발자, 디자이너가 따로 있는데,

앞으로는 한 사람이 세 가지 역할을 동시에 하게 될 거라는 것이지요.

그러면 가장 중요한 능력은 특정 기술이 아니라 "이게 좋다" 하고

판단할 수 있는 감각과 안목입니다.

판단력이 제일 중요하고, 나머지는 기술로 해결할 수 있습니다.

(pg 81)

하지만 이 책의 주제인 AGI가 가능해지면 결국에는 인간이 할 수 있는 대부분의 일을 인공지능이 비교할 수 없을 정도로 잘 하게 될 것이다.

저자가 점쟁이는 아니니 미래가 어떻게 될지를 예측할 수는 없지만, 유토피아일지 디스토피아일지 정도는 논의해 볼 수 있을 것 같다.

저자는 유토피아가 올 것이라면 걱정할 필요가 없지만, 디스토피아가 올 수도 있다면 반드시 '지금' 고민하고 걱정할 필요가 있다고 강력하게 주장한다.

결과적으로 AGI의 문제는 이제 어떤 의미에서 기하학적 문제로 바뀌어 버렸습니다.

현재 많은 연구자들이 노력하는 건, 기계가 만들어 낸 삶의 방식이

우리가 원하는 것과 충돌하지 않도록 하는 겁니다.

문제는 우리 인간도 우리가 뭘 원하는지 잘 모른다는 점입니다.

(pg 223)

특히 유튜브 영상에서도 몇 번 말했던 것 같은데, 샌드위치에 들어가는 고기조차도 나라에서 엄격하게 품질 관리를 하는데 막상 우리 삶을 송두리째 바꿀 수 있는 AGI 연구는 아무런 관리나 제재를 받지 않고 있다는 사실을 지적한다.

그렇기 때문에 현재에는 AI의 발전이 사기업 주도로 이루어지고 있지만 AGI 수준이 되면 국가에서 관리할 필요가 있다고 말한다.

한 발 나아가, 스스로도 과학자이면서도 ASI까지는 만들지 말아야 한다고까지 말하고 있다.

저는 미래를 예측할 때 세 가지를 보는 게 중요하다고 생각합니다.

첫 번째, 세상이 망하기 전까지 기술은 계속 발전합니다.

두 번째, 사회, 정치, 역사에는 약간의 반복성이 있습니다.

세 번째, 인간은 변하지 않습니다.

(pg 141)

애초에 대중적인 시각에서 집필한 책이지라 굉장히 쉽게 읽힌다.

그러면서도 인공지능의 발전사와 앞으로의 전망까지 알차게 담아내서 순식간에 읽었지만 머릿속에 남는 것도 많았던 것 같다.

아이를 키우는 입장이기도 하고, 아직 젊은 편이라 은퇴가 멀기도 하기 때문에 개인적으로도 기대보다는 걱정이 더 되는 건 사실이다.

그렇기 때문에 지금 당장 전 세계적으로 일어나고 있는 변화의 흐름을 알고 싶다는 욕구도 커지는 것 같다.

비슷한 욕구와 걱정을 안고 있는 사람이라면 그 갈증을 제대로 해결해 줄 수 있을 좋은 책이었다.