[마이리뷰] AGI, 천사인가 악마인가

[전자책] AGI, 천사인가 악마인가 - 인간의 마지막 질문
김대식 지음 / 동아시아 / 2025년 8월

언젠가는 AGI에 대해서 책을 써야겠다는 생각을 훨씬 오래전, 가령 챗GPT가 처음 공개됐을 때 막연하게나마 했을 수도 있으니까요.

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P42

그보다 문맥적으로 얼마나 비슷한 단어인지에 집중해야 한다는 것입니다.
이 방법을 집중 스코어attention score라고 부릅니다.

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P45

여러 가지 계산 방법이 있고, 이를 제대로 표현하기 시작한 게 트랜스포머 알고리즘Transformer Algorithm입니다. 아마 챗GPT가 등장하고, 생성형 AI에 관심을 가지고 알아본 사람이라면 익숙한 단어일 겁니다. 트랜스포머는 챗GPT의 핵심입니다.

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P45

하지만 중요한 건 이렇게 언어를 학습하기 위해서는 정말 많은 예제, 데이터를 필요로 한다는 것입니다. 예를 들어, 한 작가의 문장만 학습시키면 그 작가의 스타일만 배우게 되니까 보편적인 언어 사용 패턴을 학습하지 못하겠지요. 우리가 원하는 건 보편적이고 범용적인 언어의 규칙입니다

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P46

단백질 구조를 학습해서 예측할 수도 있습니다. 그런데 더 중요한 건 조합 학습이 가능하다는 것입니다. 예를 들어 글과 그림을 동시에 학습시켰더니, 우리 인간은 그런 게 있는지도 몰랐는데, 글과 그림의 교집합 문법이 있다는 걸 알게 됐습니다. 우리는 그런 걸 한 번도 생각해 본 적 없었습니다

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P50

마찬가지로, DNA 구조와 단백질 구조를 동시에 학습시켰더니, DNA 구조를 입력하면 거기에 적합한 단백질 구조를 예측해 줍니다. 그래서 현재 제약회사와 신소재 회사들이 여기에 굉장히 관심이 많습니다

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P50

신약 개발은 정말 어려운 일입니다. 기존에 새로운 약을 만들려면 수년에서 길게는 수십 년 동안 실험하고, 분자 구조를 조사하고, 그렇게 1조 원 이상의 비용이 드는 일도 흔했습니다. 그렇게 해도 성공 확률이 낮았지요. 그래서 새로운 약이라는 게 쉽게 나오지 않았습니다. 그런데 AI를 사용해서 우리가 원하는 조건만 입력하면 가능성 있는 분자 구조를 예측해줍니다.

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P50

최근에는 어쩌면 우리 인간이 이미 알고 있는 것들이 생각보다 더 많을지도 모른다는 생각이 들기 시작하고 있습니다.

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P51

[마이리뷰] AGI, 천사인가 악마인가

[전자책] AGI, 천사인가 악마인가 - 인간의 마지막 질문
김대식 지음 / 동아시아 / 2025년 8월

사용한 방법 자체는 과거와 똑같은 방법이었는데 어떻게 성공했을까요? 세 가지 차이가 있었습니다. 첫 번째는 당연히 알고리즘이 개선된 것입니다. 두 번째로, 컴퓨터가 더 빨라졌지요. 그런데 가장 중요한 차이점은 세 번째, 1990년대에 인터넷이 등장하면서 상상을 초월할 만큼 데이터가 많아졌다는 것이었습니다.

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P21

지금은 이걸 스케일링scaling의 문제라고 이해하고 있습니다. 이를 통해 우리가 깨달은 건, 신기하게 알고리즘을 크게 개선하지 않은 상태에서도 더 많은 데이터를 학습시키거나 모델을 더 키우면, 풀리지 않았던 문제가 거의 자동으로 풀리기 시작한다는 것입니다.

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P22

그런데 우리 인간은 그 문제를 풀었습니다. 어떻게 풀었냐면, 바로 학습을 통해서였습니다. 그래서 이제 인간의 뇌를 모방한 인공지능이 등장하기 시작했습니다.

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P23

특히 퍼셉트론을 만들 때 가장 중요한 건 신경세포와 신경세포 사이의 연결고리, 즉 시냅스synapse라고 부르는 이 연결고리의 값을 찾는 것입니다. 그 값이 우리가 찾아야 하는 정답입니다.

-알라딘 eBook <AGI, 천사인가 악마인가> (김대식 지음) 중에서 - P28

[마이리뷰] 시대예보: 경량문명의 탄생

[전자책] 시대예보: 경량문명의 탄생 ㅣ 송길영 시대예보 3
송길영 지음 / 교보문고(단행본) / 2025년 9월

새로운 문명은 모든 이가 스스로 판단하고 스스로 점검하는 모드로 변화합니다. 이 문명에서 일하지 않고 관리하거나 지원하는 사람은 그 존재의 이유를 설명하기 어려워집니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P63

좀 더 깊게 생각해본다면, 일은 기계가 하고 각 담당자가 이전의 결재자나 점검자의 역할을 맡는 것이라고 볼 수 있습니다. 에이전트들의 에이전트까지 나오게 된다면, 인간 관리자라는 직업은 한때 인류사에 존재했던 직업으로 불리게 될지 모릅니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P63

여기서 가장 큰 교훈은 누군가가 가치를 만들어나간다면, 그리고 그 가치가 큰 규모로 성장한다면 곧 그 자리에 또 다른 이가 도전해온다는 것입니다. 그리고 도전자가 AI 기반으로 운영의 경비가 현저히 적은 시스템이라면 부가가치는 급속히 와해된다는 사실을 다시 한번 확인할 수 있습니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P72

경량문명에서는 담당자들이 업무의 중심으로 올라서며, 자신의 일을 스스로 하는 태도가 모든 직장인의 덕목으로 자리 잡을 것입니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P78

세상의 규칙과 시스템이 기존의 직업을 갖도록 돕는 것이 아니라, 스스로 자신의 업을 만들어나가도록 돕는 것이 경량문명 세상의 가장 큰 변화입니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P83

만남의 목적이 가족이 되는 것이 아니라 정서적 유대감을 가지는 성긴 만남, 혹은 긴밀한 관계로 다양해지면서 ‘가족-직장동료-친구’로 단출하게 구성되었던 사회적 관계망이 ‘가족-연인-직장동료-친구-동호인-지인’과 같은 다양성으로 분화합니다

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P103

자신의 삶을 살아가는 핵개인들에게 다른 종의 동반자를 찾는 일도 급속히 증가하고 있습니다. 애완에서 반려로 이름이 바뀐 강아지와 고양이는 이제 소중한 가족의 일원으로 불리고 있습니다

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P103

[마이리뷰] 시대예보: 경량문명의 탄생

[전자책] 시대예보: 경량문명의 탄생 ㅣ 송길영 시대예보 3
송길영 지음 / 교보문고(단행본) / 2025년 9월

이제는 ‘하기 힘든 일’과 ‘할 수 없는 일’을 잘 고민하고 찾는 이들에게 더 많은 기회가 오는 시대가 열리고 있습니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P46

앞에서 설명한 두 가지 지능의 근원적 차이는 부지런한 지능은 행위를 병렬화해 시간을 단축하고, 초월적 지능은 무수한 데이터 속 패턴을 찾아 우리가 모르던 깨달음을 전한다는 것입니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P46

AI에 일을 ‘시키는’ 것이 아니라 ‘나눈다’는 점이 중요합니다. AI와 일을 현명하게 나누려면 오랜 기간 천천히 똑똑해진 인류의 입장이 아닌, 실시간으로 진화하는 지능에 적응해야 함은 물론입니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P47

이러한 시스템은 태스크포스팀Task Force Team의 개념을 완전히 상시화하게 만들어, 물리적 사무실, 회의실, 프로젝트 관리자 없이도 진행되는 ‘자율 실행형 업무 프로젝트 시스템’으로까지 나아갈 것입니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P56

같은 조직을 구성하고 있는 사이 좋은 소수의 사람들이 눈과 몸으로 이야기하며 서로 돕는 것이 아니라, 한 번도 본 적 없는 수많은 이들이 일정한 규칙과 미리 정의된 행동 양식으로 서로가 잘 때에도 협력하는 거대한 하이브를 만들어낸 것입니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P56

기계와 함께 문제를 풀어가는 이 시대에는 잘 정의된 태스크task가 새로운 협업의 중심이 됩니다. 시대는 무거운 조직에서 벗어나, 가벼운 연결을 향해 진화하고 있습니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P57

그보다 에이전트의 도움으로 고객이 직접 업무를 처리할 수 있는 체계를 갖추는 것을 더욱 고민하기 시작했습니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P60

[마이리뷰] 시대예보: 경량문명의 탄생

[전자책] 시대예보: 경량문명의 탄생 ㅣ 송길영 시대예보 3
송길영 지음 / 교보문고(단행본) / 2025년 9월

많은 인력을 고용할 수도, 관리할 수도 없는 기업들의 활로는 근본을 쇄신하는 지능화와 자동화밖에 없을 수도 있습니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P38

대마불사가 아닌 대마필사, ‘거대하면 죽는다’는 새로운 전제 위에 수십 년을 돌아보는 반성과 경량화 전환을 위한 뼈를 깎는 숙고가 수많은 중량기업에 필요한 시점입니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P38

이 책에서는 앞에서 설명한 ‘하기 힘든 일’을 도와주는 것을 ‘부지런한 지능’으로, ‘할 수 없는 일’을 도와주는 것은 ‘거대한 지능’으로 정의합니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P40

그리고 누군가의 업무를 상세히 정의할 수 있고 그 행위가 충분히 인공지능 시스템에 의해 수행될 수 있다면, 직업적 범주에서 일반지능이 성취된 것으로 간주합니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P41

‘인간이 할 수 없는 일’에 대한 도전입니다. 바로 ‘거대한 지능’의 활용입니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P43

대부분의 기업에 필요한 것은 ‘부지런한 지능’이지만, 더 큰 꿈을 지닌 이들이라면 ‘거대한 지능’을 알고 그 힘에 접근하는 일에 관심을 가져야 합니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P45

구글의 데미스 허사비스와 같이 직접 ‘거대한 지능’을 개발하는 일을 모두가 꼭 해내야 하는 것은 아닙니다. ‘거대한 지능’을 고객으로서 이용하고, 또 ‘거대한 지능’과 협력하는 것으로 혁신을 꾀할 수 있습니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P45

중요한 것은 개인의 삶에서든 기업의 운영에서든 각자가 처한 문제를 잘 정의하고 그것을 가장 효과적으로 해결할 수 있는 지능적 수단을 찾는 일입니다.

-알라딘 eBook <시대예보: 경량문명의 탄생> (송길영 지음) 중에서 - P45