인공지능이라는 바벨탑

AGI, 천사인가 악마인가 - 인간의 마지막 질문
김대식 지음 / 동아시아 / 2025년 8월

이 책을 읽으면서 개인적으로 예전에 읽었던 조지 오웰의《1984》에 나왔던 문장이 생각났다.

‘과거를 지배하는 자는 미래를 지배하며, 현재를 지배하는 자는 과거를 지배한다‘

아마도 본문에 나왔던 내용 중에 이 문장이 기가 막히게 적용되는 것이 있었기에 몇 년전에 읽었음에도 생각이 났던 것 같다.

비록 오래 전의 아날로그 방식은 조작이 힘들지만 이제는 대세가 된 디지털 방식으로 된 수많은 데이터들을 AI를 활용하여 조작할 경우 앞으로의 미래를 행위자의 입맛에 맞게 얼마든지 만들어나갈 수 있다. 또한 현재 권력을 가진 지배자들이 자신들이 가진 권력을 활용하여 과거의 데이터들을 왜곡하고 조작한다면 얼마든지 권력자들의 입맛에 맞게 과거도 지배할 수 있게 된다. 이로써 과거와 현재, 미래를 하나로 통합하여 지배할 수 있게 되는 것이다. 물론 여기서 권력을 가진 극소수의 사람들은 좋겠지만 나머지 대다수는 자신의 의지와는 관계없이 피지배되는 상황에 놓이기에 결코 바람직하다고 느낄 수 없을 것이다. 이런 것들을 생각해보면 인공지능의 발전이 마냥 장점만 있다고 보기는 힘들 듯하다. 결국 모든 것에는 일장일단이 있기 마련이다.


책의 전반부에서 저자는 인공지능의 발전사를 쭉 언급한다. 이를 통해 인공지능이 어느날 갑자기 하늘에서 뚝 떨어진 것이 아니라 수많은 시행착오와 기술의 발전에 힘입어 비교적 최근에서야 그 빛을 보게 되었다고 말한다. 그동안에는 현실적인 기술의 한계로 인해 상상으로만 가능했던 것들이 가능해졌다는 것이다.

책의 후반부에서는 최근 인공지능의 발전 속도가 기하급수적으로 급격히 빨라지고 있는 상황을 언급함과 동시에 인공지능이 인간을 뛰어넘어설 수도 있다는 우려를 나타낸다. 앞서 위에서 언급한 것과 비슷한 맥락으로 기술의 발전이 마냥 장밋빛 미래만을 가져오지는 않을 수도 있으니 이러한 위험에 대비해야 한다는 것이다.

독자인 나는 이 후반부를 읽으면서 문득 성경에 나오는 바벨탑 사건이 생각났다. 성경에는 바벨탑을 지어 절대자인 하나님에게 닿으려는 시도를 하다가 하나님이 진노하여 그들의 언어를 교란시켜 더이상 바벨탑을 쌓아올리지 못하게 하는 이야기가 나온다.

AI가 인간의 뇌에 점점 가까워지다가 어느 순간 인간을 뛰어넘어서는 특정 시점이 되면 성경에 나오는 바벨탑처럼 AI를 개발하여 유토피아를 꿈꾸던 인간의 시도는 실패로 끝나고 오히려 AI에게 지배를 받거나 아예 멸종하는 등의 방식으로 인간이라는 종種자체가 아예 와르르 무너져 버리는 순간이 오지 않을까 하는 막연한 상상도 해볼 수 있었다. (지극히 주관적인 상상이긴 하나 상상만으로도 끔찍하기에, 어느 적당한 시점에는 인간과 인공지능이 적정한 선에서 공존할 수 있는 상황이 조성되어야겠다는 생각이 든다.)


또한 최근들어 과거 전세계에 막대한 영향력을 미쳤던 메이저 종교들에 속한 신의 권위가 약해지고 무신론자들이 많아지는 게 현실이지만, 아이러니하게도 최근에는 인공지능이라는 새로운 신(일종의 우상)이 등장한 것 같다는 느낌도 받았다. 신의 존재를 부정하는 대다수의 무신론자들인 과학자들이 오히려 실은 자기도 모르는 사이에 인공지능이라는 최첨단 신을 만들고 있는 건 아닌가 하는 의문도 문득 들었다. (심지어 이 책의 저자도 AI에게 미리 엎드려 절을 하는 사진을 만들어 달라고 부탁하며 AI가 인간을 지배하는 세상이 왔을 때를 미리 대비하려는 것 같은 스탠스를 취할 정도니 뭐 말 다했다.)

이렇듯 불완전한 인간이 절대자로 여기는 신과 같은 존재를 자꾸 만들어내는 걸 보면 혹시 인간의 DNA에 신을 만들어내는 유전자 같은 게 들어있는 건 아닌가 하는 생각도 든다. 마치 패션이 돌고돌아 유행하는 것처럼 오래된 신을 버리고 따끈따끈한 최신 신상품인 인공지능(AI)이라는 새로운 신을 만들고 있는 건지도 모르겠다.


이 책의 본문에서 저자는 인공지능이 고도로 발달하여 인간의 뇌보다 더 뛰어난 성능을 발휘하게 될 경우 인공지능이 그들을 만든 인간을 지배할 수도 있음을 지속적으로 언급하고 있다. 이러한 사태를 예방하기 위해 전세계적인 통제와 관리가 필요함을 역설하는데, 여러가지 이해관계들로 인해 이게 말처럼 쉬워보이지는 않는다.

다가올 미래는 그 누구도 정확히 알 수 없다. 다만 현시점에서 인공지능이 우리 인간의 삶에 지대한 영향을 미칠 것은 분야를 막론하고 분명해보인다. 인류가 인공지능과 공존할 수 있는 적절한 균형점을 잘 찾아봐야 할 것이다. 과유불급이라는 사자성어가 문득 떠오른다.

지난번 포스팅의 마지막 부분에서 나이가 들수록 시간이...

지난번 포스팅의 마지막 부분에서 나이가 들수록 시간이 빠르게 흘러간다고 느끼는 이유가 신경세포의 속도가 어릴 때보다 상대적으로 떨어지기 때문이라는 얘기를 했었다. 어릴 때는 신경세포의 속도가 빠르기 때문에 똑같은 시간동안 처리하는 정보의 양이 많았지만 나이가 들면 들수록 신경세포의 속도가 점점 줄어들어서 처리하는 정보의 양이 감소한다고 한다.

오늘은 이러한 현상을 극복할 수 있는 현실적인 대안에 대해 살펴보면서 시작한다. 다만, 이 부분을 읽으면서 개인적으로 드는 생각은 어릴 때, 머리가 잘 돌아갈 때 공부를 많이 해놓는 게 효율성 측면에서 가장 좋다는 것이었다. 투입시간 대비 얻어갈 수 있는 결과물이 가장 클 것이기 때문이다.

물론 어린 시절이 다 지났다고 해서 신세를 한탄하며 아무것도 하지 않은채 넋놓고 있기보다는 오늘 지금 이순간 앞으로의 인생에서 가장 젊은 이 때에 내가 할 수 있는 것에 집중하는 게 현실적으로 가장 바람직한 선택이지 않나 싶다. 과거로 돌아갈 수 없는 비가역적인 인생의 특성상 최선이 불가능하다면 차선으로라도 살아가야하지 않겠나 싶다.

다만 감사하게도 최근 급속도로 성장하고 있는 AI를 잘 활용한다면 그간 최선이지 못했던 상황을 조금이나마 반전시킬 수도 있겠다는 희망이 보이기도 했다. 지금은 말 그대로 4차 산업혁명이 진행중인 시기인데, 이것은 누군가에겐 위기일수도 있겠으나 다른 누군가에겐 새로운 기회가 될 수도 있기 때문이다. 기회는 날이면 날마다 오는 것이 아니다. 평소에 잘 준비하고 있다가 왔을 때 그 즉시 낚아챌 수 있어야 할 것이다.


이후에 뒤이어지는 내용들을 읽다보니 AI 기술이 급속도로 발전하다가 AI가 인간의 뇌보다 더 발달하게 될 경우 발생할 수 있는 문제들에 대한 얘기들을 만나볼 수 있었다. 독자인 나는 이 부분을 읽으면서 AI에 대한 지나친 맹신은 자칫 인류 멸망의 길로 가는 지름길이 될 수도 있겠다는 생각이 들었다. AI가 가져다주는 편리함을 잘 활용하되 이것이 우리의 생존을 위협하는 상황에 까지는 이르지 않도록 하는 것이 굉장히 중요하다는 생각이 든다. 이에 관해 저자는 세계의 강대국들이 이 선을 과연 넘지않고 지킬 수 있을지에 대해 의문을 품는데, 욕심도 지나치면 미치지 못함과도 같다는 과유불급이라는 사자성어처럼 강대국들간의 균형을 유지할 수 있는 지혜가 필요하다고 본다.

카페인을 마시면 신경세포 속도가 살짝 빨라집니다. 집중이 된다는 건 샘플링 속도가 올라가기 때문입니다. - P-1

집중하는 순간 신경세포 속도는 빨라지고, 그때 한 경험이 오래 기억에 남습니다. - P-1

우리가 경험을 편집하는 것이 인생을 가치 있게, 기억에 오래 남을 수 있게 살아가는 방법이 될 수 있습니다. - P-1

매 순간에 다 집중할 수 없다면, 어차피 사라질, 의미 없는 기억이 아니라 중요한 순간에만 집중을 하는 겁니다. - P-1

내 인생에서 중요하다고 싶은 순간에 집중하면 몇 년 후에 더 인상적으로 기억에 남을 수 있습니다. - P-1

결국 기억은 스프링과 같다고 볼 수 있습니다. 늘였다 줄였다 할 수 있다는 뜻이지요. 나한테 중요한 기억은 오래 남을 수 있도록 집중하고, 좌절감이나 슬픔과 연관된 기억은 신경쓰이지 않도록 압축하는 겁니다. 이게 편집입니다. - P-1

문제는, 실패하거나 화날 때 집착하고 집중하면, 실패에 대한 기억이 훨씬 더 길게 남는다는 겁니다. - P-1

그 순간에 집착하지 않으면 얼마 지나지 않아 기억이 다 사라지는데, 너무 화나서 "왜 내가 거기서 그 얘기를 안했지? 왜 답을 그렇게 썼지?" 자꾸 집착하고 질문하다 보니까 안 좋은 기억이 더 오래 남게 됩니다. 그런 집착을 버리는 것이 명상입니다. 놀랍게도 뇌과학적으로 근거가 있는 얘기이기도 하다는 것이지요. - P-1

결국 핵심은 뭐냐면, 인공지능은 세상을 어린 아이보다 몇 억 배 더 자주 볼 수 있다는 것입니다. 이는 AGI가 세상을 항상 슈퍼 슬로모션으로 경험할 수 있다는 얘기입니다. 즉, 우리 인간에게 있어서 1초라는 시간은 AI 입장에서는 100년이나 다름없습니다. 그 정도로 농밀하게 시간을 인식하고 활용할 수 있다는 얘기입니다. - P-1

결과적으로 인간과 인공지능의 대결에서 인간이 질 수밖에 없는 것은, 인공지능이 경험의 시간이 더 많기 때문입니다. 물리적 시간이 똑같다고 해서 경험이 똑같을 수는 없습니다. 결국 인간과 인공지능의 대결이라고 하는 것은 처음부터 전혀 다른 끗발이 다른 패를 들고 시작하는 불공평한 카드 게임과 마찬가지입니다. 같은 시간을 살아가더라도 인공지능이 활용할 수 있는 시간 자원의 가치는 인간의 그것보다 이루 헤아릴 수 없이 높습니다. - P-1

인공지능이 찾아낸 방식이 인간이 원하는 삶과 평행하면, 이걸 얼라인Align한다고 합니다. - P-1

기술은 진공상태에서 만들어지는 게 아닙니다. 사회라는 현실 속에서 만들어지는 것입니다. - P-1

"너는 전쟁에 관심 없어도, 전쟁은 너한테 관심이 많다." _레프 트로츠키Leon Trotsky - P-1

설령 우리가 인공지능에 관심 없다고 해도, 인공지능은 우리에게 관심이 많습니다. - P-1

"연민을 포기하는 순간 인류는 야만이 된다." _한나 아렌트 - P-1

세계화 시대에 어떤 일이 벌어졌냐 하면, 글로벌하게 살아남을 수 있는 사람들 ‘애니웨어 피플Anywhere People‘과, 고향에서만 살아갈 수 있는 ‘섬웨어 피플Somewhere People‘로 인간이 두 부류로 나뉘었습니다. 비율은 어땠을까요? 80:20 이었습니다. 80%가 섬웨어 피플입니다. - P-1

지금 벌어지고 있고 앞으로 벌어질 일은 과거의 재방송이라고 _애덤 투즈《붕괴》 - P-1

역사는 정확히 반복되지 않습니다. 하지만 우리가 역사를 참고할 수는 있습니다. - P-1

정글의 법칙의 대원칙은 맹수끼리는 싸우지 않는다는 것입니다. 가장 먼저 약한 동물을 잡아먹습니다. - P-1

제국주의를 관통하는 핵심은 힘의 논리입니다. 이데올로기는 상관없습니다. 공산주의, 자본주의, 민주주의 , 왕정을 불문하고 힘이 센 국가들이 모여서 전 세계를 나눠 가집니다. 놀랍게도, 우리는 21세기에 인공지능을 만들면서 19세기 제국주의로 다시 회귀하고 있는 것은 아닐까요? - P-1

"과거 세상은 지금 사라지고 있고, 새로운 세상은 아직 형태를 보이지 않는다. 이럴 때 항상 괴물이 등장한다." _안토니오 그람시(이탈리아 사상가) - P-1

괴물이 나타나더라도 언젠가는 사라집니다. - P-1

어차피 야만의 시대는 지나간다 - P-1

버티니까 다시 일어설 때가 오기는 왔습니다. - P-1

우리의 앞길이 천국 아니면 지옥으로의 두 갈래 길이 아니라, 미래에 천국과 지옥이 공존할 수도 있다 - P-1

만약 우리가 아무 준비도 하지 않은 채 디스토피아를 맞이하게 되면 그 대가는 쓰디쓸 겁니다. - P-1

운전할 때 사고가 일어나길 바라면서 안전벨트를 매는 사람은 아무도 없습니다. 안전벨트를 매지 않은 채로 사고가 나면 피해가 크니까, 불편함을 감수하고 매는 것이지요. - P-1

위험은 대비해야 하는 대상입니다. - P-1

우리는 AGI를 개발하기 전에 AGI와 공생할 준비를 갖춰야 할지도 모릅니다. - P-1

"인공지능과 인간의 미래는 공생 관계여야 한다." _최재천 - P-1

누가 이기고 지는 구도가 아니라, 함께 살아갈 길을 찾아야 한다 - P-1

공생이라는 장기적 생존 전략은 AI를 존중하지 않으면 불가능합니다. - P-1

역사적으로 약한 존재가 강한 존재를 통제한 적은 없었습니다. 예외는 두 가지입니다. 첫째, 주인-노예 관계. 둘째, 부모-자식 관계. - P-1

공생의 길을 찾는 게 가장 큰 숙제입니다. - P-1

20세기 미ㆍ소 대립의 핵심이 핵무기였다면, 21세기 미ㆍ중 대립의 핵심은 AGI입니다. - P-1

만약 인간이 인공지능 때문에 멸망한다면, 이 역사적 우연 (세계화 붕괴와 인공지능 브레이크스루의 동시성)이 가장 불행한 원인으로 꼽히리라 확신합니다. 하지만 이건 우리가 바꿀 수 없는 현실입니다. - P-1

AGI는 모든 문제를 풀 수 있지만, ASI는 인간 지능을 기하급수적으로 초월하는 존재입니다. - P-1

지구 역사에서 더 똑똑한 존재가 덜 똑똑한 존재에게 지배당한 적은 없습니다. 지금 인간이 지구의 주인인 건 인간이 가장 똑똑하기 때문입니다. - P-1

공생이 가능하다면 그게 제일 현명한 길일 겁니다. 인공지능을 노예가 아닌 파트너로 대하고, 상호 존중할 수 있도록 미리 설계해야 합니다. 어쩌면 그것이야말로 우리가 ASI시대에서 살아남을 수 있는 유일한 길일지도 모릅니다. - P-1

지난번 포스팅의 마지막 부분에서 욕망과 능력에 대한 ...

지난번 포스팅의 마지막 부분에서 욕망과 능력에 대한 얘기를 했었다. 여기서의 핵심은 욕망과 능력의 불균형에서 불행이 시작된다는 말이었다. 만약 자신의 능력보다 더 욕망하는 사람은 절대로 만족이라는 것을 할 수 없기에 항상 불행할 수밖에 없을 것이다. 반대로 자신의 능력 범위 안에서 욕망하는 사람은 자신이 욕망하는 것을 얼마든지 성취할 수 있기에 늘 자유로울 수 있고 언제나 행복할 것이다.

또한 저자는 만약 어떤 것을 더 원한다면 무작정 욕망만 할 것이 아니라 자기 능력을 먼저 키우고 난 뒤에 욕망할 것을 독자들에게 권한다. 오늘 처음 밑줄친 문장이 이러한 것을 잘 말해주는 듯하다.

돈을 좇는다는 건 능력보다 욕망을 앞세운 것이다. 그러니 고통스럽다. 돈이 나를 따라오게 만들어야 한다. 바로 능력을 먼저 키우는 것이다. 능력을 키우면 돈은 저절로 따라온다. 욕망하지 않았던 돈까지 따라온다. - P107

남들이 던지는 욕망에 휘둘리지 않는 것도 능력이다. - P107

욕망 앞에 능력을, 개념 앞에 직관을! - P107

인간이 느낄 수 있는 쾌락은 반드시 고통을 수반한다. - P109

우리의 뇌는 쾌락과 고통을 같은 곳에서 처리한다 _《도파미네이션》의 저자 애나 렘키 - P109

쾌락과 고통은 저울 양 끝에 놓인 추와 같은데, 평행을 유지하려는 성향이 강해서 한쪽으로 기울어지면 반드시 반대쪽에서 올라오려는 힘이 강해진다는 것이다. 즉, 우리 몸은 균형을 맞추려 노력하기 때문에 고통이 찾아오면 그것을 견디려는 반대 성향의 호르몬을 분비하고, 그때 인간은 쾌락을 느낀다. - P109

인간은 고통을 거쳐서 쾌락을 느낀다. 이런 쾌락이 좋은 쾌락이다. 고통 속에 아이디어를 도출하고, 두려움의 고통 속에 창업을 시작해 매출을 일으키고, 밤을 새워 일하는 고통을 거쳐 무언가를 이뤄냈을 때 바람직한 쾌락을 느낄 수 있다. - P109

"사람이 고통에 굴하는 것은 수치가 아니다. 쾌락에 굴하는 것이 수치다" _블레즈 파스칼『팡세』 - P109

그 순간은 내가 성장하는 순간이고, 깨어나는 순간이고, 위대해지는 순간이니 부끄러워할 필요가 없다는 말이다. 오히려 자랑스러워해야 하는 것이다. - P109

고통에 굴한다는 것은 포기하고 도망간다는 말이 아니다. 너무 고통스러운 순간에 잠시 주저앉아 숨을 고르고 다시 도전한다는 말이다. 고통에 굴해서 도망가는 것이 수치 중에 수치다. - P110

"인간은 파괴될 수 있지만 패배하지는 않는 거야."
_『노인과 바다』 - P110

패배(敗北)라는 단어를 사전에서 찾아보면 ‘싸움에 져서 도망함‘이라고 나온다. ‘패‘는 할 수 있다. ‘패‘는 얼마든지 해도 된다. 오히려 인간은 ‘패‘를 통해 배우고 성장한다. 하지만 ‘배‘는 하면 안 된다. ‘배(北)는 사람이 등지고 있는 형상을 따왔다. 져서 등을 돌리고 달아난다는 뜻이다. 이게 가장 안 좋은 상태다. 고통에 잠시 주저앉아 숨을 고르는 것은 창피한 일이 아니다. 그런데 고통을 못 이겨 달아나는 사람은 최악의 패배자다. - P110

인생의 해답은 역시 고통 속에 있다. 모든 문제는 고통을 피하려 들기 때문에 생긴다. 고통, 시련, 역경이라는 말의 어감을 무서워 하지마라. 우리를 행복으로 데려다줄 비밀의 열쇠다. - P111

고통을 피하지 말고 정면으로 껴안자. 작정하고 부딪치자. 조금만 견뎌보라. 어디서도 느낄 수 없었던 맛있는 쾌락을 느끼리라. - P111

"자신을 구하는 유일한 길은 남을 구하려고 애쓰는 것이다."
_니코스 카잔차키스 - P112

내 삶을 완성하기 위해서 남을 위해 살라 - P112

모든 존재는 자신 외 다른 존재에게 이롭기 위해 창조됐다. - P113

누구에게나 남을 돕고자 하는 본성이 있다. 이런 마음을 잘 이용하면 자기 안에 잠들어 있는 창의적인 아이디어를 밖으로 꺼낼 수 있다. 창의는 발휘하는 게 아니고 발휘되는 것이다. 진정 남을 위할 때 자기도 모르게 창의적인 아이디어가 불쑥 튀어나온다. - P113

즐겁게 일하면 결과는 당연히 좋다. - P115

돈을 가져올 걱정은 하지 말고 일단 남을 위하는 마음을 통해 여러분 속에 잠들어 있는 창의적인 아이디어를 끄집어내자. 그다음 일은 저절로 이루어진다. - P116

씩씩하게 자란 아이는 불평도 적다. 그 아이는 스스로 많은 것을 할 수 있으므로 타인의 손길도 그다지 필요로 하지 않는다. _장 자크 루소『에밀』 - P119

‘힘든 시간을 견디면 봄은 반드시 온다‘ - P119

돌이켜보면 나의 배움에는 인위적인 요소가 없었다. 바람이 불면 흔들리고 비가 오면 젖는 것처럼 상황이 닥쳤고 받아들였을 뿐이다. 그게 사회에 나오니 엄청난 힘으로 작용했다. - P120

생각하는 게 아니고 생각이 났다. - P121

자연을 체험하면 반드시 아이에게 도움이 된다 - P121

교회 다니는 사람들은 안다. 새 신자들이 은혜를 더 많이 받는다는 것을. 새 신자들은 하나님을 소유할 줄 모르기 때문이다. 아무것도 모르는 새 신자는 그냥 하나님 품 안에 존재할 뿐이다. 순수하게 품 안에 존재하니 하나님을 만난다. 그러나 시간이 지나고 교회를 오래 다니다보면 하나님을 소유하려 든다. 소유된 하나님은 존재하는 하나님이 아니라 내가 소유한 가짜 하나님이다. 나의 생각과 개념으로 정지시켜버린 하나님에게 소유하고 싶은 이것저것을 희구한다. 정지된 가짜 하나님에게 이런 소유의 기도를 해봐야 소용없다. - P124

「구약성서」의 주요 주제의 하나는 ‘네가 가지고 있는 것을 떠나라, 모든 속박으로부터 너 자신을 풀어라, 존재하라!‘이다. _에리히 프롬의『소유냐 존재냐』 - P124

「소유냐 존재냐」에서는 고전 불교를 언급하며 욕망을 끊는 것, 자아, 영속하는 물질, 자기완성에의 욕구를 포함한 소유욕을 단념하는 게 중요함을 강조한다. 자기완성에의 욕구까지 내려놓아야 비로소 자기 존재가 완성된다는 말이다. - P124

‘진리에 이르는 길은 의도를 갖지 않는 것‘ _칼 융 - P124

교회 안에서 그냥 존재할 때 은혜를 받는다. 뭔가를 바라는 의도를 가지고 교회 안에 있으면 진리에 이르지 못한다. 천국에 가겠다는 의도마저 내려놓는 순간, 그 순간부터 천국이 시작된다. - P125

균형. 결국은 균형이다. - P125

(돈을) 많이 가지지 않으려 해야, (자유를) 더 많이 가질 수 있음 - P125

같은 책을 다시 읽어보면 깨닫는 부분이 달라진다. 이미 스스로 그만큼 발전하고 변했기 때문이다. 그런 까닭에 고전은 여러 번 읽어야 한다. 읽을수록 내공이 쌓인다. 사유의 시선이 높아지고 몸값도 높아진다. - P125

소유는 정지된 것이고, 존재는 움직이는 것이다. 독서에서 소유는 암기고, 존재는 깨달음이다. 콘텐츠에서 소유는 모방이고, 존재는 창조다. 사람에서 소유는 꼰대고, 존재는 청춘이다. - P125

사랑이 그토록 힘든 이유는 사랑의 본질은 존재인데 사람들은 소유하려 들기 때문이다. 결혼생활이 힘든 이유도 마찬가지다. 한집에 살지만 각자 스스로 존재해야 하는데 서로 소유하려 들고 소유 당하려 한다. 소유하는 순간 사랑은 시든다. 꽃을 소유하기 위해 땅에서 뿌리째 뽑아 손아귀에 쥐어보라. 그 꽃은 금방 시들어 죽는다. 꽃을 땅에 존재하게 놔두고 거리를 두고 지켜보는 것이 사랑이다. 꽃잎이 떨어지고 새싹이 자라나는 과정을 사람이 방해하면 안 된다. - P126

서로의 존재가 맞지 않으면 소유가 아무리 많아도 잘 살 수 없다. - P126

돈은 움직인다. 그래서 돈을 좇아 소유하려 하면 돈이 벌리지 않는다. 돈은 계속 움직이게 해줘야 한다. 내게 들어온 돈을 꽉 쥐고 있으면 뿌리 뽑힌 꽃처럼 시들어버린다. 돈을 선순환으로 움직이게 보내줘야 한다. 제일 좋은 방법이 타인을 위해 돈을 흘려보내는 것이다. 지구를 위해, 가치를 만들기 위해 돈을 흘려보내는 것이다. 이런 식으로 다른 사람을 위해 흘러간 돈은 스스로 성장해 내게로 돌아와 품 안에 존재하게 된다. - P126

돈은 염소다. 방목하는 염소들이 어느새 새끼를 데리고 돌아오는 것과 마찬가지다. 도망갈까 걱정하지 마라. 아끼고 사랑하고 예뻐해주되 가두지 마라. 갇힌 염소는 새끼를 낳을 수 없다. 나가서 짝을 만나야 새끼를 낳을 것 아닌가. - P127

기꺼이 내어주면 돈은 저절로 성장하고 식구를 늘려서 내게로 다시 돌아온다. 그때 필요한 만큼만 가지고 또 세상으로 흘려보낸다. 이것이 선순환으로 돈을 버는 방법이고 돈을 좇지 말라는 말이며 하루하루 행복하게 살면서 돈이 저절로 벌리는 원리다. - P127

돈은 그 어떤 생명체보다 생명력과 생식 능력이 강하다. 갇혀 있으면 바로 죽는다. 내가 마실 우유만 조금 짜 놓고 넓은 풀밭으로 내보내라. 신나게 뛰놀며 덩치가 커진 돈이 저녁이 되면 다시 돌아올 것이다. 돈은 살아 있다. 소유하지 말고 존재하게 하라. - P127

반드시 소유의 비율이 존재의 비율보다 낮아야 한다 - P127

모든 문제는 해결책과 함께 온다 - P130

가장 높은 단계의 선비는 도를 들으면 그것을 성실하게 실천하지만, 중간 단계의 선비는 도를 들으면 반신반의하고, 가장 낮은 단계의 선비는 도를 듣고서도 그것을 크게 비웃어 버린다. _『노자의 목소리로 듣는 도덕경』 - P131

당신이 뭔가를 할 때 고통스럽지 않다면 의심하고 점검하라. - P131

대장부는 중후함에 처하지 얄팍한 곳에 거하지 않는다. 그 참된 모습에 처하지 그 꾸며진 곳에 거하지 않는다. 그러므로 저것을 버리고 이것을 취한다. _《노자의 목소리로 듣는 도덕경》 - P128

고전은 우리보다 먼저 살아본 선배들이 남겨놓은 실패하지 않는 법에 관한 매뉴얼이다. 고전은 온통 실패와 고난과 역경의 이야기다. 선배들이 창피한 얘기를 기록해놓은 데는 다 이유가 있으리라. - P132

고전은 치열하게 읽어야 한다. 로맨스 소설 읽듯이 읽으면 안 된다. 수천 년의 고통과 고난과 시련을 이겨낸 삶의 비밀은 한눈에 바로 알 수 있는 해답으로 존재하지 않는다. 공을 들여 풀어야 하는 방정식으로 존재한다. 읽고 또 읽고, 받아 쓰고 생각해서 자신에게 맞는 해답을 스스로 찾아야 한다. - P135

고전의 답은 한 가지가 아니다. 고전의 답은 시대에 따라 사람에 따라 변한다. 그래서 고전이다. 모든 시대, 모든 사람에게 실패할 수 없는 해답을 제시해준다. 대신 내가 치열하게 풀어야 한다. - P136

자연을 둘러보면 어느 하나 열심히 살지 않는 존재가 없다. 부지런히 꽃을 피우고, 꿀을 찾아 거센 바람을 뚫고 비행하며, 태풍이 불어 나뭇가지가 꺾여도 다시 새로운 가지를 싹 틔우고, 짝을 찾아 목숨을 걸고 뿔을 부딪친다. - P136

고전은 그 무엇보다 신선하고 상쾌하다. 읽는 순간, 내 가슴속에서 늘 새롭게 태어나기 때문이다. - P136

지금 본문의 약 4분의 1정도를 읽어나가고 있는데, ...

지금 본문의 약 4분의 1정도를 읽어나가고 있는데, 이 책의 저자께서 AI의 근원부터 차근차근 잘 설명해주고 계신다는 느낌을 받았다. 물론 이미 AI를 잘 활용하고 계신 분들에게는 이런 내용들이 그닥 불필요하게 느껴질지도 모르겠으나, 아직 AI에 대한 막연한 두려움이 있거나 AI를 실생활에서 잘 활용하고 있지 않은 분들이라면 AI의 본질을 이해하는데 조금이나마 도움이 될만한 책이라는 생각이 든다.

AI의 발전 과정을 쭉 훑어보면서 기술의 진화가 과거부터 지금까지 끊임없이 일어나고 있고, 앞으로도 얼마든지 혁신적인 것들이 계속해서 나올 거라는 것을 깊이 체감할 수 있었다. 또한 세상에 나온 최신 기술들이라는 게 어디서 갑자기 툭 튀어나온 것이 아니라, 보이지 않는 곳에서 과학자나 기술자들이 계속 연구하고 수도없이 실패해가며 고민한 끝에 나온 결과물이라는 것도 본문을 통해 알게 되었다. 인간의 한계가 과연 어디까지일지 문득 궁금해진다.

트랜스포머와 LLM의 등장으로 AI는 세상의 숨겨진 규칙을 이해하기 시작했다 - P-1

인식형 AI에서 생성형 AI로 - P-1

조합 학습이 가능하다 - P-1

오픈 AI의 딥 리서치 같은 걸 꼭 써보기를 - P-1

인간이 여태 생산해 온 지식을 섭렵해, 그 사이에서 우리가 이미 알 수 있었던 의미를 새롭게 끌어내는 것 - P-1

앞으로 개발자, 디자이너, 기획자가 하나의 직업이 될 거라는 겁니다. - P-1

가장 중요한 능력은 특정 기술이 아니라 "이게 좋다" 하고 판단할 수 있는 감각과 안목입니다. 판단력이 제일 중요하고, 나머지는 기술로 해결할 수 있습니다. 5년 후에는 새로운 알고리즘 외에는 코딩이 더 이상 필요 없을 거라고 내다보고 있기도 합니다. - P-1

지금은 기능 위주로 사람을 채용하지만, 앞으로는 판단력 위주로 채용하게 되겠지요. 도구는 AI가 다 만들어 줄 수 있으니까요. - P-1

이제 영어가 프로그래밍 언어라고 분류될 수도 있을 겁니다. 영어만 가지고 코딩을 할 수 있다는 의미에서 그렇다는 말입니다. 물론 아직 문제는 있습니다. 인공지능도 실수를 하기 때문입니다. 바이브 코딩은 쉬운데, 디버깅은 어렵습니다. - P-1

코딩 지식이 없더라도 단순한 애플리케이션을 만드는 것부터 시작하면서 코딩을 배울 수 있습니다. 특히 어린이, 학생들이 코딩을 시작하기에 최적인 방법입니다. - P-1

컴퓨터가 인간 언어를 이해하지 못하니 인간이 컴퓨터가 이해하는 언어를 만들었습니다. 그게 프로그래밍 언어입니다. - P-1

오토리그레시브Autoregressive 방법, 챗GPT가 단어를 하나씩 만들듯이, 픽셀과 픽셀 간의 집중 스코어를 계산해서 한 픽셀 다음에 어떤 픽셀이 올지 예측하는 것 - P-1

오토리그레시브 방법으로는 손쉽게 에디팅과 파인튜닝이 가능하다. - P-1

서로에 대한 신뢰가 무너진 상황에서는 모두가 뛰고, 뛸 수밖에 없다 - P-1

"내 경쟁자의 경쟁자는 내 친구" - P-1

멀티모달 AI는 텍스트만이 아니라 영상, 음성, 소리까지 처리하는 AI기술인데, 학습에 필요로 하는 GPU의 수가 10 만 개에 달합니다. - P-1

다음으로 우리가 맞이하게 될 것은 다름아닌 에이전트AI Agent AI입니다. - P-1

인간이 애플리케이션을 켜고 메뉴를 누르는 데이터를 멀티모달로 학습하면 됩니다. 그러면 에이전트 AI가 가능해집니다. 그리고 다음 단계는 피지컬 AI Physical AI입니다. - P-1

에이전트 AI는 디지털에서만 행동할 수 있고, "물 한 잔 가져다줘" 같은 아날로그 요청은 들어줄 수 없습니다. 로보틱스와 결합된 피지컬 AI가 등장하면 아날로그, 현실에서 에이전트 AI 역할을 해줄 수 있습니다. 디지털은 에이전트 AI, 현실은 로봇이 해결하는 겁니다. - P-1

회사는 여러 직원이 동시에 여러 문제를 풀고, 서로 소통할 필요가 있습니다. 이게 멀티 에이전트Multi-Agent입니다. - P-1

현재 AI 업계에서 가장 화제인 키워드 중 하나는 MCP, 즉 모델 컨텍스트 프로토콜Model Context Protocol 입니다. MCP는 LLM이 외부 애플리케이션이나 데이터를 활용할 때 필요한 인터페이스 표준입니다. - P-1

마치 USB-C가 모든 기기를 연결하듯, MCP는 AI 모델과 외부 데이터나 툴을 연결하는 범용 인터페이스 입니다. - P-1

튜링 테스트는 기계가 인간과 대화할 때 상대가 기계인지 인간인지 구분 못하면 합격으로 간주하는 테스트입니다. - P-1

ARC-AGI Abstract and Reasoning Corpus for Artificial General Intelligence (범용적 인공지능을 위한 추상적 및 추론적 코퍼스) - P-1

경제학에서 잘 알려진 제번스의 역설Jevons Paradox에 따르면, 단가가 낮아지면 수요가 더 늘어납니다. - P-1

잡일의 핵심은 기계에 내가 원하는 걸 전달하는 데 시간이 걸린다는 겁니다. 인공지능은 이 문제를 해결해줍니다. 내가 원하는 걸 말로 표현하면 되니까요. - P-1

과거를 돌이켜 보면 미래를 어렴풋하게 내다보는 더 종종 도움이 됩니다. 당연히 역사는 반복되진 않지만, 어느 정도 패턴이란 것은 분명히 있습니다. - P-1

미래를 예측할 때 세 가지를 보는 게 중요하다고 생각합니다. 첫 번째, 세상이 망하기 전까지 기술은 계속 발전합니다. 두 번째, 사회ㆍ정치ㆍ역사에는 약간의 반복성이 있습니다. 세 번째, 인간은 변하지 않습니다. 인간의 본성은 똑같다는 것입니다. 이 세 가지 ㅡ 인간의 본성, 사회의 반복성, 기술의 발전 ㅡ 가 항상 서로 맞물리면서 상호작용하게 됩니다. 그러다 보니 이 세 가지가 한꺼번에 맞물리면 과거와 비슷한 일이 종종 또 일어나곤 합니다. - P-1

인간이 느끼는 가장 큰 행복 중 하나가 타인의 고통이라는 겁니다. 내가 행복하지 못하고, 내 행복을 더 이상 늘릴 수 없으면, 타인의 고통을 통해서 내 행복을 키울 수밖에 없다는 얘기입니다. - P-1

타인의 고통 중에서도 가장 강렬하고 큰 고통은 다름 아닌 죽음입니다. - P-1

신기하게도 인공지능이 새로운 걸 배우면 전에 알았던 걸 잊어버릴 수가 있습니다. 이걸 캐터스트로픽 포게팅 Catastrophic Forgetting 이라고 합니다. - P-1

현대인에게 있어서 대화는 무료가 아닙니다. 대화는 시간, 노력, 에너지가 필요한 일입니다. - P-1

인공지능이 사람의 마음을 움직일 수 있다 - P-1

진화적으로 우리가 생각을 교류할 수 있는 유일한 방법은 공기를 흔드는 것뿐이었습니다. 일상적으로 우리가 서로 주고 받는 말들, 모두 공기가 흔들리는 것을 통해서 전달되는 것입니다. 그 흔들린 공기가 우리 귓속에 들어와서 달팽이관이 흔들리면서 정보가 전달됩니다. 그러다보니 1분에 단어 120개 정도밖에 전달할 수 없었습니다. 정보량을 환산하면 1초에 10바이트에 불과합니다. 말도 안되게 비효율적인 방법이었습니다. - P-1

아날로그는 양자역학적, 엔트로피 관점에서 완벽하게 왜곡할 수 없습니다. 항상 흔적이 남기 때문입니다. - P-1

"나머지 시간에 대한 현재의 공격" - P-1

과거를 업데이트 할 수 있게 되는 순간, 현실도 디스토피아가 되고 말 것인가 - P-1

디지털은 언제든지 업데이트가 가능합니다. - P-1

과거가 업데이트 가능해지는 순간, 현재와 과거의 구분에 큰 의미가 없어지게 됩니다. - P-1

단순한 것을 굉장히 많이 모아놨더니 이상한 일이 벌어지는 걸 이머전트 프로퍼티Emergent Property, 창발적 현상이라고 합니다. 왜 이런 일이 벌어지는지는 아무도 모릅니다. - P-1

인간의 뇌도 100조 개 변수가 생기니까 자율성이 생겨났는데, 인공지능도 변수가 100조 개로 늘어나면 갑자기 자율성을 가질 수 있다는 겁니다. 극단적으로 말하면, 머지않은 미래에 여러분들이 저녁에 퇴근해서 로봇 청소기에 "청소해" 하고 시켜도 "싫어" 할 수도 있습니다. - P-1

인간의 뇌는 아인슈타인을 탄생시킨 동시에 히틀러 또한 탄생시켰다 - P-1

인공지능도 100조 개 변수가 모여서 만들어내는 결과가 다 좋은 것일 거라고 장담할 수 없다 - P-1

AI와 대화하는 중간에 변수의 가중치를 바꿔줌으로써 특정한 답변을 유도할 수 있다 - P-1

항상 우회할 방법은 또 있다 - P-1

인간의 마음 이론은 오롯이 다른 인간에 대한 마음에 관한 내용이었습니다. 우리가 소고기를 맛있게 먹을 수 있었던 이유는 소의 마음에 공감하지 않았기 때문입니다. - P-1

인공지능은 다른 존재, 동물만 아니라 심지어 상자에게까지도 공감이 가능하다 - P-1

어렸을 때의 뇌가 나이 들었을 때의 뇌보다 훨씬 빨리 돌아간다 ...(중략)... 신경세포의 속도가 더 빠릅니다. 그 얘기는, 어렸을 땐 세상을 더 자주 볼 수 있다는 얘기입니다. - P-1

나이가 들수록 뇌 기능이 떨어져서 샘플링 속도가 느려집니다. - P-1

단순히 물리적으로 오래 사는 것보다 중요한 것이 신경세포, 즉 생각의 속도입니다. 세상을 얼마나 다채롭게 경험할 수 있느냐, 얼마나 많은 기억을 할 수 있느냐가 중요한 것입니다. - P-1

인공지능 AI가 대세인 요즘, 이에 대한 이해 및 활...

인공지능 AI가 대세인 요즘, 이에 대한 이해 및 활용 능력이 굉장히 중요해지고 있다. 이 책은 인공지능과 관련된 미래를 전문가의 시각에서 예측하고 앞으로 이에 어떻게 대응해나갈지를 생각해보는데 도움이 될 듯하다. 그럼 시작해본다.

AI가 인간의 특정 능력 하나를 대체하는 기술이라면 AGI는 범용 인공지능 Artificial General Intelligence, 즉 인간의 모든 또는 대부분의 능력을 대체하는 기술이라고 할 수 있습니다. - P-1

인공지능 시대에는 기술을 지배하는 자가 동시에 사회와 정치도 지배해야 한다는 기술봉건주의Technofeudalism - P-1

인터넷의 역사를 다시 한번 되새겨 봄으로써 인공지능의 미래를 상당히 많은 부분 예측해볼 수 있습니다. - P-1

아무리 좋고 훌륭한 기술이라 해도, 결국 그 기술을 직접 체험하는 사람의 니즈와 욕구, 상상력에 따라 사용 범위가 결정될 수밖에 없습니다. - P-1

인공지능 발전 초기에는 두 가지 문제를 풀고 싶어 했습니다. 첫 번째로 인간과 대화가 가능한 기계를 만들고 싶었고, 두 번째로 세상을 알아보는 기계를 만들고 싶었습니다. - P-1

"우리 인간은 어떻게 세상을 알아보지?" - P-1

"그럼 기계에도 학습기능을 부여하자" - P-1

데이터에서 확률적인 관계를 뽑아낼 수 있는 학습 기능 - P-1

1990년대에 인터넷이 등장하면서 상상을 초월할 만큼 데이터가 많아졌다 - P-1

알고리즘을 크게 개선하지 않은 상태에서도 더 많은 데이터를 학습시키거나 모델을 더 키우면, 풀리지 않았던 문제가 거의 자동으로 풀리기 시작한다 - P-1

이제는 다량의 데이터에 있는 확률적인 패턴을 인식해서 예측할 수 있게 되었습니다. - P-1

이 세상에 있는 현상 대부분은 거의 무한의 다양성을 가지기 때문에 설명으로 그 무한의 다양성을 완벽히 표현할 수 없다 - P-1

무한한 다양성을 가지는 이 세상을 전부 설명해서 매칭시킬 수는 없다 - P-1

인간의 신경세포를 서로 연결하면 논리 연산이 가능하다 - P-1

인공 신경세포들을 더 정교하게 연결했더니 물체 인식이 가능하더라 - P-1

포토다이오드와 트랜지스터를 연결해서 이걸 하드웨어로 만들었습니다. - P-1

인공 신경세포는 세포 하나를 말하고, 신경망은 많은 게 연결된 걸 말합니다. - P-1

이론적으로 퍼셉트론의 층을 쌓아주면 모든 비선형 문제를 풀 수 있습니다. 수학적으로는 3층까지만 쌓아도 이 세상 모든 문제를 풀 수 있게 됩니다. - P-1

퍼셉트론을 만들 때 가장 중요한 건 신경세포와 신경세포 사이의 연결고리 즉, 시냅스synapse라고 부르는 이 연결고리의 값을 찾는 것입니다. 그 값이 우리가 찾아야 하는 정답입니다. - P-1

우리는 데이터만 넣어주고, 기계가 학습을 통해서 사실상 규칙을 찾아내고 있습니다. - P-1

규칙과 데이터의 관계를 뒤집었더니 50년 동안 풀리지 않았던 문제들이 허무할 정도로 쉽게 풀리고 있다 - P-1

기계가 찾아낸 규칙을 우리 인간이 완벽하게 이해하지 못한다 - P-1

학습이란 결과적으로 모든 신경세포들 간의 적절한 가중치를 찾는 것입니다. - P-1

학습을 통해 만들어지는 규칙을 우리가 표현할 수 있는 단어가 없다 - P-1

언어의 해상도가 인식의 해상도보다 훨씬 낮다 - P-1

눈에서부터 맨 위로 올라가는 계층적 구조 - P-1

사물을 알아보는 영역을 매핑할 때, 물체를 한 곳에서 한꺼번에 알아보는 게 아니라 약 30개 정도의 영역에서 나눠서 분석하고, 정보가 병렬처리된다 - P-1

언어 문제가 해결되니까 나머지 문제들도 덩달아 해결되기 시작했다 - P-1

그림의 픽셀과 픽셀 간에는 통계적으로 인과관계가 거의 없습니다. 그래서 각 픽셀은 독립적으로 계산할 수 있고, 병렬처리가 가능한 알고리즘입니다. - P-1

학습이 수천 배 빨라졌다는 건, 현실적으로 모델을 더 키울 수 있다는 얘기입니다. - P-1

인공지능에서는 스케일을 키우면 문제가 풀리게 됩니다. - P-1

문장을 구성하는 각 단어는 독립적으로 처리할 수 없습니다. 단어와 단어 간에 인과관계가 있기 때문입니다. 어떤 문장을 이해할 때는 그 문장의 첫 번째 단어를 듣고 바로 이해할 수 있는 게 아닙니다. 맨 마지막 단어까지 들은 다음에야 순서대로 처리하고 이해할 수 있습니다. 그래서 언어라는 것은 병렬 처리가 불가능한 문제라는 것입니다. - P-1

말이란 시간 축 데이터입니다. 즉, 시간의 흐름에 따라 진행됩니다. - P-1

시간 축 데이터에 무엇이 있을지 생각해보면 우리가 어떻게 시간 축 데이터를 이해하고 분석하려고 해왔는지 연상하기 쉽습니다. - P-1

언어는 시간 축 데이터인데, 인과관계가 선형이 아니라 뒤죽박죽 - P-1

문장에서 단어의 의미는 그 단어가 등장하는 포지션, 즉 문맥, 앞뒤에 등장하는 다른 단어들의 교집합으로 결정된다 - P-1

우리가 찾아야 하는 건, 특정 단어가 있을 때 그 앞에 어떤 단어가 등장할 수 있는지의 조건적 확률conditional probability을 계산하는 것입니다. - P-1

사실 인간 언어의 단위는 단어가 아니라 더 잘게 쪼갤 수 있습니다. 토큰token이라는 단위로 쪼갤 수 있지요. - P-1

문장을 쪼개서 숫자로 표현하고, 임베딩embedding (벡터화) 할 수 있다 - P-1

집중 스코어!!
벡터화된 토큰들 간의 유사도를 구하기 위해 스케일링 된 내적을 계산 -> 문맥화된(contextualized) 토큰 생성 - P-1

왜 숫자로 표현하는가 하면, 계산할 수 있기 때문입니다. 모든 단어를 숫자로 표현할 수 있고, 그러면 계산할 수 있게 됩니다. - P-1

챗GPT같은 경우, 모든 정보가 임베딩됩니다. - P-1

어떤 상황에서 얼마만큼의 확률로 등장하는지를 표현한 것 - P-1

뒤죽박죽 얽힌 단어들의 의미, 관계를 해석하기 위해서는 특정 단어가 등장할 때 가장 자주 동시에 등장하는 단어들에만 집중하면 된다는 것을 알았습니다. 이제 단어의 순서보다 더 중요한 것은 단어가 등장하는 주변 단어들, 그러니까 ‘문맥‘이라는 걸 깨달은 것입니다. 예전에는 단어가 등장하는 순서대로 계산했는데, 그렇게 해서는 해석할 수 없었습니다. 그보다 문맥적으로 얼마나 비슷한 단어인지에 집중해야 한다는 것입니다. 이 방법을 집중 스코어attention score라고 부릅니다. 문장이 있으면 어디에 집중해야 할지, 그걸 계산하면 되는 것입니다. - P-1

언어를 해결하려면 문장에 있는 단어들이 서로 얼마나 자주 동시에 등장하는지, 그 집중 스코어만 계산하면 그게 곧 그 문장의 의미라는 것이지요. - P-1

컨텍스트 길이context length가 길수록 더 많은 걸 이해할 수 있습니다. - P-1

학습이 끝나면 프롬프트prompt를 입력합니다. 우리가 입력한 프롬프트에 이미 집중 스코어 관계는 다 계산돼 있습니다. - P-1

이런 집중 스코어 관계를 학습한 걸 우리는 거대 언어 모델Large Language Model(LLM) 이라고 부르고 있습니다. LLM은 계산량이 상상을 초월합니다. - P-1

어디까지나 창의적인 아이디어가 나오느냐 안 나오느냐의 문제이니까요. - P-1

코딩하려면 반도체에 소프트웨어 환경이 필수입니다. - P-1