이 책은 개인적으로 어제 완독한《AGI, 천사인가 악...

이 책은 개인적으로 어제 완독한《AGI, 천사인가 악마인가》를 쓴 저자가 과거에 썼던 책이다. 저자가 인공지능에 대해 친절하게 설명해준다는 느낌을 받아서 추가로 이 책도 읽어보기로 했다.

본격적으로 읽기 전에 살짝 훑어봤는데, 아무래도 동 저자가 쓴 글이다보니 어제 읽은 책과 내용이 일부 겹치는 부분도 살짝 보이긴 했지만 다른 한편으로는 내가 미처 몰랐던 것들을 추가로 덧붙여 배울 수 있겠다는 생각도 들었다.

이 책을 통해 대세로 자리매김하고 있는 인공지능에 대해 좀 더 알아가는 시간이 되길 바래본다.

직관은 어떻게 만들어질까? 바로 경험과 학습을 통해 만들어진다. - P7

현대 뇌과학에서 학습은 신경세포들간의 연결고리(시냅스)에서 일어난다고 이야기한다. 자주 보고, 듣고, 경험하는 정보를 저장하는 세포들 간의 연결성이 강화되어, 비슷한 정보를 받아들일 때 활성화될 확률이 높아진다. - P7

기존 인공신경망의 한계를 극복한 깊은 층수 구조의 인공신경망을 보통 ‘딥러닝‘이라고 부른다. - P9

딥러닝은 인간의 뇌를 모방했다. 우주에서 가장 뛰어난 학습능력을 가진 기계는 여전히 우리 머리 안에 있는 1.5킬로그램짜리 뇌다. - P10

새로운 기술을 받아들이지 않는 나라와 민족은 역사에서 사라져버린다는 것이, 단순하지만 잔혹한 ‘세상의 방정식‘임을 기억해야 한다. - P13

인공지능을 개발할 때 가장 처음 겪는 어려움은 인간에게 쉬운 일을 기계에게 구현시키기는 매우 힘들다는 점입니다. - P19

우리가 기대하는 인공지능 로봇이 경쟁력이 있으려면 결국 기계가 스스로 세상을 인식하고 스스로 판단을 내려야 합니다. - P30

역사적으로 실념론realism은 플라톤이 처음 주장했습니다. 플라톤의 철학은 ‘우리 눈에 보이는 세상이 진짜 세상이 아니다. 사실은 우리 눈에 보이지 않는 이데아 세상이 어딘가에 존재한다‘입니다. 우리 눈에 보이는 세상은 이데아 세상의 그림자이죠. - P40

실념론적 관점의 종교철학에서는 이 이론으로 세상을 이해합니다. 모든 물질의 이데아, 그러니까 참된 강아지, 참된 바나나, 참된 책상이 존재합니다. 또 이 이데아의 이데아를 신으로 해석하죠. 결국 모든 게 아주 완벽한 것의 완벽한 것에서 투영된 것이 있고, 우리는 또 투영된 영상의 그림자를 보고 있다는 거죠. 이러한 이론을 아우구스티누스는 기독교에 응용했고, 아베로스는 플라톤의 이 개념을 계승한 플로티누스의 아이디어를 이슬람에 응용했습니다. - P42

유명론nominalism은 아리스토텔레스부터 시작되었습니다. 아리스토텔레스는 이데아 세상을 믿지 않았습니다. 그런건 존재하지도 않는다는 거죠. 즉, 증명할 수도 없는 세상은 존재할 수가 없고, 우리가 보편적인 물체를 알아볼 수 있는 유일한 이유는 결국 우리의 경험과 경험에 무언가 교집합이 존재하고 그 교집합이 바로 보편적인 물체가 되기 때문이라고 말합니다. 다시 말해서 저 수많은 강아지들을 강아지라고 인식할 수 있는 것은 우리가 경험한 강아지들에 우리는 알 수 없더라도 무언가 교집합이 있다는 거죠. 강아지들만 가지고 있는 무엇이, 말할 수는 없지만 분명히 존재한다고 이야기합니다. - P42

유명론의 특징은 강아지의 모든 강아지, 우리가 경험한 모든 강아지들의 공통점은 사실 단 하나뿐이라는 겁니다. 뭘까요? 바로 ‘이름‘입니다. 강아지는 강아지라는 이름을 가졌다는 공통점 외에 다른 공통점은 없습니다. 그래서 이름을 상당히 중요하다고 말했지요. - P43

유명론적 소설책의 대표작으로 얼마 전 작고한 이탈리아 작가 움베르토 에코의《장미의 이름》이 있습니다. 중세시대에 ‘장미‘는 세상의 가장 선하고 아름다운 것을 표현하는 의미로 쓰였는데, 선하고 아름다운 것의 공통점은 선하고 아름답다는 이름, ‘장미‘밖에 존재하지 않는다는 게 이 책이 주장하고자 했던 메시지죠. - P43

플라톤의 실념론이든 아리스토텔레스의 유명론이든 어쨌든 보편적으로 이해한다는 것에 대한 논의 자체가 상당히 오랫동안 인간이 이해하고자 노력했던 문제라는 것입니다. - P43

우리가 바라는 인공지능을 만들기 위해서는 결국 인간이 세상을 어떻게 보편적으로 이해하는지 정확히 알 필요가 있습니다. - P47

‘호토스 에스틴hotos estin, 존재는 하나다‘ _파르메니데스 - P48

헤라클레이토스가 한 말 중에서 가장 유명한 말은 physis kryptesthai philei입니다. 해석하자면 ‘physis‘는 ‘자연‘이란 뜻이고 ‘kryptesthai‘는 ‘cryptology‘, ‘Krypton‘ ‘비밀스러운‘, ‘숨다‘라는 뜻입니다. ‘philei‘는 ‘사랑한다, 좋아한다‘라는 뜻으로 ‘지혜를 사랑한다‘ 라는 의미를 가진 단어인 ‘philosophy‘에도 등장하는 말입니다. 그러니까 이 말인즉슨 ‘자연은 숨는 걸 좋아한다‘입니다. - P50

자연은 숨으려고 하는데 과학이 자꾸만 이 옷을 벗기려고 노력을 하죠. - P51

라이프니츠의 가장 유명한 아이디어는 ‘창조할 수 있는 최선의 우주‘입니다. - P63

쉬운 문제는 환경요인(외부요인) 대비 복잡도가 낮다고 정의해야 한다고 합니다. 쉽게 이야기하자면 표현하기 쉬운 문제, 혹은 이미 알고 있는 것으로 표현할 수 있는 문제를 쉽다고 정의해야 하는 것이죠. - P81

폰 노이만은 컴퓨터에서 가장 중요한 것은 분리된 CPU와 메모리라고 이야기했습니다. 메모리에는 기억을 가진 것처럼 정보를 심어두어야 하고 CPU는 계산을 해내는 영역이라고 말했죠. ‘계산하는 방‘과 ‘기억‘은 분리시켜놔야 한다는 것이 기본 구조입니다. - P82

폰 노이만은 뇌는 넓은 폭의 논리를 사용한다고 생각했습니다. 그래서 병렬 연산을 제시한 거예요. 병렬적으로 연산한다는, 즉 한꺼번에 하나하나 하는 것이 아니라 아주 넓게 계산한다는 아이디어를 제시했죠. - P89

뇌 안에 10¹¹개 정도 되는 상당히 많은 신경세포들이 있고, 신경세포 하나들은 수천 개 또는 수만 개의 다른 세포들과 연결되어 있습니다. 뇌를 아무리 해부해봤자 영상도 없고, 기억도 없고, 자아도 없고, 감성도 없고, 아무것도 없고, 유일하게 존재하는 건 끝없이 많은 시냅스들입니다. 그것만 가지고 계산을 하고 문제를 해결합니다. - P90

뇌과학에서는 전두엽이 인간의 판단력을 좌우한다고 알려져 있습니다. 판단한다는 것은 계산의 일종이라고 볼 수도 있습니다. 그리고 동일하게 일치된 판단을 두고 성격이라고 생각하기도 하죠. 성격이란 건 매우 복잡하게 형성될 것이라고 생각합니다. 유전적인 이유도 있을 것 같고, 어렸을 때의 교육, 환경, 선생님, 친구 이 모든 게 합쳐져서 나의 성격, ‘나는 누구인가‘를 만들어냈다고 우리는 생각하죠. 하지만 전두엽에 있는 세포 수십만 개만 망가뜨려도 그 사람의 성격은 완전히 변할 수 있습니다. - P92

해마만 도려내면 앞으로의 기억은 저장되지 않습니다. - P92

인간의 뇌는 각 상황에서 저장할 가치가 있는 정보와 저장할 필요가 없는 정보를 구별하여 저장합니다. 그리고 그 구별한 정보들도 압축을 합니다. 아주 굵은 가지만 남겨두죠. 그리고 그 기억을 나중에 기억할 때에는 내가 예전부터 알았던 이야기, 내가 들은 이야기, 남들이 나한테 보여주는 이야기, 그런 것들을 합쳐서 새롭게 이야기를 만들어서 기억한다고 생각합니다. 다시 말하자면 ‘기억한다‘라는 것은 어디에다 정보를 저장했다가 가져오는 것이 아니고 매번 새로 만들어내는 것이나 다름없죠. - P93

뇌에서는 정보가 무늬(패턴) 위주로 입력됩니다. - P93

뇌에서 일어나는 신경망 패턴을 사전화하면 패턴만 보고도 무엇을 보았는지 읽을 수 있게 됩니다. - P93

눈은 물체에서 반사된 광자를 렌즈로 모은 다음에 그 렌즈에서 모은 빛을 망막에 영사시키는 역할을 합니다. - P96

망막에는 여러 계층의 세포들 있는데, 그 세포들에는 광수용기 photo-receptor라는 세포들이 있어서 빛에 반응을 합니다. 광수용기 세포들은 빛을 전기에너지로 바꿔서 뇌에 전기신호를 전달합니다. - P96

색깔, 형태, 입체감은 뇌가 만들어낸 착시현상 - P98

우리 뇌에는 10¹¹개의 신경세포들이 10¹⁵개의 시냅스라는 연결선으로 연결되어 있습니다. 그중 3분의 1 정도는 유전적으로 만들어지고, 3분의 1은 환경을 통해서 만들어지고, 나머지 3분의 1은 그냥 랜덤으로 만들어집니다. - P100

언어의 해상도가 인식의 해상도보다 훨씬 더 낮음 - P103

우리가 말, 단어만 통해서는 상대방의 생각을 절대로 파악할 수가 없다 - P103

아주 짧은 시간의 경험도 우리 뇌는 재해석을 하게 하는 여지를 둔다 - P-1

과학이나 공학에서는 데이터와 모델이 일치하지 않으면 모델을 수정하라고 배웁니다. 하지만 뇌는 그렇게 하지 않죠. - P107

인풋과 아웃풋이 일치하면 아무런 변명을 할 필요가 없어요. 일치하지 않기 때문에 변명이 길어지고, 말이 길어지고, 강연도 하고, 책도 쓰고 하겠지요. - P108

인간을 포함한 모든 동물들은 태어나서부터 한정된 시간을 가지고 있는데, 그 기간을 ‘결정적 시기‘라고 부릅니다. 그 기간은 정해져 있습니다. 오리는 태어나서 1~2시간, 고양이는 태어나서 4~8주, 원숭이는 태어나서 1년, 사람은 태어나서 10~12년이라고 알려져 있죠. 그 기간 동안은 뇌가 젖은 찰흙 같아서 자주 사용되는 길들은 살아남고 자주 사용되지 않는 길들은 뇌 안에서 싹 지워버립니다. - P111

결정적 시기를 한 특정 상황에서 보내다 보면 아주 자연스럽게 이 상황에 최적화된 뇌가 만들어지게 됩니다. 일종의학습이라고 이해할 수 있지요. - P111

결국 우리가 보통 이야기하는 지능, 세상을 알아보는 능력은 설명을 통해서 배우는 게 아니고 경험과 학습을 통해서 배웁니다. - P117

뇌의 시각 정보를 프로세싱하는 신경세포망들을 논리적으로 나누다 보니 뇌는 계층적인 구조를 가지고 있더랍니다.
10층에서 15층 정도 되는 구조로 차곡차곡 쌓여 있죠. 한 10층에서 15층 정도되는 큰 빌딩이라고 생각하시면 됩니다. - P118

인간의 사물 인식 과정은 어떻게 보면 대기업 구조를 가졌다고 이해하면 됩니다. 맨 아래층의 신입사원들은 정말 아는 게 없죠. 신입사원들이 알고 관심 있는 건 본인 책상 위에 있는 한 픽셀짜리 정보입니다. 내 책상 위에서 일어나는 일에 대해서 세상을 분석하고 그 보고서를 써서 2층에 있는 과장한테 보냅니다. 그럼 과장은 더 이상 세상의 정보에는 관심이 없고 10명의 신입사원이 쓴 보고서를 가지고 보고서에 대한 보고서를 또 씁니다. 2층에 있는 과장은 또 3층에 있는 부장한테 보고서를 보내고, 부장은 10명의 과장들이 쓴 보고서를 가지고 또 보고서에 대한 보고서에 대한 보고서를 작성하는 거예요. 쭉 올라가면 맨 위에 있는 이사나 사장 같은 임원진들은 거시적인 시야를 갖게 됩니다. 계속 압축된 그림으로 세상을 보기 때문이죠. - P122

딥러닝은 더 이상 인간의 기계에게 세상을 설명하지 않습니다. 세상에 관한 엄청나게 많은 데이터를 그냥 집어넣어주는 겁니다. 빅데이터가 있기 때문에 가능하겠지요. 기계는 이 엄청난 양의 데이터를 자체 인공신경망 구조를 통해 스스로 학습합니다. 무엇을 학습할까요? 이 데이터에 포함된 통계학적인 정보에 대해 점점 더 압축된 표현을 만들어내는 과정을 학습이라고 말합니다. - P126

선은 가장 압축된 표현입니다. - P130

‘세계는 일어나는 모든 것이다.‘ - P134

‘일어나는 것, 즉 사실은 사태들의 존립이다.‘ - P134

‘사실들의 논리적 그림이 사고다.‘ - P134

‘사고는 뜻이 있는 명제다.‘ - P134

‘명제는 요소 명제들의 진리함수다.‘ - P134

낸드플래시nand flash에 대해 들어보신 적 있을 겁니다. 많이 사용하고 있죠. 낸드플래시가 좋은 이유는 NAND (NOT and AND)라는 규칙을 가지고 나머지 논리규칙을 다 만들어낼 수 있기 때문입니다. 가장 보편적인 논리규칙이라고 알려져 있어요. 그래서 아주 콤팩트한 플래시 드라이브를 만들 때 낸드플래시를 쓰지요. - P136

‘말할 수 없는 것에 관해서는 침묵해야 한다.‘ - P140

[100자평] AGI, 천사인가 악마인가

AGI, 천사인가 악마인가 - 인간의 마지막 질문
김대식 지음 / 동아시아 / 2025년 8월

인공지능이 그간 어떻게 발전해왔는지 살펴보고 인공지능과 함께 살아갈 앞으로의 미래에 대해서도 조심스럽게 예상해보는 책입니다. 또한 기대와 걱정이 공존하는 저자의 관점을 살펴보면서 독자들 또한 인공지능에 대한 자신의 주관을 확립하는데 도움이 될 수 있을 듯합니다. 그리고 AI를 잘 몰랐던 분들도 흥미롭게 읽을 수 있는 책이라고 생각합니다.

인공지능이라는 바벨탑

AGI, 천사인가 악마인가 - 인간의 마지막 질문
김대식 지음 / 동아시아 / 2025년 8월

이 책을 읽으면서 개인적으로 예전에 읽었던 조지 오웰의《1984》에 나왔던 문장이 생각났다.

‘과거를 지배하는 자는 미래를 지배하며, 현재를 지배하는 자는 과거를 지배한다‘

아마도 본문에 나왔던 내용 중에 이 문장이 기가 막히게 적용되는 것이 있었기에 몇 년전에 읽었음에도 생각이 났던 것 같다.

비록 오래 전의 아날로그 방식은 조작이 힘들지만 이제는 대세가 된 디지털 방식으로 된 수많은 데이터들을 AI를 활용하여 조작할 경우 앞으로의 미래를 행위자의 입맛에 맞게 얼마든지 만들어나갈 수 있다. 또한 현재 권력을 가진 지배자들이 자신들이 가진 권력을 활용하여 과거의 데이터들을 왜곡하고 조작한다면 얼마든지 권력자들의 입맛에 맞게 과거도 지배할 수 있게 된다. 이로써 과거와 현재, 미래를 하나로 통합하여 지배할 수 있게 되는 것이다. 물론 여기서 권력을 가진 극소수의 사람들은 좋겠지만 나머지 대다수는 자신의 의지와는 관계없이 피지배되는 상황에 놓이기에 결코 바람직하다고 느낄 수 없을 것이다. 이런 것들을 생각해보면 인공지능의 발전이 마냥 장점만 있다고 보기는 힘들 듯하다. 결국 모든 것에는 일장일단이 있기 마련이다.


책의 전반부에서 저자는 인공지능의 발전사를 쭉 언급한다. 이를 통해 인공지능이 어느날 갑자기 하늘에서 뚝 떨어진 것이 아니라 수많은 시행착오와 기술의 발전에 힘입어 비교적 최근에서야 그 빛을 보게 되었다고 말한다. 그동안에는 현실적인 기술의 한계로 인해 상상으로만 가능했던 것들이 가능해졌다는 것이다.

책의 후반부에서는 최근 인공지능의 발전 속도가 기하급수적으로 급격히 빨라지고 있는 상황을 언급함과 동시에 인공지능이 인간을 뛰어넘어설 수도 있다는 우려를 나타낸다. 앞서 위에서 언급한 것과 비슷한 맥락으로 기술의 발전이 마냥 장밋빛 미래만을 가져오지는 않을 수도 있으니 이러한 위험에 대비해야 한다는 것이다.

독자인 나는 이 후반부를 읽으면서 문득 성경에 나오는 바벨탑 사건이 생각났다. 성경에는 바벨탑을 지어 절대자인 하나님에게 닿으려는 시도를 하다가 하나님이 진노하여 그들의 언어를 교란시켜 더이상 바벨탑을 쌓아올리지 못하게 하는 이야기가 나온다.

AI가 인간의 뇌에 점점 가까워지다가 어느 순간 인간을 뛰어넘어서는 특정 시점이 되면 성경에 나오는 바벨탑처럼 AI를 개발하여 유토피아를 꿈꾸던 인간의 시도는 실패로 끝나고 오히려 AI에게 지배를 받거나 아예 멸종하는 등의 방식으로 인간이라는 종種자체가 아예 와르르 무너져 버리는 순간이 오지 않을까 하는 막연한 상상도 해볼 수 있었다. (지극히 주관적인 상상이긴 하나 상상만으로도 끔찍하기에, 어느 적당한 시점에는 인간과 인공지능이 적정한 선에서 공존할 수 있는 상황이 조성되어야겠다는 생각이 든다.)


또한 최근들어 과거 전세계에 막대한 영향력을 미쳤던 메이저 종교들에 속한 신의 권위가 약해지고 무신론자들이 많아지는 게 현실이지만, 아이러니하게도 최근에는 인공지능이라는 새로운 신(일종의 우상)이 등장한 것 같다는 느낌도 받았다. 신의 존재를 부정하는 대다수의 무신론자들인 과학자들이 오히려 실은 자기도 모르는 사이에 인공지능이라는 최첨단 신을 만들고 있는 건 아닌가 하는 의문도 문득 들었다. (심지어 이 책의 저자도 AI에게 미리 엎드려 절을 하는 사진을 만들어 달라고 부탁하며 AI가 인간을 지배하는 세상이 왔을 때를 미리 대비하려는 것 같은 스탠스를 취할 정도니 뭐 말 다했다.)

이렇듯 불완전한 인간이 절대자로 여기는 신과 같은 존재를 자꾸 만들어내는 걸 보면 혹시 인간의 DNA에 신을 만들어내는 유전자 같은 게 들어있는 건 아닌가 하는 생각도 든다. 마치 패션이 돌고돌아 유행하는 것처럼 오래된 신을 버리고 따끈따끈한 최신 신상품인 인공지능(AI)이라는 새로운 신을 만들고 있는 건지도 모르겠다.


이 책의 본문에서 저자는 인공지능이 고도로 발달하여 인간의 뇌보다 더 뛰어난 성능을 발휘하게 될 경우 인공지능이 그들을 만든 인간을 지배할 수도 있음을 지속적으로 언급하고 있다. 이러한 사태를 예방하기 위해 전세계적인 통제와 관리가 필요함을 역설하는데, 여러가지 이해관계들로 인해 이게 말처럼 쉬워보이지는 않는다.

다가올 미래는 그 누구도 정확히 알 수 없다. 다만 현시점에서 인공지능이 우리 인간의 삶에 지대한 영향을 미칠 것은 분야를 막론하고 분명해보인다. 인류가 인공지능과 공존할 수 있는 적절한 균형점을 잘 찾아봐야 할 것이다. 과유불급이라는 사자성어가 문득 떠오른다.

지난번 포스팅의 마지막 부분에서 나이가 들수록 시간이...

지난번 포스팅의 마지막 부분에서 나이가 들수록 시간이 빠르게 흘러간다고 느끼는 이유가 신경세포의 속도가 어릴 때보다 상대적으로 떨어지기 때문이라는 얘기를 했었다. 어릴 때는 신경세포의 속도가 빠르기 때문에 똑같은 시간동안 처리하는 정보의 양이 많았지만 나이가 들면 들수록 신경세포의 속도가 점점 줄어들어서 처리하는 정보의 양이 감소한다고 한다.

오늘은 이러한 현상을 극복할 수 있는 현실적인 대안에 대해 살펴보면서 시작한다. 다만, 이 부분을 읽으면서 개인적으로 드는 생각은 어릴 때, 머리가 잘 돌아갈 때 공부를 많이 해놓는 게 효율성 측면에서 가장 좋다는 것이었다. 투입시간 대비 얻어갈 수 있는 결과물이 가장 클 것이기 때문이다.

물론 어린 시절이 다 지났다고 해서 신세를 한탄하며 아무것도 하지 않은채 넋놓고 있기보다는 오늘 지금 이순간 앞으로의 인생에서 가장 젊은 이 때에 내가 할 수 있는 것에 집중하는 게 현실적으로 가장 바람직한 선택이지 않나 싶다. 과거로 돌아갈 수 없는 비가역적인 인생의 특성상 최선이 불가능하다면 차선으로라도 살아가야하지 않겠나 싶다.

다만 감사하게도 최근 급속도로 성장하고 있는 AI를 잘 활용한다면 그간 최선이지 못했던 상황을 조금이나마 반전시킬 수도 있겠다는 희망이 보이기도 했다. 지금은 말 그대로 4차 산업혁명이 진행중인 시기인데, 이것은 누군가에겐 위기일수도 있겠으나 다른 누군가에겐 새로운 기회가 될 수도 있기 때문이다. 기회는 날이면 날마다 오는 것이 아니다. 평소에 잘 준비하고 있다가 왔을 때 그 즉시 낚아챌 수 있어야 할 것이다.


이후에 뒤이어지는 내용들을 읽다보니 AI 기술이 급속도로 발전하다가 AI가 인간의 뇌보다 더 발달하게 될 경우 발생할 수 있는 문제들에 대한 얘기들을 만나볼 수 있었다. 독자인 나는 이 부분을 읽으면서 AI에 대한 지나친 맹신은 자칫 인류 멸망의 길로 가는 지름길이 될 수도 있겠다는 생각이 들었다. AI가 가져다주는 편리함을 잘 활용하되 이것이 우리의 생존을 위협하는 상황에 까지는 이르지 않도록 하는 것이 굉장히 중요하다는 생각이 든다. 이에 관해 저자는 세계의 강대국들이 이 선을 과연 넘지않고 지킬 수 있을지에 대해 의문을 품는데, 욕심도 지나치면 미치지 못함과도 같다는 과유불급이라는 사자성어처럼 강대국들간의 균형을 유지할 수 있는 지혜가 필요하다고 본다.

카페인을 마시면 신경세포 속도가 살짝 빨라집니다. 집중이 된다는 건 샘플링 속도가 올라가기 때문입니다. - P-1

집중하는 순간 신경세포 속도는 빨라지고, 그때 한 경험이 오래 기억에 남습니다. - P-1

우리가 경험을 편집하는 것이 인생을 가치 있게, 기억에 오래 남을 수 있게 살아가는 방법이 될 수 있습니다. - P-1

매 순간에 다 집중할 수 없다면, 어차피 사라질, 의미 없는 기억이 아니라 중요한 순간에만 집중을 하는 겁니다. - P-1

내 인생에서 중요하다고 싶은 순간에 집중하면 몇 년 후에 더 인상적으로 기억에 남을 수 있습니다. - P-1

결국 기억은 스프링과 같다고 볼 수 있습니다. 늘였다 줄였다 할 수 있다는 뜻이지요. 나한테 중요한 기억은 오래 남을 수 있도록 집중하고, 좌절감이나 슬픔과 연관된 기억은 신경쓰이지 않도록 압축하는 겁니다. 이게 편집입니다. - P-1

문제는, 실패하거나 화날 때 집착하고 집중하면, 실패에 대한 기억이 훨씬 더 길게 남는다는 겁니다. - P-1

그 순간에 집착하지 않으면 얼마 지나지 않아 기억이 다 사라지는데, 너무 화나서 "왜 내가 거기서 그 얘기를 안했지? 왜 답을 그렇게 썼지?" 자꾸 집착하고 질문하다 보니까 안 좋은 기억이 더 오래 남게 됩니다. 그런 집착을 버리는 것이 명상입니다. 놀랍게도 뇌과학적으로 근거가 있는 얘기이기도 하다는 것이지요. - P-1

결국 핵심은 뭐냐면, 인공지능은 세상을 어린 아이보다 몇 억 배 더 자주 볼 수 있다는 것입니다. 이는 AGI가 세상을 항상 슈퍼 슬로모션으로 경험할 수 있다는 얘기입니다. 즉, 우리 인간에게 있어서 1초라는 시간은 AI 입장에서는 100년이나 다름없습니다. 그 정도로 농밀하게 시간을 인식하고 활용할 수 있다는 얘기입니다. - P-1

결과적으로 인간과 인공지능의 대결에서 인간이 질 수밖에 없는 것은, 인공지능이 경험의 시간이 더 많기 때문입니다. 물리적 시간이 똑같다고 해서 경험이 똑같을 수는 없습니다. 결국 인간과 인공지능의 대결이라고 하는 것은 처음부터 전혀 다른 끗발이 다른 패를 들고 시작하는 불공평한 카드 게임과 마찬가지입니다. 같은 시간을 살아가더라도 인공지능이 활용할 수 있는 시간 자원의 가치는 인간의 그것보다 이루 헤아릴 수 없이 높습니다. - P-1

인공지능이 찾아낸 방식이 인간이 원하는 삶과 평행하면, 이걸 얼라인Align한다고 합니다. - P-1

기술은 진공상태에서 만들어지는 게 아닙니다. 사회라는 현실 속에서 만들어지는 것입니다. - P-1

"너는 전쟁에 관심 없어도, 전쟁은 너한테 관심이 많다." _레프 트로츠키Leon Trotsky - P-1

설령 우리가 인공지능에 관심 없다고 해도, 인공지능은 우리에게 관심이 많습니다. - P-1

"연민을 포기하는 순간 인류는 야만이 된다." _한나 아렌트 - P-1

세계화 시대에 어떤 일이 벌어졌냐 하면, 글로벌하게 살아남을 수 있는 사람들 ‘애니웨어 피플Anywhere People‘과, 고향에서만 살아갈 수 있는 ‘섬웨어 피플Somewhere People‘로 인간이 두 부류로 나뉘었습니다. 비율은 어땠을까요? 80:20 이었습니다. 80%가 섬웨어 피플입니다. - P-1

지금 벌어지고 있고 앞으로 벌어질 일은 과거의 재방송이라고 _애덤 투즈《붕괴》 - P-1

역사는 정확히 반복되지 않습니다. 하지만 우리가 역사를 참고할 수는 있습니다. - P-1

정글의 법칙의 대원칙은 맹수끼리는 싸우지 않는다는 것입니다. 가장 먼저 약한 동물을 잡아먹습니다. - P-1

제국주의를 관통하는 핵심은 힘의 논리입니다. 이데올로기는 상관없습니다. 공산주의, 자본주의, 민주주의 , 왕정을 불문하고 힘이 센 국가들이 모여서 전 세계를 나눠 가집니다. 놀랍게도, 우리는 21세기에 인공지능을 만들면서 19세기 제국주의로 다시 회귀하고 있는 것은 아닐까요? - P-1

"과거 세상은 지금 사라지고 있고, 새로운 세상은 아직 형태를 보이지 않는다. 이럴 때 항상 괴물이 등장한다." _안토니오 그람시(이탈리아 사상가) - P-1

괴물이 나타나더라도 언젠가는 사라집니다. - P-1

어차피 야만의 시대는 지나간다 - P-1

버티니까 다시 일어설 때가 오기는 왔습니다. - P-1

우리의 앞길이 천국 아니면 지옥으로의 두 갈래 길이 아니라, 미래에 천국과 지옥이 공존할 수도 있다 - P-1

만약 우리가 아무 준비도 하지 않은 채 디스토피아를 맞이하게 되면 그 대가는 쓰디쓸 겁니다. - P-1

운전할 때 사고가 일어나길 바라면서 안전벨트를 매는 사람은 아무도 없습니다. 안전벨트를 매지 않은 채로 사고가 나면 피해가 크니까, 불편함을 감수하고 매는 것이지요. - P-1

위험은 대비해야 하는 대상입니다. - P-1

우리는 AGI를 개발하기 전에 AGI와 공생할 준비를 갖춰야 할지도 모릅니다. - P-1

"인공지능과 인간의 미래는 공생 관계여야 한다." _최재천 - P-1

누가 이기고 지는 구도가 아니라, 함께 살아갈 길을 찾아야 한다 - P-1

공생이라는 장기적 생존 전략은 AI를 존중하지 않으면 불가능합니다. - P-1

역사적으로 약한 존재가 강한 존재를 통제한 적은 없었습니다. 예외는 두 가지입니다. 첫째, 주인-노예 관계. 둘째, 부모-자식 관계. - P-1

공생의 길을 찾는 게 가장 큰 숙제입니다. - P-1

20세기 미ㆍ소 대립의 핵심이 핵무기였다면, 21세기 미ㆍ중 대립의 핵심은 AGI입니다. - P-1

만약 인간이 인공지능 때문에 멸망한다면, 이 역사적 우연 (세계화 붕괴와 인공지능 브레이크스루의 동시성)이 가장 불행한 원인으로 꼽히리라 확신합니다. 하지만 이건 우리가 바꿀 수 없는 현실입니다. - P-1

AGI는 모든 문제를 풀 수 있지만, ASI는 인간 지능을 기하급수적으로 초월하는 존재입니다. - P-1

지구 역사에서 더 똑똑한 존재가 덜 똑똑한 존재에게 지배당한 적은 없습니다. 지금 인간이 지구의 주인인 건 인간이 가장 똑똑하기 때문입니다. - P-1

공생이 가능하다면 그게 제일 현명한 길일 겁니다. 인공지능을 노예가 아닌 파트너로 대하고, 상호 존중할 수 있도록 미리 설계해야 합니다. 어쩌면 그것이야말로 우리가 ASI시대에서 살아남을 수 있는 유일한 길일지도 모릅니다. - P-1

지난번 포스팅의 마지막 부분에서 욕망과 능력에 대한 ...

지난번 포스팅의 마지막 부분에서 욕망과 능력에 대한 얘기를 했었다. 여기서의 핵심은 욕망과 능력의 불균형에서 불행이 시작된다는 말이었다. 만약 자신의 능력보다 더 욕망하는 사람은 절대로 만족이라는 것을 할 수 없기에 항상 불행할 수밖에 없을 것이다. 반대로 자신의 능력 범위 안에서 욕망하는 사람은 자신이 욕망하는 것을 얼마든지 성취할 수 있기에 늘 자유로울 수 있고 언제나 행복할 것이다.

또한 저자는 만약 어떤 것을 더 원한다면 무작정 욕망만 할 것이 아니라 자기 능력을 먼저 키우고 난 뒤에 욕망할 것을 독자들에게 권한다. 오늘 처음 밑줄친 문장이 이러한 것을 잘 말해주는 듯하다.

돈을 좇는다는 건 능력보다 욕망을 앞세운 것이다. 그러니 고통스럽다. 돈이 나를 따라오게 만들어야 한다. 바로 능력을 먼저 키우는 것이다. 능력을 키우면 돈은 저절로 따라온다. 욕망하지 않았던 돈까지 따라온다. - P107

남들이 던지는 욕망에 휘둘리지 않는 것도 능력이다. - P107

욕망 앞에 능력을, 개념 앞에 직관을! - P107

인간이 느낄 수 있는 쾌락은 반드시 고통을 수반한다. - P109

우리의 뇌는 쾌락과 고통을 같은 곳에서 처리한다 _《도파미네이션》의 저자 애나 렘키 - P109

쾌락과 고통은 저울 양 끝에 놓인 추와 같은데, 평행을 유지하려는 성향이 강해서 한쪽으로 기울어지면 반드시 반대쪽에서 올라오려는 힘이 강해진다는 것이다. 즉, 우리 몸은 균형을 맞추려 노력하기 때문에 고통이 찾아오면 그것을 견디려는 반대 성향의 호르몬을 분비하고, 그때 인간은 쾌락을 느낀다. - P109

인간은 고통을 거쳐서 쾌락을 느낀다. 이런 쾌락이 좋은 쾌락이다. 고통 속에 아이디어를 도출하고, 두려움의 고통 속에 창업을 시작해 매출을 일으키고, 밤을 새워 일하는 고통을 거쳐 무언가를 이뤄냈을 때 바람직한 쾌락을 느낄 수 있다. - P109

"사람이 고통에 굴하는 것은 수치가 아니다. 쾌락에 굴하는 것이 수치다" _블레즈 파스칼『팡세』 - P109

그 순간은 내가 성장하는 순간이고, 깨어나는 순간이고, 위대해지는 순간이니 부끄러워할 필요가 없다는 말이다. 오히려 자랑스러워해야 하는 것이다. - P109

고통에 굴한다는 것은 포기하고 도망간다는 말이 아니다. 너무 고통스러운 순간에 잠시 주저앉아 숨을 고르고 다시 도전한다는 말이다. 고통에 굴해서 도망가는 것이 수치 중에 수치다. - P110

"인간은 파괴될 수 있지만 패배하지는 않는 거야."
_『노인과 바다』 - P110

패배(敗北)라는 단어를 사전에서 찾아보면 ‘싸움에 져서 도망함‘이라고 나온다. ‘패‘는 할 수 있다. ‘패‘는 얼마든지 해도 된다. 오히려 인간은 ‘패‘를 통해 배우고 성장한다. 하지만 ‘배‘는 하면 안 된다. ‘배(北)는 사람이 등지고 있는 형상을 따왔다. 져서 등을 돌리고 달아난다는 뜻이다. 이게 가장 안 좋은 상태다. 고통에 잠시 주저앉아 숨을 고르는 것은 창피한 일이 아니다. 그런데 고통을 못 이겨 달아나는 사람은 최악의 패배자다. - P110

인생의 해답은 역시 고통 속에 있다. 모든 문제는 고통을 피하려 들기 때문에 생긴다. 고통, 시련, 역경이라는 말의 어감을 무서워 하지마라. 우리를 행복으로 데려다줄 비밀의 열쇠다. - P111

고통을 피하지 말고 정면으로 껴안자. 작정하고 부딪치자. 조금만 견뎌보라. 어디서도 느낄 수 없었던 맛있는 쾌락을 느끼리라. - P111

"자신을 구하는 유일한 길은 남을 구하려고 애쓰는 것이다."
_니코스 카잔차키스 - P112

내 삶을 완성하기 위해서 남을 위해 살라 - P112

모든 존재는 자신 외 다른 존재에게 이롭기 위해 창조됐다. - P113

누구에게나 남을 돕고자 하는 본성이 있다. 이런 마음을 잘 이용하면 자기 안에 잠들어 있는 창의적인 아이디어를 밖으로 꺼낼 수 있다. 창의는 발휘하는 게 아니고 발휘되는 것이다. 진정 남을 위할 때 자기도 모르게 창의적인 아이디어가 불쑥 튀어나온다. - P113

즐겁게 일하면 결과는 당연히 좋다. - P115

돈을 가져올 걱정은 하지 말고 일단 남을 위하는 마음을 통해 여러분 속에 잠들어 있는 창의적인 아이디어를 끄집어내자. 그다음 일은 저절로 이루어진다. - P116

씩씩하게 자란 아이는 불평도 적다. 그 아이는 스스로 많은 것을 할 수 있으므로 타인의 손길도 그다지 필요로 하지 않는다. _장 자크 루소『에밀』 - P119

‘힘든 시간을 견디면 봄은 반드시 온다‘ - P119

돌이켜보면 나의 배움에는 인위적인 요소가 없었다. 바람이 불면 흔들리고 비가 오면 젖는 것처럼 상황이 닥쳤고 받아들였을 뿐이다. 그게 사회에 나오니 엄청난 힘으로 작용했다. - P120

생각하는 게 아니고 생각이 났다. - P121

자연을 체험하면 반드시 아이에게 도움이 된다 - P121

교회 다니는 사람들은 안다. 새 신자들이 은혜를 더 많이 받는다는 것을. 새 신자들은 하나님을 소유할 줄 모르기 때문이다. 아무것도 모르는 새 신자는 그냥 하나님 품 안에 존재할 뿐이다. 순수하게 품 안에 존재하니 하나님을 만난다. 그러나 시간이 지나고 교회를 오래 다니다보면 하나님을 소유하려 든다. 소유된 하나님은 존재하는 하나님이 아니라 내가 소유한 가짜 하나님이다. 나의 생각과 개념으로 정지시켜버린 하나님에게 소유하고 싶은 이것저것을 희구한다. 정지된 가짜 하나님에게 이런 소유의 기도를 해봐야 소용없다. - P124

「구약성서」의 주요 주제의 하나는 ‘네가 가지고 있는 것을 떠나라, 모든 속박으로부터 너 자신을 풀어라, 존재하라!‘이다. _에리히 프롬의『소유냐 존재냐』 - P124

「소유냐 존재냐」에서는 고전 불교를 언급하며 욕망을 끊는 것, 자아, 영속하는 물질, 자기완성에의 욕구를 포함한 소유욕을 단념하는 게 중요함을 강조한다. 자기완성에의 욕구까지 내려놓아야 비로소 자기 존재가 완성된다는 말이다. - P124

‘진리에 이르는 길은 의도를 갖지 않는 것‘ _칼 융 - P124

교회 안에서 그냥 존재할 때 은혜를 받는다. 뭔가를 바라는 의도를 가지고 교회 안에 있으면 진리에 이르지 못한다. 천국에 가겠다는 의도마저 내려놓는 순간, 그 순간부터 천국이 시작된다. - P125

균형. 결국은 균형이다. - P125

(돈을) 많이 가지지 않으려 해야, (자유를) 더 많이 가질 수 있음 - P125

같은 책을 다시 읽어보면 깨닫는 부분이 달라진다. 이미 스스로 그만큼 발전하고 변했기 때문이다. 그런 까닭에 고전은 여러 번 읽어야 한다. 읽을수록 내공이 쌓인다. 사유의 시선이 높아지고 몸값도 높아진다. - P125

소유는 정지된 것이고, 존재는 움직이는 것이다. 독서에서 소유는 암기고, 존재는 깨달음이다. 콘텐츠에서 소유는 모방이고, 존재는 창조다. 사람에서 소유는 꼰대고, 존재는 청춘이다. - P125

사랑이 그토록 힘든 이유는 사랑의 본질은 존재인데 사람들은 소유하려 들기 때문이다. 결혼생활이 힘든 이유도 마찬가지다. 한집에 살지만 각자 스스로 존재해야 하는데 서로 소유하려 들고 소유 당하려 한다. 소유하는 순간 사랑은 시든다. 꽃을 소유하기 위해 땅에서 뿌리째 뽑아 손아귀에 쥐어보라. 그 꽃은 금방 시들어 죽는다. 꽃을 땅에 존재하게 놔두고 거리를 두고 지켜보는 것이 사랑이다. 꽃잎이 떨어지고 새싹이 자라나는 과정을 사람이 방해하면 안 된다. - P126

서로의 존재가 맞지 않으면 소유가 아무리 많아도 잘 살 수 없다. - P126

돈은 움직인다. 그래서 돈을 좇아 소유하려 하면 돈이 벌리지 않는다. 돈은 계속 움직이게 해줘야 한다. 내게 들어온 돈을 꽉 쥐고 있으면 뿌리 뽑힌 꽃처럼 시들어버린다. 돈을 선순환으로 움직이게 보내줘야 한다. 제일 좋은 방법이 타인을 위해 돈을 흘려보내는 것이다. 지구를 위해, 가치를 만들기 위해 돈을 흘려보내는 것이다. 이런 식으로 다른 사람을 위해 흘러간 돈은 스스로 성장해 내게로 돌아와 품 안에 존재하게 된다. - P126

돈은 염소다. 방목하는 염소들이 어느새 새끼를 데리고 돌아오는 것과 마찬가지다. 도망갈까 걱정하지 마라. 아끼고 사랑하고 예뻐해주되 가두지 마라. 갇힌 염소는 새끼를 낳을 수 없다. 나가서 짝을 만나야 새끼를 낳을 것 아닌가. - P127

기꺼이 내어주면 돈은 저절로 성장하고 식구를 늘려서 내게로 다시 돌아온다. 그때 필요한 만큼만 가지고 또 세상으로 흘려보낸다. 이것이 선순환으로 돈을 버는 방법이고 돈을 좇지 말라는 말이며 하루하루 행복하게 살면서 돈이 저절로 벌리는 원리다. - P127

돈은 그 어떤 생명체보다 생명력과 생식 능력이 강하다. 갇혀 있으면 바로 죽는다. 내가 마실 우유만 조금 짜 놓고 넓은 풀밭으로 내보내라. 신나게 뛰놀며 덩치가 커진 돈이 저녁이 되면 다시 돌아올 것이다. 돈은 살아 있다. 소유하지 말고 존재하게 하라. - P127

반드시 소유의 비율이 존재의 비율보다 낮아야 한다 - P127

모든 문제는 해결책과 함께 온다 - P130

가장 높은 단계의 선비는 도를 들으면 그것을 성실하게 실천하지만, 중간 단계의 선비는 도를 들으면 반신반의하고, 가장 낮은 단계의 선비는 도를 듣고서도 그것을 크게 비웃어 버린다. _『노자의 목소리로 듣는 도덕경』 - P131

당신이 뭔가를 할 때 고통스럽지 않다면 의심하고 점검하라. - P131

대장부는 중후함에 처하지 얄팍한 곳에 거하지 않는다. 그 참된 모습에 처하지 그 꾸며진 곳에 거하지 않는다. 그러므로 저것을 버리고 이것을 취한다. _《노자의 목소리로 듣는 도덕경》 - P128

고전은 우리보다 먼저 살아본 선배들이 남겨놓은 실패하지 않는 법에 관한 매뉴얼이다. 고전은 온통 실패와 고난과 역경의 이야기다. 선배들이 창피한 얘기를 기록해놓은 데는 다 이유가 있으리라. - P132

고전은 치열하게 읽어야 한다. 로맨스 소설 읽듯이 읽으면 안 된다. 수천 년의 고통과 고난과 시련을 이겨낸 삶의 비밀은 한눈에 바로 알 수 있는 해답으로 존재하지 않는다. 공을 들여 풀어야 하는 방정식으로 존재한다. 읽고 또 읽고, 받아 쓰고 생각해서 자신에게 맞는 해답을 스스로 찾아야 한다. - P135

고전의 답은 한 가지가 아니다. 고전의 답은 시대에 따라 사람에 따라 변한다. 그래서 고전이다. 모든 시대, 모든 사람에게 실패할 수 없는 해답을 제시해준다. 대신 내가 치열하게 풀어야 한다. - P136

자연을 둘러보면 어느 하나 열심히 살지 않는 존재가 없다. 부지런히 꽃을 피우고, 꿀을 찾아 거센 바람을 뚫고 비행하며, 태풍이 불어 나뭇가지가 꺾여도 다시 새로운 가지를 싹 틔우고, 짝을 찾아 목숨을 걸고 뿔을 부딪친다. - P136

고전은 그 무엇보다 신선하고 상쾌하다. 읽는 순간, 내 가슴속에서 늘 새롭게 태어나기 때문이다. - P136