그 후 AI가 급속도로 발전하자, 우리는 점점 더 우...

그 후 AI가 급속도로 발전하자, 우리는 점점 더 우려됐다.
새롭게 등장한 창업자들이 초지능을 거의 신적인 ‘능력의 원천‘으로 묘사하는 것을 보았기 때문이다. 그들은 자신들이 그힘을 통제할 수 있다고 믿었다. 많은 창업자에게 가장 큰 위험은 ‘잘못된 사람‘이 그 능력을 가지는 것이었다. 그래서 그들은
‘AI 패권 경쟁‘에서 이겨야 한다고 주장했다. 그러나 정작 "우리가 AI를 가지는 게 아니라, AI가 우리를 가진다면?", "AI 경쟁의 진짜 승자가 AI 그 자체라면?" 같은 질문에는 아무도 답하지 않았다.
우리는 AI의 성능이 믿을 수 없을 만큼 빠르게 성장하고 있음을 보았다.
반면 우리가 속한 ‘AI가 잘못되지 않게 만드는 방법을 연구하는 분야는 매우 느리게 진전되고 있었다. - P21

지구 어디에서든, 어떤 기업이나 단체가 지금과 비슷한 기술이나 이해 수준으로 초지능을 만들어낸다면, 지구상의 모든 사람은 죽게 될 것이다.
우리는 이 말을 과장으로 하는 것이 아니다. 효과를 노린 수사도 아니다. 현재 인공지능을 둘러싼 지식, 증거, 제도적 행태를 그대로 연장해보면, 그렇게 되는 것이 가장 직접적인 결론이라고 믿는다.
이 책에서 우리는 그 이유를 체계적으로 설명할 것이다.
그리고 충분히 많은 의사결정자와 일반 시민이 인공지능 문제를 진지하게 받아들이도록 설득하려 한다. 현재의 궤적은 치명적이지만, 아직 희망은 있다. 기계 초지능은 아직 존재하지 않으며, 그 탄생은 여전히 막을 수 있다. - P22

처음에는 인류가 초인적 AI로 인해 멸종할 것이라는 주장이 쉽게 받아들여지지 않을지도 모른다. 이 책의 나머지 부분은 바로 그 점을 설명하기 위한 것이다. 복권 당첨 확률을 계산하려면 간단한 산수가 필요하고, 얼음이 예측 가능하게 녹는 이유를 설명하려면 열역학의 개념이 필요하듯, 인공지능이 인류에게 임박한 멸종 위험을 안기는 이유를 이해하기 위해서도 약간의 배경지식이 필요하다. 그 기반이 갖춰지고 나면, 현재 인류가 걷고 있는 궤적의 결말이 끔찍할 정도로 그리고 두려울 만큼 명확히 보인다. - P25

인간은 자신의 지능으로 미래를 조종할 능력을 지녔다. 그능력은 사용할 때만 작동한다. 우리가 해야 할 일을, 필요한 순간에 실제로 할 때만 말이다. 지능은 그 자체로는 힘이 없다. 우리의 행동을 바꿀 때에만 그것은 진짜 힘이 된다. - P28

인간의 지능은 모든 힘의 근원이다. 우리의 기술도 그 지능에서 나왔다. 같은 인류 내에서도 특정 집단이 기술적 우위를 조금 더 오래 점하기만 해도 전쟁의 결과는 ‘우리는 총을 가졌고, 그들은 없다‘로 갈린다. 종 사이에서는 그 격차가 더 극명하다. 개별 침팬지가 인간을 죽일 수는 있지만, 인류가 침팬지의 멸종을 막기 위해 보호구역을 만드는 데는 이유가 있다.
지금까지 인류의 특별한 능력에는 경쟁자가 없었다. 하지만 그 능력에서조차 우리를 앞서는 기계의 정신이 등장한다면? - P51

이렇게 경사하강을 통해 수천억 개의 가중치를 반복적으로 미세 조정해 인간 언어와 거의 구분되지 않는 예측을 내놓는 모델이 바로 거대 언어모델large language model, LLM이다. 그중에서도 기초단계의 모델을 베이스 모델base model이라 부른다.
이 베이스 모델을 ChatGPT 같은 ‘도움이 되는 LLM‘으로 발전시키려면 한 단계가 더 필요하다. 즉, 다음과 같은 형식의 데이터를 이용해 또 한 번의 경사하강을 수행한다.

사용자 스페인의 수도는 어디인가요?
AI 마드리드입니다.

이 단계의 목적은 LLM에게 ‘스페인의 수도가 마드리드‘라는 사실을 가르치려는 게 아니다. LLM은 이미 인터넷 대부분의 자료를 훈련하여 그 사실을 알고 있다. 진짜 목적은 LLM이
‘AI‘ 뒤에 이어질 텍스트를 도움이 되는 대답으로 채우게 하는 것이다. 예컨대 "왜 그런 걸 나한테 물어? 직접 검색해봐"
같은 현실적인 인간 반응 대신, 상냥하고 유용한 답변을 내놓도록 미세 조정하는 것이다. - P59

익숙하고 편한 문제로 돌아가려는 유혹을 뿌리치고, 가능한 한 빨리 과제를 끝내고 이기는 것만을 목표로 삼는 사고방식이다.
끝까지 몰아붙이는 사고방식이다.
이런 사고방식에는 하나의 깊은 중심 패턴이 존재한다. 그패턴은 다양한 문제의 수많은 해법에서 반복적으로 발견된다. 환경의 구조를 모델링하고, 그 모델을 이용해 조종하며, 예상 밖의 사건에 주의를 기울이고 그 원인을 추적하고, 역경 속에서도 계속 나아가는 것이다. 이러한 전략은 수학 문제 해결에도, 컴퓨터 보안 문제 해결에도 모두 유용하다.
AI를 ‘기르는 사람‘이 점점 더 어려운 문제들, 심지어 이전에 한 번도 접한 적 없는 문제들까지 풀어내라고 요구할수록,
경사하강으로 이런 사고의 움직임은 점점 강화된다. 그 결과AI는 점점 더 끈질기게 사고하고 계획하고 포기하지 않는 존재 즉, 끝까지 밀어붙이는 지능, 욕망을 가진 것처럼 행동하는 지능으로 진화한다. - P80

뇌 속 GPS 체계는 우리가 걷기라고 인식하는 일관성...

뇌 속 GPS 체계는
우리가 걷기라고 인식하는
일관성 있고 의도된 몸의 움직임을 가능하게 한다.
어디로 걸어간다는 것은 뇌의 길 찾기 시스템에
달려 있고, 걷는다는 것은 뇌의 지도 그리기와
길 찾기 시스템에 많은 양의 정보를 지속적으로
제공한다는 것을 의미한다. - P102

걷기는 도시를 알아가는 가장 좋은 방법이다. 운전을 하거나 차를 탄 상태에서는 도시 분위기나 에너지, 생활 속도를 알수 없다. 걸어 다닐 때야말로 비로소 도시의 냄새, 경치, 인도를 바삐 걸어가는 발자국 소리, 서로 먼저 가기 위해 어깨를 스치는 상황, 가로등, 대화 소리들을 포함한 도시의 삶과 명암에 직접적으로 녹아들 수 있다. - P133

윈스턴 처칠은 "사람은 건물을 만들고 건물은 사람을 만든다We shape our buildings, and then ourbuildings shape us."라는 명언을 남겼다. 같은 맥락에서 사람이 도시를 만들고, 도시는 사람을 만드는 것이다. 이 비유를 확장하자면 우리가 만드는 도시 형태가 우리의 도심 속 걷기를 규정하기에, 그것이 좋은 방향이든 나쁜 방향이든, 결국 도시는 사람을 걷게 만든다. - P136

들숨에서 날숨으로의 전환점에 집중하는 것이 익숙해지면...

들숨에서 날숨으로의 전환점에 집중하는 것이 익숙해지면 이번에는 날숨에서 들숨으로의 전환점에 집중하는 것을 마찬가지 방법으로 훈련한다. 날숨에서 들숨으로의 전환점에 집중하는 것도 익숙해지면 이제는 들숨날숨의 전환점과 날숨-들숨의 전환점에 연속하•여 계속 집중하도록 한다. 이것이 들숨과 날숨 사이의 간격을 바라보는 호흡 격관 명상이다. - P136

호흡에 집중하되 들숨날숨의 전환점, 그 간격, 그 텅 빈 고요함, 아무것도 없는 그곳에 집중하는 것이다. 호흡을 이용한 격관 명상은 접촉점 혹은 아랫배 호흡 명상에 바탕을 두고 있기에 편도체를 안정화하는 내부감각 훈련이면서 동시에 텅 빈 자리와 고요함을 바라보는 자기참조과정 훈련이기에 전전두피질을 활성화하는 훈련이기도 하다. - P137

연민 명상은 시간이나 장소에 국한하지 않고 일상생활 전반에 걸쳐 꾸준히 실천되어야 한다. 예를 들어 가족이나 친구와 갈등을 겪는 상황에서 ‘내가 옳은 것을 주장하는 것‘보다는 ‘상대방을 따뜻하게 보살피고 이해하는 것‘이 먼저라는 인식을 바탕으로 내면의 부정적 감정을 내려놓는 연습이 필요하다. 즉 옳은 것(being right)보다는친절한 것(being kind)이 우리 삶에서 훨씬 더 중요하다는 점을 잊지말아야 한다. - P171

반면 모든 집착을 내려놓고 이미 가진 것에 만족하며, 수용의 태도를 통해 조건에 의존하지 않는 무조건적인 행복을 실현할 수 있다면, 우리는 어떠한 상황에서도 행복할 수 있다. ‘오유지족(吾메知足)‘
은 ‘나는 오직 만족만을 안다‘는 의미로, 이미 가진 것에 충실하며 외부 조건에 집착하지 않는 마음 상태를 가리킨다. 마음에 걸리는 것이 없고, 두려움이 사라진 상태다. 진정한 수용의 태도는 아직 인지 못한 것을 갈망하는 대신, 현재의 상태, 이미 가진 것을 받아들이 - P183

고 감사하는 데서 시작된다. 우리가 이미 가진 것을 받아들이고 만족할 수 있다면, 어떠한 역경이나 실패도 우리의 내면에 큰 상처를 남기지 않는다. 마이스터 에크하르트(Meister Eckhart)의 말처럼 "모든 것을 가진 상태가 행복한 것이 아니라, 모든 것을 놓아버려도 더이상 필요한 것이 아무것도 없는 상태"가 진정한 행복이다. - P184

우리의 집중력을 방해하는 것은 해결되지 않은 문제들과...

우리의 집중력을 방해하는 것은 해결되지 않은 문제들과 마주치지 않는 태도이다. 그러므로 오전 시간을 통해 내게 닥친 문제 - P104

를 잘 정리하는 일은 당신의 목표를 향해 필요한 집중력을 높이는데 귀중한 기회이다. 우리는 계획의 시간을 통해 삶을 제어하고, 더 큰 어려움과 도전에 대처하기 위한 전략을 세울 수 있으며 풀리지 않은 문제를 해결할 수 있는 실마리를 찾을 수 있다. 명심해야 한다. 당신에게 필요한 건 고도의 집중력이다. 집중력은 목표를 향한 여정에 가장 필요한 연료다. 실패하는 사람은 중요한 순간에 집중력이 흐려져 넘어지기 쉽고, 성공하는 소수의 사람은 결정적인 순간에 초인적인 집중력을 발휘한다. 이는 결코 우연이 아닌 그 순간을 위해 끊임없이 준비해온 연습의 과정이다. - P105

조세 무리뉴의 말처럼 상대가 더 강하다는 것을 인정하고 더나은 전략을 찾는 것 그리고 자신을 객관적으로 평가하는 것은 건실한 삶의 축을 만든다. 냉철한 자기 평가는 현실을 정확하게 인식하고, 이를 바탕으로 더 나은 전략을 수립하는 발판이 된다.
반대로 더 나은 전략을 모색하고 실행하기 위해서는 냉정한 자기 평가가 필수적이다. 이 두 가지는 서로를 보완하고 인생을 발전시키는 기폭제가 된다.
인생은 지속적인 배움과 개선의 연속이다. 자신을 ‘정신적 고인물‘로 만들지 않으려면, 항상 자신의 약점을 극복하고 더 나은전략을 찾아나가는 과정을 멈추지 않아야 한다. 이 두 가지 원칙을 실천함으로써, 우리는 더 강한 나로 거듭날 수 있을 것이다. - P111

나는 오래전부터 명상의 기본 자세는 서서 하는 것이라...

나는 오래전부터 명상의 기본 자세는 서서 하는 것이라고 생각해왔다. 특히 명상 초보자에게는 서서 하는 명상을 권한다. 훨씬 더 깊은 명상을 할 수 있고 졸리지도 않고 집중도 잘된다. 다리 저림도 없다. 서서 명상을 할 때에는 중심체중의 미세한 변화나 약간의 자세변화도 쉽게 인지할 수 있어 초보자도 움직임 명상의 묘미를 느낄수 있다. 몸에서 올라오는 감각에 더 잘 집중할 수 있어 호흡 명상을 더 깊게 할 수도 있다. 신체의 움직임과 호흡을 연계하여 수행하는 명상 중의 하나다. - P111

마음근력을 강화하기 위한 유산소운동을 할 때 이를 악물고 정신력으로 달려야 한다고 오해하는 사람이 많다. 이처럼 체력의 한계까지 밀어붙이는 운동은 그 효과가 미미할뿐더러 오히려 몸과 마음을 약화하는 부작용이 발생할 가능성이 있다. 무엇보다 부상의 위험도 있다. 마음근력 향상에도 별 도움이 되지 않는다.
고유감각 훈련을 위한 가장 효율적인 유산소운동은 심박수가 2단계에 머물도록 조절하는 존2 운동임을 다시 한번 강조한다. 실제로 내면소통 명상 유튜브 채널에 달린 수많은 댓글 중에 가장 많은 사람이 확실한 효과를 보았다고 증언하고 있는 것이 바로 존2 운동이다. - P117

어디를 언제까지 가야 한다는 의도도 없다. 지금 여기에 내가 오롯이 존재하며 호흡하고 있을 뿐이다. 지극한 행복감이 온몸에 퍼져간다. 이것이 고유감각에 집중하는 유산소운동으로서의 달리기 명상이다. 앉아서 하는 명상보다 훨씬 더 집중도 잘되고 명상의 효과도 높다. 고유감각 훈련은 실외에서 하는 달리기 운동뿐 아니라 실내자전거나 로잉머신 등 실내에서 하는 유산소운동을 통해서도 가능하다. 존2 운동에서는 심박수가 평소보다 약간 증가하고 규칙적인 상태가 한동안 유지되기 때문에 불안감이나 분노 등 부정적 감정을 완화하는 데 탁월한 효과가 있다. 고유감각에 집중하는 존2 운동이야말로 최고의 명상이다.
존2 운동을 하면서 알아차림 훈련을 하면 몸과 마음의 건강을 모두 얻을 수 있는 최상의 달리기 명상이 된다. 나는 이 움직임 명상을
‘주환2 운동‘이라 부르고자 한다. - P121