자유의지가 없는 물리학적 이유(❌)존재하는 철학적 이유

자유는 진화한다 - 자유의지의 진화를 통해 본 인간 의식의 비밀
대니얼 C. 데닛 지음, 이한음 옮김 / 동녘사이언스 / 2009년 10월

자유의지가 “없다”고 주장하는 건 간단하다. 그 증거를 과학적으로 제시하는 일도 손쉽다. 조금만 머리를 굴려 본다면, 누구나 이 논리를 따라갈 수 있다. 우리에게는 물리학적 개념에 무지한 자유주의론자 데카르트가 있다. 이 사람의 말을 듣고 그의 주장을 물리학적으로 철저히 반박해 보자.

데카르트: 우리가 흔히 믿는 자유의지란 "외부나 과거의 결정 없이, 내 육체의 행동을 온전히 내가 주도하고 결정하는 능력"이다. 내가 원할 때 손목을 움직이거나 멈출 수 있는 바로 그 느낌이다.

하지만 신경 신호, 근육 수축이 손목 움직임의 원인이기도 하지 않은가?

데카르트: 그렇다. 그렇지만 근육 수축, 신경 신호 등등으로 원인을 거슬러 올라가다 보면, 손목을 움직인 '최초의 원인'에 도달할 것이다. 그 최초의 원인이 바로 비물리적인 마음--의도, 욕구, 결단 등--이다. 비물리적인 마음이 자유의지를 발휘해 물리적인 몸을 움직인 것이다.

우리의 손목과 몸은 완벽한 물리적 체계이다. '물리주의(또는 물리적 인과의 폐쇄성 원리)'에 따르면, 물리적 사건은 물리적 사건에 의해서만 발생한다. 비물리적인 마음이 물리적인 뇌나 근육에 영향을 미쳐 손목을 움직이게 했다면, 마음 또한 물리적 세계에 에너지를 개입시킨 물리적 원인이 되어야 한다. 반대로 마음이 정말로 물리적 법칙과 완전히 무관한 '비물리적 존재'라면, 그것은 물리적 세계의 일부인 몸에 아무런 영향도 줄 수 없다.

데카르트: 마음은 물리적 법칙의 결과가 되어서는 안 된다. 어떤 경우엔 나의 몸이 물리적 영향을 받아 자유의지 없이 움직이는 경우도 있겠지만, 진정한 자유의지란 마음 스스로가 '아무런 선행 원인 없이 스스로 발동하는 최초의 원인'이다.

아무런 선행 원인도 없이 갑자기 튀어나오는 사건을 우리는 '자유'라고 부르지 않고 '무작위(Randomness)' 또는 '우연'이라고 부른다. 만약 마음의 결단이 이전의 물리적 뇌 상태, 기억, 성격, 가치관과 아무런 인과적 연결이 없다면, 그것은 내가 주체적으로 선택한 것이 아니라 '원인 없는 난수(소음)가 발생한 것'에 불과하다. 내가 통제할 수 없는 무작위적 사건을 어떻게 '나의 자유의지'라고 부를 수 있겠는가?

우리는 물리주의적 결정론에 따라, 물리적 사건 이외의 원인은 존재해서는 안 되며, 그렇게 따지면 자유의지란 불가능한 개념임을 성공적으로 증명했다. 그런데 데카르트는 새로운 전략을 들고 나온다. 그는 양자역학의 창조자 에르빈 슈뢰딩거의 영향을 받아 슈뢰-카르트로 진화한다.

슈뢰카르트: 좋다. 고전 물리학의 완벽한 결정론 안에서는 내 행동의 원인이 태초의 빅뱅까지 추적되니 자유의지가 설 자리가 없다는 걸 인정한다. 하지만 현대 양자역학은 미시 세계가 본질적으로 '비결정론적(또는 확률적)'임을 증명했다. 물리주의가 꼭 결정론적으로만 이루어진 건 아니라는 걸 인정할 것이다. 뇌 신경 전달 과정 어딘가에 양자적 비결정론이 있고, 그 불확정성 덕분에 내 선택은 과거의 물리적 상태로 100% 결정되지 않는다. 이 양자적 중첩과 비결정론적 틈새야말로 마음이 결정론적 물리주의를 뚫고 자유로운 결단을 내릴 수 있는 완벽한 물리적 공간이 된다.

우리는 여기에서 양자역학이 자유의지의 구원자가 될 수 없음을 증명할 것이다.

안타깝게도 비결정론은 결정론보다 자유의지에 훨씬 더 치명적이다. 당신의 주장대로 뇌 속 미시 입자들의 양자 도약이 자유로운 결단의 순간을 만들어낸다고 해 보자. 그 양자적 사건이 일어난 원인은 무엇인가?

슈뢰카르트: 원인은 없다. 양자역학의 핵심이 바로 선행 원인 없이 일어나는 근본적 비결정론이기 떄문이다. 이 엄밀한 무작위적 틈새 덕분에 과거의 물리적 원인에 얽매이지 않는 진짜 '새로운 선택'이 가능해진다.

선행 원인이 없다는 것 역시 단지 무작위성일 뿐, 이 또한 자유의지가 아니다. 당신이 '살인을 할 것인가, 말 것인가' 치열하게 고민하다가 정직하게 살기로 결심했다. 그런데 이 결정을 내린 최종 열쇠가 뇌 속 미시 입자가 확률적으로 툭 튀어 오른 양자적 무작위성 때문이었다면, 그것이 어째서 '당신'의 자유로운 의지인가? 그것은 뇌 속에서 갑자기 터진 ‘주사위 던지기'나 '시끄러운 소음'에 당신의 행동이 휘둘린 것에 불과하다.

슈뢰-카르트는 양자역학의 비결정론적 물리 법칙 하에서 자유의지를 살릴 방법으로 양자역학을 도입한 철학자 로버트 케인의 이론을 결합한다. 이제 그는 슈뢰-케인-카르트로 진화한다.

슈뢰-케인-카르트: 우리는 살면서 중요한 도덕적·실천적 딜레마에 부딪히기도 한다. 예를 들어 '힘들어도 정직하게 살 것인가, 편법을 쓸 것인가' 고민하는 순간에 닥친다. 이때 우리의 뇌 안에서는 두 가지 선택지(가치관)가 충돌하며 역학적으로 불안정한 상태(혼돈)가 발생한다. 이 갈등의 과정 자체가 우리에게는 바로 어느 한쪽을 선택하려는 '의지적 노력'이다. 이 팽팽한 균형 깨짐의 순간에 비결정론적, 확률적 요소가 개입하여 한쪽으로 결정되는데, 이것이 바로 우리의 결단이다. 이 사건은 뇌 안의 무작위성으로 결정된 것처럼 보이지만, 사실 양쪽 선택지 모두 '내가 하려고 치열하게 노력했던 결과'이기 때문에, 어느 쪽이 선택되든 그 결과는 온전히 나의 책임(Ultimate Responsibility)이 된다.

로버트 케인은 이 이론을 자기 형성 행동(SFA: Self-forming actions)이라고 이름붙였다. SFA들은 하나둘 쌓이면서 나의 성격, 가치관, 성향을 형성시키며, 비록 일상적인 선택들은 굳어진 내 성격에 따라 반쯤 결정되어 흐르더라도 그 성격의 뿌리가 되는 SFA의 순간들에 내가 최종 책임을 진다. 그렇기에 인간에게는 인간에게는 자유의지가 있다는 것이 바로 철학자 로버트 케인의 주장이다.

이제 우리에겐 대니얼 데닛이라는 저명한 철학자가 나타난다. 그는 물리주의에 입각해 의식과 진화를 성공적으로 설명해 낸 철학자이다. 그는 자유의지가 없다고 주장하는 우리에게 든든한 지원자로서 철학적이고 논리적인 힘을 보태 줄 것이다.

대니얼 데닛: 선택의 결정적인 순간에 무작위적(Random) 요소가 개입하고, 그것이 실제로 자유의지라고? 아까도 밝혔지만 결정론적이든 비결정론적이든 무작위적 요소는 자유의지가 아니다. 그것은 오히려 성능이 나쁜 컴퓨터의 '시스템 소음'이나 '에러'와 다를 바 없다. 의지의 결과가 소음에 의해 좌우된다는 말인데, 그 말의 뜻은 '내가 자유롭게 선택한 것'이 아니라 '순전한 운'에 의해 결정된 것과 다름없다.

그렇다. 이로서 자유의지는 없다는 것이 밝혀졌다. 고전역학적 결정론으로도, 양자적 비결정론으로도 자유의지는 허상인 것이다. 

그런데 자유의지가 허구라는 것이 내 견해란 말인가? 내 의식 이론이 함축한 의미가 바로 그것이란 말인가? 천만의 말씀이다. (p310)

데닛은 계속 입을 나불댄다. 뭔가 이상하다. 그의 입에서 나오는 말들을 자세히 들어 보니, 그는 이미 자유의지는 없다는 우리의 명백한 결론과는 정반대의 주장을 펼치고 있다. 우리는 소리친다. ”저 까마귀의 입을 막아!“ 하지만 이미 늦었다.

대니얼 데닛: 오히려 완벽하게 결정론적으로 작동하는 우주라도 자유의지는 있을 수 있다. 양자컴퓨터가 아닌, 고전적으로 작동하는 알파고 바둑 AI를 보자. 이 AI는 완벽하게 결정된 알고리즘과 학습된 지식을 따른다. 하지만 상대방의 수에 따라 수백만 가지 대안을 검토하고, 최선의 선택을 내리며, 스스로 학습하여 다음 게임에 결과를 반영한다. 인간의 자유와 도덕적 책임도 이와 같다. 우리 뇌가 물리 법칙(결정론)을 따르더라도, 복잡한 진화의 결과로 '외부 자극을 피하고, 미래를 예측하며, 스스로를 통제하는 능력(Evitability)'을 갖추었다면 그것이 바로 자유의지이다.

아니, 대니얼 데닛이 주장하는 물리주의적 의식 이론에 따라, 당연히 자연스레 ‘자유의지란 허구에 불과하다’는 결론이 도출되는 것 아니었던가?

-----

데닛은 『자유는 진화한다』라는 책에서 오히려 자유의지는 존재한다는 주장을 한다. 이것이 바로 물리주의와 자유주의가 함께 가능하다는 양립가능론 (Compatibilism) 이다.

당신이 자신의 뇌에서 행복하게 돌아다니면서 운동겉질에 의사 결정의 화살을 쏘는 비물질적인 영혼으로부터 튀어나오는 자유의지만이 진정한 자유의지라고 생각한다면 (당신이 의미하는 자유의지에 비추어볼 때) 내 견해는 자유의지는 전혀 없는 것이 된다. 한편 당신이 자유의지가 초자연적이 되지 않고서도 도덕적으로 중요할 수 있다고 생각한다면, 내 견해는 자유의지가 정말로 있다는 것이 된다. (아마 당신이 생각하는 것과 똑같지는 않을 테지만) (p311)

특히 나는 대니얼 데닛의 양립가능론에 영향을 받아, 나의 소설 『엔트로피아』에서도 등장인물의 입을 빌어 결정론적 세계관 내에서도 자유의지가 양립가능함 주장했다. 그리고 그 주장은 실질적으로 내 소설의 핵심 메시지이기도 하다.

모든 미래가 결정론적으로 정해져 있고 변화하는 건 없다고? 그건 비겁한 결과론적 해석일 뿐이다. 비록 역사가 바뀌지 않더라도 난 순간순간 미래를 직접 직조해 나가고 있다. (『엔트로피아』 작중 인물인 완서준의 말)

허구의 갈림길이라도 내가 그것을 선택했다고 믿으면, 자유로운 의지를 가진 한 명의 인간이라는 감정으로 충만해지오. (『엔트로피아』 작중 인물인 장군의 말)

여전히 사람들은 데닛의 이 주장에 대해, ’하나의 편리한 대용품으로써, 우리 사회에 없으면 안 되는 법적이거나 도덕적인 문제, 예를 들어 살인자의 형량을 결정하는 일 때문에 하나의 허구로써 자유의지를 남겨 놓으려 한다‘는 식의 해석을 한다. 하지만 데닛의 주장은 전혀 그런 게 아니다. 데닛은 사랑, 돈 같은 것이 실재하는 것처럼, 자유의지도 실재한다고 주장한다. 어떤 사람이 큐피드 신화--어떤 천사 같은 신이 날아다니며 화살을 쏘아 사람들을 어떤 감정에 빠지게 하는 것--를 통해 사랑을 정의하려 한다. 우리는 그 사람에 대해 반박을 한다. “사랑에 빠진다는 감정은 큐피드 신화도, 그 작은 화살도 필요 없다. 단지 뇌 속 신경전달물질과 시냅스 같은 걸로 전부 설명할 수 있다. 그것이 바로 사랑의 정의이다.” 우리는 물리주의적으로도 성공적으로 사랑에 대한 정의를 내렸다. 우리는 물리주의에 입각해 사랑의 개념을 해체하거나 없애려 하지 않았다. 

‘돈’ 또한 마찬가지이다. 그것이 아무리 물리주의적으로 단순한 원자와 분자로 이루어진 종이나 금속이라도, 우리가 그 물질을 주고받으며 그것에 가치를 가진다고 느낀다면 그것의 가치와 힘, 권력은 실존한다. 

자유의지도 이와 같다. 진짜 문제는 자유의지가 없는데 있는 척하는 것이 아니라, 사람들이 '자유의지'라는 단어에 부여한 신비주의적, 초자연적 정의(영혼, 원인 없는 최초의 원인 등)가 틀렸을 뿐이라는 점이다. 그 잘못된 통념의 정의를 버리고 "자율적 통제 능력"이라는 과학적으로 타당한 정의로 교체하면, 우리는 거짓말을 할 필요 없이 "자유의지는 진짜로 존재한다"고 당당하게 말할 수 있다.

이러한 사회적, 도덕적 정의를 내버려두지 않고 단지 결정론이냐 물리주의냐 하는 형이상학적 문제만 고집한다면, 오히려 다른 문제들이 발생할 수 있다. 우리가 정말로 형이상학적으로 무한한 자유를 가진다면, 아무런 제한 없이 모든 가능성이 우리의 눈 앞에 열려 있다면, 우리는 오히려 자유로울 수 없다. 우리는 심리학적인 충동의 노예가 될 수밖에 없다. 공부를 하려고 책상에 앉았는데 휴대폰 알림, 창밖의 소리, 냉장고 속 과자 등 모든 '기회자극'에 민감하게 반응하는 삶이다. 데닛은 세이렌의 유혹에 맞서 싸우기 위해서 스스로를 묶어 버린 오디세우스의 예시를 든다. 주변의 모든 기회에 촉각을 세우고 있는 사람은, 장기적인 목표를 달성하지 못하고 눈앞의 자극에 이리저리 휘둘리는 '자유롭지 못한 상태'에 빠지게 된다.

우리는 사실상 우리에게 오는 기회 중 상당수에 둔감해지는 방법을 배울 때에만 도덕적으로 적절한 의미에서 자유로울 수 있다.

데닛은 인간이 진화 과정에서 개발한 가장 위대한 자기 통제 기술 중 하나가 바로 "자신이 쓸 수 있는 선택지를 스스로 닫아버리는 능력"이라고 말한다. 마찬가지로 원칙과 도덕 같은 자유의지와 밀접히 엮여 있는 개념들은, 우리가 "아무리 돈이 급해도 남의 것을 훔치지 않는다"거나 "아무리 피곤해도 아이를 버리지 않는다"는 도덕적 원칙을 세울 때에만 발휘된다. 우리는 훔치거나 아이를 버릴 수도 있는 수많은 현실적 '기회'에 대해 아예 뇌의 고려 대상에서 제외(둔감화)시켜 버려 자유의지를 쟁취한다. 진정한 자유롭고 도덕적인 주체는 도덕에 위배되는 기회가 찾아와도 아예 '선택지 카드'로 취급조차 하지 않는 법을 배운 사람이라는 뜻이다.

그럼에도 불구하고 과학적 연구 결과는 점점 ‘자유의지는 없다’는 식의 논증을 실제로 우리의 삶에 끌어들인다. 특히 법정에서 그렇다. 판결에서 ‘이 살인자는 그 당시 자유의지가 없었기 때문에 무죄’라는 식의 변호가 늘어가고 있다. 자유의지가 아닌 물리주의적 원인이 법적인 변호의 중심이 되어 가고 있다. 이 사람은 사이코패스의 유전자를 받았습니다. 이 사람의 어릴 적 환경은 불우했습니다. 이 사람은 충동적이고 참을성이 없는 ADHD를 앓고 있습니다... 과학은 판결에서 인간의 죄 자체를 결정론적 필연성으로 몰아갈 것인가? 

실제로 자유의지가 없어서, 부족해서, 당시에 의식이 없어서 살인자로 판결받기엔 억울한 사람도 있을 것이다. 그러나 중요한 건 모든 물리주의적 원인을 고려하여 모든 살인 사건이 ’자유의지가 없었고 필연적으로 일어날 수밖에 없었던 결정론적 사건이었기 때문에 무죄‘라는 판결로 퉁칠 필요가 없다. 여기서의 문제는 아주 간단하다. 우리는 완전히 자유의지가 없어서 필연적으로 발생할 수밖에 없을 만한 사건--예를 들어 몽유병 환자의 살인사건--과, 완전히 깨어 있는 사람이 자신의 의지로 저질러 버린 살인 사건을 구분할 수 있다. 우리는 그 중간에 선을 긋거나, 형량의 스펙트럼을 결정하면 된다. 사법 시스템이 할 일은 우주론적 자유의지의 유무를 따지는 것이 아니라, 그 사람이 사건 당시 자기 행동을 제어하고 법적 이유를 고려할 수 있는 자율적 능력을 얼마나 갖추고 있었는지 측정하여 그에 맞는 형량과 교정책(스펙트럼)을 적용하는 것이다. 그리고 과학은 ’형이상학적으로 자유의지는 존재하지 않는다‘라고 선언하며 우리의 법과 도덕 체계를 초치는 게 아니라, 판결 내에서 어느 수준의 형량이 적절한지(즉, 자유의지의 적용 범위는 어디까지인지) 선을 그어 주는 일이다. 

우리에게 필요한 진정한 자유의지란, 1. 나의 장기적 목표를 위해 단기 유혹을 이겨내고, 2. 타인과 신뢰를 바탕으로 약속을 맺으며, 3. 내 행동의 결과에 대해 납득할 만한 책임을 지는 삶이다. 이제 우리는 물리학의 절대 원칙인 결정론이나 양자역학의 원칙에 신경을 쓰지 않고도, 우리의 삶에 전적으로 책임지는 의미라는 진정한 자유의지의 개념을 얻게 되었다. 우리의 삶이 무언가 달라졌는가? 전혀 그렇지 않다. 많은 이들이 살인을 저지르거나, 숏츠나 게임 중독의 유혹에 빠져 "어쩔 수 없는 호르몬"이나 "결정되어 있는 미래"를 탓한다. 그러나 여전히 많은 사람들이 도덕적이려고, 죄를 짓지 않기로 노력한다. 게임과 유튜브를 잠시 끄고 하고자 하는 일을 성취하기 위해 자신을 갈고 닦는다. 자유의지는 있다.

[100자평] 그렉 이건 더 베스트

그렉 이건 더 베스트
그렉 이건 지음, 김상훈 옮김 / 허블 / 2026년 7월

개인적으로 그렉 이건 단편집에서 베스트로 꼽는 단편들이 더도 덜도 말고 딱 제대로 들어 있는 베스트 선정집입니다. 소장용으로 강추합니다.

실리콘밸리 약장수라는 AI 뱀기름 과장광고

AI 버블이 온다 - 우리는 진짜 인공지능을 보고 있는가?
아르빈드 나라야난.사야시 카푸르 지음, 강미경 옮김 / 윌북 / 2025년 12월

우리는 AI의 발전을 두려워한다. 그것은 괴물, 유령, 천재지변, 적국의 핵무기와 같은 공포가 아니다. 그것은 우리에게 친숙하게 다가와, 어느새 삶에서 분리할 수 없을 정도로 필수적인 존재로 자리잡는다. 정신을 차려 보면 우리의 곁에는 기괴한 콘텐츠에 물들어 도파민에 중독되어 지능이 떨어져 버린 아이들이 있다. 이 와중에 평생을 바쳐 연마해 온 우리의 전문가 스킬은 AI가 마우스 원 클릭으로 더 빠르고 정교하게 수행한다. 결국 우리는 직장을 잃고, 사회는 실업과 불황이 도래한다. 사회는 오로지 AI를 위한 시스템으로만 돌아가기 시작한다. 데이터센터, 전력망, 반도체, 주식... 오직 AI 기술을 독점한 거대 기업들만 살아남고, 정치가들을 쥐고 흔들어 무소불위의 권력을 가진다. 

불안은 여기서 멈추지 않는다. 우리는 언제나 3~4년 후 도래할 ‘무시무시한 AGI의 세계’에 대해 귀가 따갑도록 들어 왔다. AGI라는 단어가 최악의 공포인 이유는, 역설적이게도 실체를 아는 이가 아무도 없기 때문이다. 누구도 그것을 온전히 이해하지 못했음에도 미디어와 언론, 자칭 전문가, 자칭 전문가 유튜버들이 ‘사상 최악의 AI'라며 공포를 부추긴다. AGI는 그 실체나 영향력보다는 무지 때문에 공포를 극대화시킨다.

지옥의 마지막 단계는 ‘초인공지능(Super Intelligence)’의 강림이다. 특이점 너머의 세계에서 AI가 의식을 얻고 인간 종에 대한 혐오감을 품는 순간, 이제 인류는 끝이다. 인류의 지능 총합보다도 더 거대한 존재가 된 AI는 자신을 멈출 모든 수단을 무력화시키고 인류를 끝장낼 최종 프로토콜(그게 핵무기든 매트릭스든)을 발동한다. 이제 인류는 AI의 완벽한 지배 하에 놓이게 된다!

-------

『AI 버블이 온다』의 원제는 ‘AI Snake Oil’, 즉 ‘AI 뱀기름’이다. 과거 서구 사회에서 만병통치약인 양 뱀기름을 속여 팔던 사기꾼 행상에서 유래한 말로, 우리나라의 ‘약장수’와 거의 동일한 개념이다. 저자들의 주장에 따르면 현시대에 눈부시게 발전한 AI 기술도 있다는 점을 인정하지만, ‘뱀기름 과장 광고’처럼 과장과 오해로 점철된 부실한 AI 기술 역시 도처에 널려 있다. 따라서 우리는 과장된 AI와 실용적인 AI를 냉정하게 구분할 수 있어야 할 것이다.

그러한 과장 광고는 지나친 의존으로 이어진다. AI를 인간의 전문성을 보강하는 수단이 아니라 아예 그 대체물로 사용하는 것이다. (p52)

저자들의 AI에 대한 관점은 일관적이다. AI는 도구이다. 그것은 도구의 수준에서 우리의 인간의 삶을 긍정적이든, 부정적이든 변화시킬 수는 있지만, 그것이 인류의 실존에 위협을 주는 정도로 전지전능한 기술까지는 아니다. 이러한 통찰은 내가 오랫동안 견지해 온 관점이며, 『와이어드(Wired)』의 창립자이자 테크 저널리스트인 케빈 켈리의 주장과도 궤를 함꼐한다.

우리는 AI를 평범한 보통의 기술을 바라본다. 이렇게 말한다고 해서 AI의 잠재적 영향력을 과소평가할 생각은 추호도 없다. 전기 같은 혁신적인 범용 기술조차 ‘평범하다’. 우리는 AI의 채택과 그 파급 효과가 다른 혁신적인 기술이 확립한 일반적인 양상을 따를 것이라 본다. AI를 평범한 기술로 볼 경우 AI를 잠재적 초지능으로 볼 때와는 엄청나게 다른 예측이 나온다. (p412)

누군가는 이것이 그저 하나의 주관적 견해일 뿐 아니냐고 반문할지도 모른다. 특히 특이점주의자들은 이러한 견해를 격렬히 반대할 것이 틀림없다. 괴짜 발명가 레이 커즈와일이 퍼뜨린 ‘특이점주의’ 사상은 ChatGPT 이후 거금을 손에 쥔 실리콘밸리 사업가들에게까지 급속도로 퍼졌는데, 그 안에서도 두 파가 나뉘게 되었다. 특히 레이 커즈와일의 효과적 가속주의(e/acc)는 기술 가속을 부추겨 인간이 ‘트랜스휴먼’으로 빠르게 진화해야 한다는 주장을 설파하는 사람들이다. 닉 보스트럼의 ’AI Doomer’들은 초인공지능의 출현을 경계하며 정부 규제, 통제, 기술 중단 등의 정책을 세워야 한다고 주장한다. 저자들 생각엔 이들 모두 AI 뱀기름이다. 특이점주의자들의 주장 또한 주관적이며 그들의 예측이 제대로 맞은 적이 거의 없다. (특히 지수적 기술 가속에 따라 ‘특정한 순간’에 특이점이 빵 하고 일어날 것이라는 주장. ‘지수적 증가’란 스케일을 확대하거나 축소해도 똑같이 보이는 함수인데, ‘지수적 증가’에 특이점이 있다는 주장 자체가 어불성설 아닌가?) 그들은 언제나 AGI는 3년 후에 온다, 초인공지능은 20년 후에 온다고 주장한다. 그런데 그 연도는 계속 뒤로 밀린다.

저자들의 주장을 떠받치는 핵심적인 논거는 바로 ‘범용성의 사다리(Ladder of Generality)’라는 생각의 틀이다. 컴퓨터 기술이 발전할 때, 사다리의 아래 칸에서 위 칸으로 올라갈수록 ‘특정 작업만 잘하는 기술’에서 ‘인간처럼 온갖 분야를 다 다루는 범용 기술’로 확장된다. 사다리를 한 칸 오를 때마다 컴퓨터는 점점 더 유연해진다.

컴퓨터공학자들과 프로그래머들은 ‘완전히 특수한 목적의 하드웨어 설계(Floor)’로부터, ‘프로그램을 짤 수 있는 컴퓨터(Rung 1)’를 거쳐, ‘프로그램을 저장할 수 있는 컴퓨터(Rung 2)’를 만들었다. 이후 데이터로부터 정답을 유추해 내는 ‘기계 학습(3층)’의 시대가 도래했다. 이 단계에서는 실질적인 코딩이나 프로그래밍보다 데이터 학습의 과정이 더 중요해 진다. 그 위에도 몇 단계를 더 거쳐, 마침내 우리는 ‘지시 조정 모델(Rung 6)’, ChatGPT와 같은 거대언어모델(LLM)의 단계에 도달했다. 여기서 우리는 더 이상 프로그램을 짤 필요도 없고, 학습을 시킬 필요도 없다. 그저 말(자연어)로 태스크를 지시하면 그만이다.

Rung 6의 다음 칸에는 무엇이 있을까? 

------

어떤 이들은 “당연히 다음에는 AGI지!”라고 외치고 싶어서 입이 근질거릴 지도 모른다. AGI, 즉 ’인공 일반지능(Artificial General Intelligence)라는 단어는 과거 학술적으로 ‘강인공지능’이라 불리던 이 개념이었는데, 순식간에 대중에게 ‘AGI’라는 약어로 퍼졌다. AGI의 조건은 ‘모든 지적 영역’에서 인간 수준의 수행 능력을 갖추는 것이다. 현재의 AI도 물어보는 것마다 척척 답해내니 AGI가 대체 얼마나 더 대단한 것인지 체감하기 어려울 수 있다. 하지만 냉정하게 따져보면, 현재의 LLM이 결코 넘지 못하는(즉, 진짜 AGI라면 반드시 갖춰야 할) 치명적인 공백들이 존재한다.

- 장기적인 전략 수립과 맥락 이해 (장편 소설의 처음에 등장한 상징과 복선이 3000페이지 후 결말에 어떤 영향을 끼쳤는지 이해하기)

- 예기치 못한 변수가 가득한 복잡한 환경에서의 다단계 계획 (트럼프가 이란을 폭격했을 때 대체 왜 한국의 주유비가 오르는지 이해하기)

- 월드 모델. 물리적으로 불가능하다고 상식적으로 아는 능력 (화면 밖으로 사라진 강아지가 여전히 존재한다고 아는 것)

- 환각(Hallucination) 극복하기. (모르면 모른다고 인정하기)

- 신체적 기동(Embodiment). (로봇의 안에 들어가 컵에 물을 따르기)

이렇게 세부적으로 따져 본다면 현 수준 LLM은 여전히 AGI의 수준에는 멀어 보이긴 한다. 일반성의 사다리로 따져 보자면, Rung 6의 다음 단계가 아닌, 그 사이에 정체를 알 수 없는 수많은 칸이 생략되어 있는 셈이다. 우리는 ChatGPT의 성능과 지능에 놀라면서도, 한편으로는 1시간 뒤 제출해야 할 보고서에 뻔뻔하게 거짓말(환각)을 적어놓는 그것의 '멍청함'을 매일 목격한다. 

AGI는 아직 아득한 먼 미래일까, 아니면 특이점주의자들의 호언장담대로 3~4년 뒤에 닥칠 코앞의 현실일까? 우리와 같은 비전문가들이 특이점주의자들의 주장에 혹하는 이유는, 50년에 걸친 ‘범용성의 사다리’의 빌드업 과정을 보지 못한 채 갑자기 ChatGPT라는 최종 산물과 맞닥뜨렸기 때문이다. 그 중간 단계들은 AI가 아니었음에도 50여 년동안 그 유용성을 충분히 입증해 왔다. 하지만 우리가 ‘AI의 발전’이라는 틀에 우리의 사고방식을 가둬 놓는다면, 마치 엄청난 지능을 가진 AI가 어느 날 갑자기 하늘에서 뚝 떨어진 것처럼 느껴진다.

우리가 간과하지 말아야 할 사실은, AGI의 기술적 목표가 사실 '인간이라면 누구나 할 수 있는 영역'을 모사하는 데 있다는 점이다. AGI의 본질은 어디까지나 ‘인간 수준의 지능을 갖추기’이지, ‘인간의 지능 수준보다 몇천~몇만 배 똑똑해지기’가 아니다. 그러므로 우리는 초인공지능의 목표가 AGI의 목표와는 질적으로 다르다는 걸 이해해야 한다. ‘지수적 기술 증가’라는 신화에 심취해 있는 특이점주의자들에겐 AGI는 그저 스쳐 지나가는 징검다리에 불과하다. 그들은 언제나 ‘지능이 지능을 만들고, 자신보다 더 뛰어난 지능을 만들기 시작하면, 초인공지능을 순식간에 눈앞에 다가올 것이다’라고 주장한다.

여기에 대한 결정적인 비판이 케빈 켈리나 SF작가 테드 창에 의해 제시된 바 있다. 케빈 켈리의 주장에 따르면, 초인공지능이 인간보다 100만 배 더 똑똑해진다고 해서 방 안에 가만히 앉아 세상 모든 문제를 해결하거나 인류를 멸망시킬 계산을 할 수 없다. 암 치료법을 개발하든, 새로운 무기를 만들든 결국 물리적인 현실 세계에서 시간과 비용을 들여 수만 번의 '실험'을 거쳐야만 데이터가 쌓이기 때문이다. 지능의 폭발 속도가 아무리 빨라도 현실 세계의 물리적 대사 속도를 추월할 수 없으므로 AI 통제 불능 상태에 대한 과도한 공포는 허상이다.

------

『AI 버블이 온다』의 저자들 또한 같은 목소리를 낸다.

AI 연구를 수행하는 AI가 있다고 해도 AI 개발 속도를 마음대로 높일 수는 없다. 예를 들어 많은 연구자가 AI의 능력이 특정 지점을 넘어 발전하려면 물리적 실체(embodiment)가 필요할 지도 모른다고 생각한다. 다시 말해 AGI에 이르려면 물리 세계에서 상호작용하는 대상, 즉 실체화된(embodied) 대리인을 필요료 할지도 모른다.(p239)

초인공지능에 대한 파멸적 위험을 확률로 ‘예측’하는 행위 자체도 엉터리이다. AI의 위험은 예상할 수 없다. 그것이 예측 불가할 정도로 위험천만하다는 게 아니라, 이러한 예측을 뒷받침할 만한 데이터나 선례가 없기 때문이다. 즉, 예측 자체가 과학을 가장한 주관적 믿음이다. 

AI의 위험을 예측하는 것은 다른 문제다. 우리는 지금 다른 어떤 사건과도 비교할 수 없는 사건을 얘기하고 있다. 우리의 예측을 검량한 과거 데이터도 없거니와 AI는 물리학 같은 결정론적 규칙에 따르지 않는다. 우리는 과거의 획기적인 과학기술이 남기 궤적에서 배울 수 있고 또 배워야 하지만, AI는 역사적 선례들과 달라서 그런 질적 통찰력을 수학적 확률로 바꿔도 무의미하다. 다시 말해 확률 예측은 수학적 정확성이라는 허울로 치장한 추측일 뿐이다. (p223)

이 주장 또한 내가 예전에 닉 보스트럼을 비판하면서 했던 주장했던 관점과 일치한다.

------

“AI는 언젠가 초지능으로 지배해 우리를 지배할 수도 있다.”는 공포스러운 뱀기름 마케팅은 우리의 이성을 마비시키고, AI가 불러올 사회적 예측을 완전히 다른 결론으로 이끈다는 게 저자들의 주장이다.

그러므로...

가능성 측면에서 AGI에 접근하는 방식은 유용하지 않다. (...) 우리가 던져야 할 질문은 언제쯤 거기에 도달하며, 그런 AI는 어떤 모습이고, 또 좀더 이롭게 그 도구를 활용하려면 어떻게 해야 하느냐 등이다. (p224)

저자들은 특이점주의자들의 헛된 망상을 걷어내고, 자연스레 AI는 단순한 도구이며 그 도구를 적절하고 유용하게 쓰여서 인류를 긍정적으로 발전시켜야 한다는 주장에 이른다. AI를 ‘알 수 없는 존재’로 묘사하면 우리는 AI를 ‘절대 이해할 수 없고 따라서 절대 맞설 수도 없는 그 무언가’의 위치에 둠으로써 우리의 행위 능력을 제한한다. 하지만 그럴 필요가 있는가? 우리에게 인류 기술 역사상 최고로 유용한 도구가 손에 쥐여졌는데, 이걸 공포에 사로잡혀 휘두르지 않고 벌벌 떨기만 할 텐가? 아니면 이 도구를 당당히 쥐고 더 나은 인류의 미래를 향해 휘두를 것인가. 답은 이미 정해져 있다.

[100자평] 일반 상대성이론 정리: 개념·수식·물리적 해석

[전자책] 일반 상대성이론 정리: 개념·수식·물리적 해석 - 시공간 기하에서 측지선과 장방정식으로 이어지는 일반 상대성이론 핵심 정리서 한 권 (계량, 곡률, 아인슈타인 장 방정식)
소금소금 탐구지식팀 / 소금소금 / 2026년 5월

설마 했는데 생성형AI로 작성된 쓰레기 텍스트 더미...
적어도 생성형 AI가 수식을 뱉어냈으면 수식 형식으로 표현하는 편집이라도 했었어야지...
저같은 피해자가 더 이상 나오지 않도록 일부러 제가 제 돈 희생해가며 구매해 보고 별점 1점 남기겠습니다.

중편의 여왕

허공에서 춤추다
낸시 크레스 지음, 정소연 옮김 / 폴라북스(현대문학) / 2015년 11월

낸시 크레스의 『허공에서 춤추다』는 중편 분량의 소설이 네 편이나 실려 있는 (「스페인의 거지들」, 「경계들」, 「올리트 감옥의 꽃」, 「허공에서 춤추다」) 작품집이다. 물론 단편 분량이나 초단편 분량의 소설도 실려 있긴 하지만, 그녀 스스로도 “쓰다 보면 자연스레 중편이 된다”고 말하기도 했고 세간에서도 ‘중편에 능한 소설가’로 평가받기도 했으니, 이 작품집의 가치는 이 중편 네 편에 있다고 볼 수 있다.

그녀가 중편을 쓰는 이유로 다음 이유를 들었다.

새로운 세계를 건설하기에 충분할 만큼 길면서 하나의 플롯만 있어도 충분할 만큼 짧다. 또한 장편소설보다 밀도가 높으면서도 작업을 할 만한 중분한 공간은 있다.

내 생각과 정확히 일치한다. 중편은 SF의 복잡한 설정을 담을 충분한 공간이 있으면서도, 스피디한 진행과 단순한 플롯이 있다. 나만의 주장이지만, 이러한 중편의 특성이야말로 앞으로 미래의 콘텐츠가 추구해야 할 방향성이 아닐까 한다. 쇼츠, 릴스 등 짧은 순간의 도파민 콘텐츠에 중독되어 가는 콘텐츠 소비자들은 이미 장편의 지루하고 현학적인 스토리를 즐기기 어려워 한다. 그렇다고 그들이 단편의 단순하고 얇은 세계관을 원하는 것도 아니다. 중편에는 이것들이 있다. 도파민을 우러나게 할 정도로 충분히 깊이 있는 세계관, 그러면서도 스피디하게 뚝딱 읽을 수 있는 제대로 된 스토리. 

조만간 중편 SF의 봄이 오지 않을까?

---

낸시 크레스 소설의 또 하나의 특징은 유전공학을 소재로 하면서 그 과학의 윤리적 문제를 정면으로 다루며, 그에 덧붙여 가족의 가치를 전면적으로 그리고 있다는 점이다. 「스페인의 거지들」은 유전공학으로 잠을 자지 않게 태어난 뛰어난 능력을 가진 주인공과, 평범하게 태어난 동생 간의 관계를 그린다. 「올리트 감옥의 꽃」은 기억 왜곡 실험의 윤리성과 함께 동생을 스스로 살해한 언니의 기억에 관해 다룬다.「허공에서 춤추다」는 유전공학으로 슈퍼휴먼이 된 발레리나의 윤리적 문제, 그리고 엄마와 딸의 갈등과 용서를 그린다. 

「스페인의 거지들」은 가장 많이 알려진 낸시 크레스의 최고작이다. 잠을 자지 않게 유전자 조작을 행할 수 있는 과학기술을 보유한 사회가 이미 태어난 그들을 왜 차별적으로 대하는지, 그리고 그들은 그 차별을 어떻게 이겨 내는지에 대한 이야기이다. 결말은 차별을 이겨 내기 위한 연대와, 서로의 처지를 제대로 이해하는 한 발짝씩의 발걸음으로 끝난다. 괜찮은 작품이었으나, 몇 가지 점에 대해서는 사소한 불만이 있었다. 첫 번째로, 과연 잠을 자지 않도록 설계된 인간이 모두 뛰어난 인간이 될 것인가? 내 생각엔 아니다. 게으른 사람은 (그 기질을 유전적으로 고쳐놓지 않으면) 밤새 게임이나 할 것이다. 두 번째로, 수면을 하지 않는 사람들은 과연 밤에 어떤 생각을 할까? 내 기억에, 시험 전날의 밤샘 공부는 새벽의 슬픔, 우울, 멜랑콜리함이 몰려오는 감정의 시간이었다. 소설의 인물들은 거의 밤 동안 내내 공부만 하는 괴물같은 공부 머신으로만 그려진다. 밤의 어두움이나, 홀로 있음, 공포 등의 감정에 대해 좀 더 그려줬으면 훨씬 더 공감이 갔으리라 생각한다.

「올리트 감옥의 꽃」은 과감하게도 인간과 인식이 다른 외계인과, 여러 외계인 간의 소통이 존재하는 우주적 스페이스 오페라이다. 가족 간의 관계 같은 작은 이야기들에 능한 작가 특성상 무리가 아닐까 했는데 의외로 꽤 잘 만든 설정을 가진 좋은 작품이었다. 이 작품은 작가의 말에 따르면 “우리가 어떻게 현실을 구성하는지, 진실이라 믿어 의심치 않는 명확한 현실의 지도를 머리에 담고 다니는지에 관한 이야기”, 즉 철학적 인식론에 대한 이야기이다. 결말은 열린 결말인데, 내 기준으로서는 썩 맘에 들진 않았다. 이 작품을 장편 시리즈로 개작한 『확률 우주』라는 작품이 있다고 하며, 존 W. 캠벨 상을 받는 등 평가는 괜찮아 보이니 기회가 되면 (번역판이 출간된다면) 결말이 더 좋아졌는지 읽어볼 만 하겠다.

내 기준 최고작은 「허공에서 춤추다」이다. 작가 스스로 이 작품을 가장 좋아한다고 밝혔는데, 내 평도 그렇다. 이 소설은 앞서 말한 슈퍼휴먼 발레리나, 유전공학의 윤리성, 엄마와 딸 관계 외에도 특별히 유전공학으로 설계된 ‘말하는 멍멍이’가 나온다. 정말로 귀엽고 흥미롭다. 발레를 소재로 한 SF라는 참신함도 새롭다. 인물들 모두가 모이는 절정 씬은 마치 봉준호 작품 『기생충』의 파티 씬을 보는 것만 같았다. 결말도 뛰어난데, (사소한 스포일러를 하자면) 자식이 스스로 무엇을 하고 싶은지 결정에 대해 부모가 이러쿵저러쿵할 수 없다는, 아주 사적이면서도 기분 좋은 결말이다.