어떻게 수학을 사랑하지 않을 수 있을까? 첫 번째 밑줄

플라톤은 이상적 통치자가 되려면 우선 10년간 수학을 공부해야 한다고 제안한 적이 있다. 다행히 아무도 그의 제안에 호응하지 않았다. - P15

19세기를 거치면서 유클리드의 정리들이 모두 옳지만 몇 가지 증명은 불완전하다는 사실이 명백해졌다. 이따금 유클리드의 논증은 공리에 의해 보증되지 않는 ‘자명성‘을 써먹었다. 이를테면 A, B, C가 직선 위의 세 점이고 B가 A와 C 사이에 있으면 C는 A와 B 사이에 있지 않다거나, 삼각형의 한 변과 교차하는 직선은 다른 변과도 교차해야 한다고 암묵적으로 가정했다. 무의식적으로든, 적어도 부지불식간에든 올바르게 증명되지 않은 것들이 현실에서의 공간 추론 때문에 ‘명백‘해 보인 것이다. 이런 결함은 첫 정리에서부터 나타났다. - P34

(다비트) 힐베르트의 책은 유클리드의 『원론』에 있는 구멍 몇 개를 메우는 것에 그치지 않았다. ‘자명성‘과 ‘직관‘을 둘 다 없애 최후의 보루인 기초 개념과 공리에서 배제했다. 힐베르트는 기초 개념에 대해 공리를 따른다는 것 말고는 어떤 의미도 부여하려 시도조차 하지 않았다. - P3536

유도할 수 있다면 주어진 것으로 가정할 필요가 없다. - P39

항해사와 지도 제작자의 검증된 구면기하학은 영락없는 타원기하학이다. 수학자들은 수백 년간 구면기하학을 코밑에 두었으면서도 이것을 비유클리드 기하학의 모형으로 삼을 수 있다는 발상에 대경실색했다. 그들에게 결여된 것은 기하학 지식이 아니라 점과 직선 같은 낱말을 직관에 구애받지 않고 구사하려는 마음가짐이었다. - P48

기이하게도 시각과 촉각이 대립할 때는 촉각이 우선권을 가지는 듯하다. 연필은 물에 잠기면 꺾어진 것처럼 ‘보이‘지만, 우리는 연필이 곧다고 말한다. 촉각이 현실을 전달하고 시각이 외양만을 전달하는 이유는 무엇일까? 나뭇가지 사이를 잽싸게 누비며 눈과 손을 협응시켜야 했던 유인원과 원숭이의 오랜 계보에서 우리가 진화했다는 사실과 관계가 있을까? 그런 존재에게는 촉각이 틀림없이 언제나 최종 결정권을 가져야 했을 것이다. 붙잡던 줄이 끊어지면 대가 끊길 테니 말이다. - P50

17세기 철학자들이 모두 위대한 기하학자는 아니었다. 하지만모두 그렇게 되고 싶어했다. 바뤼흐 스피노자는 『윤리학』을 유클리드방식(그의 표현으로는 모레 게오메트리코more geometrico)으로 썼다. 토머스 홉스는 원적문제§주어진 원과 넓이가 같은 정사각형을 자와 컴퍼스로 작도하는 문제의 해법§을 거듭거듭 제시했다. 전부 틀리긴 했지만. - P52

양이 다른 양에 대해 음이라는 말은 다른 양 안에서 동일한 양만을 상쇄한다는 의미에서 반대라는 것으로 받아들일 수 있다.

(이마누엘) 칸트는 이 주장을 설명하는 예를 몇 가지 제시한다. 범선 한 척이 포르투갈에서 브라질로 항해한다. 어느 날에는 12해리 전진하지만 그다음 역풍을 맞아 3해리를 잃는다. 그러므로 ‘음의 3‘해리를 총 이동 거리에 더해야 한다. 교역에서도 비슷한 상황이 벌어진다. 빚은 음의 재산으로 간주할 수 있다(이 개념은 새로운 것이 아니다. 음수가 인도에서 처음 도입되었을 때 원래 이름은 ‘빛‘이었다). - P56

빈 학파의 철학자 프리드리히 바이스만은 『수학적 사고 입문Einführung in das mathematische Denken』에서 이렇게 말했다. "소원을 품는 것을 소원이 이루어지는 것과 혼동하면 결코 안 된다." 바이스만의 수학과에서 몇 블록 떨어진 곳에 살았던 노학자 지크문트 프로이트도 동의했을 것이다. - P57

실수는 격자점을 가르는 ‘절단‘으로 생각할 수 있다. 이렇게 하려면 유리수를 크기순으로 정렬해야 한다. 자세한 내용은 지루하고 명백하다. (0, 0)을 지나는 각각의 선은 평면 위쪽 절반에 있는 반직선을 정의한다. (0, 0)에 달려 시계 방향으로 움직이는 시곗바늘이 (c, d)를 지나는 반직선에 도달하기 전에 (a, b)를 지나는 반직선을 가로지르면 유리수 a/b는 유리수 c/d보다 작다. - P61

복소수를 다루는 수학자가 자신이 실수 쌍을 다루고 있으며 각각의 실수가 유리수 집합의 쌍이고 각각의 유리수가 정수 쌍이고 각각의 정수가 자연수 쌍이라는 사실을 늘 자각하지는 않는다. 이는 두말할 필요가 없다. 이 문제를 곱씹기 시작하면 구두끈 묶는 동작을 머릿속에서 상상할 때처럼 머리가 어질어질해지기 십상이다.
현업 수학자들은 그저 익숙한 작업을 할 뿐이다. 하지만 철학자는 점점 깊이 파고들려 노력하며, 수에 대해 당연하게 간주되는 괴상한 규약들을 맞닥뜨렸을 때 아이가(또는 칸트의 독자가) 경험하는 어리둥절함을 자각하고 싶어한다. - P62

분수는 음의 양보다 쉽게 이해할 수 있다. 유리수는 모든 고등 문명에서 쓰였는데, 이따금 오늘날의 기준으로는 이상한 제약을 받기도했다. 이를테면 고대 이집트에서는 1/n 같은 형식의 단위분수와 단위분수의 합만 썼는데, 어떤 단위분수도 두 번 나타날 수 없었다. 그래서 2/3은 1/3+1/3이 아니라 1/2+1/6로 표시된다. 이상하게 우회하긴 하지만 모든 양의 유리수를 이런 식으로 나타낼 수 있다. - P67

유리수는 정수에 없는 신기한 성질이 있다. 크기 순으로 정렬할 수는 있지만 ‘이 수 다음으로 가장 큰 수‘는 없다. 임의의 두 유리수 사이에는 수많은, 실은 무수히 많은 유리수가 있다. 유리수는 조밀하다. 수직선 위에 있는 임의의 두 점 사이에는 언제나 유리수가 있다. 유리수는 수직선을 뒤덮어 조그만 간격조차 남기지 않는다. 언뜻 보기에 이 성질은 치수를 재기에 안성맞춤인 듯하다. 하지만 애석하게도 그렇지 않다. 유리수는 수직선을 덮긴 하지만 ‘채우진’ 못한다. - P68

플라톤 시대가 되자√2가 무리수라는 사실이 더는 당혹스럽지 않았다. 플라톤의 대화편 『테아이테토스』에서 동명의 새내기 수학자는 자신이 친구들과 함께 3부터 17까지의 모든 수의 제곱근이 무리수임을 증명해냈다고 지나가듯 언급한다(4, 9, 16의 제곱근이 무리수가 아니라는 사실과 2의 제곱근이 무리수라는 사실은 언급되지 않았다. 너무 명백해서 지적할 필요가 없었던 것이다.
플라톤은√2가 무리수라는 사실을 힘주어 지적한다. "정사각형의 대각선이 변과 공약 가능하지 않다는 사실을 모르는 자는 인간이라고 불릴 값어치가 없다." 그즈음 히파소스의 충격적인 비밀은 상식이 되어 있었다. "믿음직한 헬레네인들이여, 이는 말할 수 있는 것 중 하나라네. 알지 못하는 것은 수치요, 안다 해도 별다른 덕이 아니라는 것이지." - P69

처음 무리수를 접했을 때의 경이감을 요즘도 느낄 수 있을까? √2가 무리수라는 사실은 (0, 0)에서 출발하여 (√2, 1)을 통과하는 반직선이 x와 y가 정수인 어떤 격자점 (x, y)와도 만나지 않는다는 뜻이다. 평면에는 무한히 많은 격자점이 있으나, 반직선 중에는 어느 격자점에도 걸리지 않는 것들이 있다. 무한 속으로 항해하면서도 격자점을 하나도 맞닥뜨리지 않을 수 있다는 뜻이다. - P69

물론 실수를 복소수로 확장하면서, 그리하여 수직선에서 복소 평면으로 이동하면서 무언가를 포기해야 했다. 실제로 실수는 크기순으로 정렬되는 반면에 복소수는 그렇지 않다. 더 정확히 말하자면 복소수는 여러 방법으로 정렬할 수 있지만 그때마다 일반적 산술 규칙에서 말썽이 벌어진다. 이 규칙들은 제곱수가 음수일 수 없음을 함축하는데도 √-1의 제곱은 음수다. - P7879

가장 오래된 셈 흔적은 이상고 뼈로, 약 2만 년 전으로 거슬러 올라간다. 열성적 학자들은 뼈에 11, 13, 17, 19개의 새김눈이 파여 있다고 주장한다(뼈에 관한 여러 주장이 그렇듯 여기에는 논란의 여지가 있다). 이 수들은 10과 20 사이의 소수다(여기에는 논란의 여지가 없다). - P83

귀납에 의한 증명은 수학자에게 대단한 기쁨을 선사한다. 수학자들은 이런 증명을 숱하게 보는데, 대학 1학년 때에는 더더욱 그렇다. 각각의 증명은 무한히 많은 논리적 단계의 연쇄다. 지퍼처럼 자르륵 풀린다. - P89

(주세페) 페아노에 따르면 자연수는 각 원소가 ‘후속자‘라는 다른 원소 하나에 사상map하도록(화살표로 연결되도록) 대응이 정의되는 집합이다(이 사상을 S라고 부른다). 집합의 원소는 후속자가 저마다 다르다. 후속자가 아닌 원소는 하나가 있다(수학 용어로는 후속자 사상 S가 일대다사상이 아니라 일대일사상이라고 말할 수 있다). 이것을 전부 뭉뚱그리면, 공리에 따라 어떤 부분집합이 후속자가 아닌 원소를 포함하고 각각의 원소에 대해 그 후속자도 포함하면 이 부분집합은 전체집합이어야 한다.
이게 전부다. 산술에 필요한 공리들은 이게 다다.
후자가 아닌 원소가 하나뿐일 수밖에 없음은 쉽게 알 수 있다. 그 원소의 이름은 1이다. - P91

(게오르크) 칸토어의 생각에서 관건은 어떤 통찰이었다. 우리는 집합 A의 원소 개수가 얼마나 많은지 알지 못하면서도 집합 B만큼 많음을 알 수 있다. 중요한 것은 A의 원소와 B의 원소 사이에 일대일대응이 존재한다는 사실뿐이다. 그러면 두 집합은 원소 개수(수학 용어로는 기수)가 몇 개인지와 상관없이 같다. 이것을 대등하다라고 한다.
마라톤을 구경할 때는 선수의 인원수를 세지 않아도 왼발 개수와 오른발 개수가 같음을 알 수 있다. 거실에서 모든 찻잔이 받침에 놓였고 빈 받침이 하나도 없으면 찻잔 개수와 받침 개수가 같음은 세어보지 않아도 알 수 있다. - P9697

지금까지의 결과는 모든 무한집합이 가산적이라는 메시지를 전달하는 듯하다. 하지만 칸토어가 발견했듯 그렇지 않다. 그의 집합론은 이 지점에서 신기원을 열었다. 무한의 크기가 하나뿐이라면 재미없을 것이다.
칸토어는 구간에 있는 실수(이를테면 0과 1 사이의 실수)를 열거할 수 없다는 사실을 밝혀냈다. 칸토어 스스로 여러 증명을 고안했는데, 마지막 증명은 하도 기막히게 기발해서 자신의 논증이 빈틈없는지 몇 번이고 의심했을 정도다. 그는 (다비트) 힐베르트를 비롯한 동료들에게 걱정 어린 편지를 보내어 자신이 멍청한 실수를 저지르지 않았는지 검토해달라고 부탁했다. 증명은 어이없을 만큼 쉬워 보였다.
오늘날 칸토어의 대각선 논법은 충분히 검증된 친숙한 도구로, 간접적 방법을 활용한다. 0과 1 사이의 모든 실수를 열거할 수 있다고 가정하자. 이 실수들은 0.5000・・・ 이나 0.333・・・처럼 맨 앞에 0이 오고 다음에 점이 오고 그 뒤에 무한한 숫자 연쇄가 오는 십진법의 전개식에 대응한다. 실수가 위의 가정처럼 정말로 열거 가능하다면 우리는 이 목록을 전부 줄줄이 나열할 수 있을 것이다(크기별로 배열하려는 시도는 하지 않는다). 이제 다음과 같은 전개식으로 수 하나를 구성해보자. n번째 자리에 있는 숫자에 대해 위의 목록에서 2번째 실수를 골라 n번째 자리에 있는 숫자를 다른 숫자로 바꾼다. 그러면 계단을 내려가듯 대각선을 따라 차례로 내려가면서 2번째 계단에서 만나는 모든 숫자가 다른 숫자로 바뀐다. 이렇게 하면 0과 1 사이의 실수에 대한 전개식을 얻는다. 그런데 이 수는 우리의 목록 어디에도 있을 수 없다. 실제로 n 자리에 있을 수 없다. n번째 숫자가 다르기 때문이다. 이것은 어떤 n에 대해서도 성립한다. 방금 구성한 0과 1 사이의 실수는 우리의 목록 어디에도 없다. 이것은 모든 실수를 나열했다는 가정과 모순된다. 그러므로 실수는 열거 가능하지 않다. 실수는 비가산적으로 많다. - P99100

칸토어는 연속체보다 큰 기수(원소 개수)가 많음을 증명했다. 이를테면 ‘직선의 모든 부분집합의 집합‘ 크기가 있다. 실제로 그는 무수히 많은 무한 기수를 발견했으며 이내 수학자들이 그 기수들을 계산하기 시작했다. 계산 규칙은 놀랍도록 괴상하다. 하지만 연속체의 기수보다는 작지만 자연수의 기수보다는 큰 기수가 있는지는 분명히 밝혀지지 않았다. 말하자면 모든 비가산 실수 집합은 연속체 전체의 크기를 가져야 할까? 이 주장을 ‘연속체 가설‘이라고 한다.
칸토어의 혁명적 발상은 많은 반발을 샀으며 그는 격렬한 논쟁에 휘말렸다. 칸토어가 논쟁을 찾아다녔다고 말하는 사람도 있다. 칸토어는 수학을 연구하지 않을 때는 셰익스피어 희곡의 진짜 저자가 프랜시스 베이컨이라는 가설을 옹호했다. 이 주장은 실무한 못지않게 평생을 허비할 수 있는 논쟁거리다.
베이컨 가설과 달리 집합론은 인정을 받았다. 칸토어는 할레에 있는 군소 대학에서 일생을 보냈음에도 어마어마한 영향력을 발휘했다. 1897년 (자신이 출범에 큰 역할을 한) 제1회 세계수학자대회에 참석했을 때 그는 많은 강연에서 자신의 이론이 기정사실로 취급되는 모습을 보았다. 한 세대가 채 지나지 않아 집합론은 모든 수학 분야의 공통 기초가 되었다. - P103

대부분의 수학자는 칸토어를 확고히 지지했으며 오리가 물을 좇듯 집합론을 좇았다. 언제나 카리스마가 넘쳤던 다비트 힐베르트는 이렇게 포효했다. "누구도 우리를 칸토어가 창조한 낙원으로부터 내쫓지 못하리라." - P104

자연수에 대한 (고틀로프) 프레게・(버트런드) 러셀 접근법은 수학의 기초를 다지는 과정에서 결정적 역할을 했다. 하지만 오늘날 많은 사람은 집합론에서 자연수를 도출하는 상향식 방법이 프레게・러셀 접근법을 대체했다고 생각한다. 새로운 방법은 요한 폰 노이만이 제시한 것으로, 그가 갓 스무 살(영재가 은퇴하는 시기)이 되었을 때 발견했다. - P105

기수는 집합의 크기를 나타내며 서수는 배열을 묘사한다. 유한집합에서는 기수와 서수가 대략 같다. 기수는 "일, 이 삼"으로 세고 서수는 "첫째, 둘째, 셋째"로 센다는 것만 다르다. 무한집합은 사정이 달라서 기수적 무한의 산술 규칙과 서수적 무한의 산술 규칙이 따로 논다.
집합을 배열한다는 것은 무슨 뜻일까? 전문용어로는 정렬이라고 한다. 이 말은 모든 원소가 선형적 순서로 놓였다는 뜻이다(임의의 서로 다른 두 원소 x와 y에 대해 하나는 다른 하나보다 작다. 또한 x가 보다 작고 y가 2보다 작으면 x는 2보다 작다). 이와 더불어 정렬 집합의 모든 부분집합에는 가장 작은 원소가 있다(가장 큰 원소가 있을 필요는 없지만). 이를테면 자연수 집합은 ‘자연적‘ 방식으로, 말하자면 {1, 2, 3, ・・・}으로 정렬되며 ω에 대응한다. 1을 맨 뒤로 보내 다시 배열할 수 있는데, 그러면 {2, 3, ・・・, 1}이 된다. 이 정렬은 ω+1에 대응한다. - P109

이 ‘생각의 표현법‘ 중에서 논리적으로 옳은 것은 열다섯 가지로 밝혀졌다. 전통적 설명에는 몇 가지가 더 있는데, 이는 고대인의 용법 중 일부가 오늘날 수학자들의 용법과 약간 다르기 때문이다. 그래서 "모든 A는 B다"라는 명제는 아리스토텔레스에게는 A라는 성질을 가지는 대상이 존재함을 함축하는 데 반해 현대의 수학적 규약에 따르면 A라는 성질을 충족하는 것이 전혀 없어도 무방하다. 말하자면 대응하는 집합이 공집합일 수도 있다는 뜻이다. 그러므로 "모든 용은 귀엽다"는 애초에 용이 존재하지 않으므로 옳은 반면에 아리스토텔레스와 (아마도) 대부분의 일반인은 이 명제를 거짓으로 여기거나, 만일 참으로 받아들인다면 용의 존재를 함축한다고 받아들일 것이다. 이 용법은 우연한 회심conversio per accidens이라는 이름 아래 많은 스콜라철학자들의 골머리를 썩였다. - P114

아래의 열 가지 전제가 성립한다고 가정하자.

1. 이 집에 있는 유일한 동물은 고양이다.
2. 달 바라기를 좋아하는 모든 동물은 애완동물로 적합하다.
3. 나는 동물이 혐오스러우면 멀리한다.
4. 어떤 동물도 밤에 돌아다니지 않는 한 육식동물이 아니다.
5. 어떤 고양이도 생쥐를 죽이는 일에 실패하지 않는다.
6. 이 집에 있는 것 외에 어떤 동물도 내게 사근사근하지 않다.
7. 캥거루는 애완동물로 적합하지 않다.
8. 육식동물을 제외한 어떤 것도 생쥐를 죽이지 않는다.
9. 나는 내게 사근사근하지 않은 동물이 혐오스럽다.
10. 밤에 돌아다니는 동물은 언제나 달 바라기를 좋아한다.

이로부터 도출되는 논리적 결론은 다음과 같다. 나는 캥거루를 멀리한다(힌트: 달빛에 혹하지 말 것).
이 삼단논법 연쇄를 고안한 옥스퍼드대학교의 논리학자는 찰스 도지슨이다. 그는 루이스 캐럴이라는 필명으로 더 유명하며 『이상한 나라의 앨리스』와 『거울 나라의 앨리스』를 썼다. - P115

아리스토텔레스의 가장 놀라운 통찰은 논증을 순수한 형식 계산으로 기술한 것이다. 명제의 내용은 진위와 무관했다. 그가 수학식을 전혀 사용하지 않았음에도 그의 규칙은 형식화하기에 안성맞춤이었다. - P116

(영국의 조지 불 이후) 영국의 오거스터스 드모르간과 존 벤, 미국의 찰스 퍼스, 독일의 에른스트 슈뢰더, 이탈리아의 주세페 페아노가 진행한 연구를 통해 논리학은 점점 수학과 비슷해졌다. 이와 나란히 수학도 점점 논리학과 비슷해졌다. 수학 추론은 점점 엄밀해졌으며 수학 증명은 고생스러울 만큼 명시적으로 바뀌었다. 이런 발전이 (무엇보다 해석 과정에서) 절실히 필요한 곳은 새롭고 더 명시적인 논증이 놀라운 결과를 밝혀내는 분야였다. 그 놀라운 결과란 이를테면 연속함수 수열의 극한은 불연속적일 수 있다거나, 몇몇 연속함수는 어디서도 미분 가능하지 않다 등이며, 그 밖에도 비슷한 문제들이 밝혀졌다.
새로운 엄밀성을 앞장서서 옹호한 사람은 오귀스탱 루이 코시와 카를 바이어슈트라스였다. 훗날 프라하에서 베른하르트 볼차노라는 저명한 성직자이자 철학자이자 수학자가 이 발전들 중 상당수를 예견했다는 사실이 드러났다. 하지만 아무도 눈길을 주지 않았으며, 유일하게 관심을 가진 가톨릭교회는 그의 책들을 금서로 지정했다. 공교롭게도 수학에 집합 개념을 도입한 사람도 볼차노였다. 그는 집합을 부분의 배열에 의존하지 않는 다수로 정의했다. - P117118

이를테면 함수(더 일반적으로는 두 항 사이의 관계)는 영락없는 쌍의 집합이다. - P119

어떤 학문도 모순을 반기지 않는다. 모순은 무언가 잘못됐다는 신호이니 말이다. 하지만 형식적 수학 이론에서의 모순은 훨씬 고약하다. 더는 가망이 없다는 신호이기 때문이다. 모든 것이 무너진다. 실제로 A와 A 아닌 것이 둘 다 참이라고 가정해보자. 그렇다면 A의 타당함은 임의의 명제 B에 대해 "A이거나 B가 참임을 함축한다. "A거나 B가 참이고 A 아닌 것도 참이기 때문에 B는 무조건 참일 수밖에 없다. 이러면 모든 것이 올스톱된다. - P128

힐베르트 프로그램은 오랜 기간에 걸쳐 꾸준히 발전했으며 힐베르트 자신과 여러 제자가 실제 성과를 거뒀다. 하지만 느닷없이 암초를 만났다.
쿠르트 괴델이라는 박사후 연구원이 빈에서 철학과 수학을 공부하고 힐베르트의 노선을 따라 주목할 만한 성과를 낸 뒤, 힐베르트 프로그램이 결코 목표에 도달할 수 없음을 증명한 것이다.
또한 같은 증명으로 괴델은 수학적 참과 형식적 증명의 간극이 메워질 수 없음을 입증했다. 대략적으로 말하자면, 정합적인 형식적 수학 이론에서 성립하는 모든 것이 증명될 수 있는 것은 아니다. 게다가 정합성 자체가 이론 안에서 형식적으로 증명될 수 없다. 괴델의 첫번째 불완전성 정리와 두 번째 불완정성 정리인 이 두 명제는 철학적으로 의미가 어마어마하다. 하지만 이것들은 수학적 정리이지 결코 ‘한낱‘ 철학적 진술이 아니다.
20년 뒤 하버드대학교에서는 괴델에게 명예박사 학위를 수여하면서 불확정성 정리를 "20세기의 가장 중요한 수학적 진리‘로 천명했다. - P131132

현대에 들어 동료 평가는 새로운 수학적 생산물의 양에 짓눌리고 있다. 해마다 수천수만 명의 수학자가 수십만 개의 새 정리를 발표한다. 수학계에서는 동료 평가 학술지에 게재하여 정리를 검증한다. 이렇게 하면 각각의 새 논문은 적어도 한두 명의 평가자가 (바라건대) 비판적으로 읽었음이 보장된다. 하지만 평가자는 대체로 익명에 무보수여서 열심히 평가할 동기가 부족하다. 많은 오류가 걸러지지 않는다. 그러면 다른 수학자들이 그 잘못된 결과를 이용하고 전파하게 된다. 증명을 샅샅이 들여다보는 데는 몇 달, 아니 몇 년이 걸리기도 한다. 현업 수학자가 독창적 연구를 하고자 한다면 다른 수학자가 발표한 이전 결과를 검증 없이 활용하는 일이 사실상 불가피하다. 궁극적으로 오류가 생길 것이 뻔한 사회적 과정에 의존하는 격이다. - P163

동료 평가에 따르는 불확실성을 제거하고 그에 따라 정리의 지위를 확고히 하는 것은 증명 보조기의 존재 이유 중 하나에 불과하다. 나머지 이유는 더 심오하다. 증명 보조기는 수학 전체를 완전하게 형식화하여 논리적으로 정당화한다. 어떤 면에서 보자면 HOL 라이트의 핵심 프로그램을 이루는 500행의 컴퓨터 코드는 의심할 여지 없이 힐베르트를 놀라게 하겠지만 그의 인정을 받기에 족한 ‘기초‘다. 이 기초는 철학적 이상을 실현할 튼튼한 확실성을 선사한다. 그 도움을 받아 수많은 정리가 검증되었는데, 그중에는 괴델의 불완전성 정리 같은 가장 이름난 기념비적 결과도 허다하다. - P166

아르키메데스는 십진수를 쓰지 않았지만 원주율을 무한히 정확하게 구하는 기법을 개발했다. 그는 지름이 1인 원에서 출발하여 원에 외접하는 가장 작은 정육각형을 그렸다. 그 둘레 길이는 2√3이다. 이번에는 원에 외접하는 가장 작은 정12각형을, 그다음에는 정24각형을 그렸다. 이쯤 되면 변의 길이를 계산하는 일이 고약해진다. 제곱근을 어마어마하게 곱해야 하기 때문이다. 하지만 끈기와 의지를 발휘하면 해낼 수 있다. 아르키데메스는 원에 외접하는 가장 작은 정48각과 정96각형의 둘레를 계산하고 그만두었다. 기진맥진해서exhaustion 그런 것은 아니었다. 원리는 명확했으며(‘실진법exhaustion principle‘이라고 부른다) 다른 사람들이 얼마든지 계산을 이어갈 수 있기 때문이었다. - P184

극한에 도달하면, 거리의 계산은 무한히 작은 길이들을 무한히 많이 더하는 것과 같다. - P205

확률론은 종종 무작위성의 수학이라고 불린다. 하지만 볼테르는 무작위성을 부정했다. 우연은 존재하지 않는다고 그는 말했다. 우리가 우연을 이야기하는 것은 원인을 무시하고 결과만 보기 때문이다. 하지만 모든 것에는 원인이 있다. 우연히 일어나는 일은 아무것도 없다.
이것은 볼테르가 자신의 기이한 복권 당첨을 의미심장하게 암시하려는 문장이 아니었다. 모든 근대 철학자의 확립된 견해였다. 적어도 뉴턴 시기에 이르자 세계관은 확고히 결정론으로 기울었다. 사실 수백 년 전에도 그다지 다르지 않았다. 그때는 모든 것이 신의 뜻에 따라 결정되었고 지금은 과학 법칙에 의해 결정된다는 점만 다르다. (지난 100년을 거치며 인과율과 결정론에 대한 견해가 또 다른 변화를 겪었는데, 이번에도 물리학 때문이었다. 무작위성은 양자역학에서 거의 절대적인 역할을 한다. 나는 독자 여러분을 저 지뢰밭에는 데리고 들어가지 않을 것이다.) - P213

인간은 우연을 가지고 놀기를 좋아하도록 생겨먹었다. - P214

베르누이 법칙(그는 애정을 담아 ‘황금 정리‘라고 불렀다)은 다음과 같다. "실험을 충분히 자주 반복하면 어떤 사건의 상대빈도는 그 확률과 무작위적으로 작은 차이가 나는데, 반드시 그렇지는 않지만 그럴 확률이 무작위적으로 크다."
(중략) 그의 법칙은 무슨 뜻일까? 원하는 만큼 여러 번 반복할 수 있는 실험(이를테면 동전 던지기)과 P(A)의 확률로 일어나는 사건 A(이를테면 50퍼센트의 확률로 일어나는 ‘앞면‘ 사건)를 생각해보자. 무작위적 정확도(이를테면 5퍼센트)를 하나 정하고 우리가 바라는 만큼 1에 가까운 확률(이를테면 99퍼센트)을 정하자. 베르누이의 황금 정리에 따르면 실험을 독립적으로 반복하는 횟수 N이 충분히 크면 사건 A의 상대빈도 N(A)/N와 그 확률 P(A)의 차이는 5퍼센트 미만이다. 달리 말하자면 상대빈도가 44퍼센트와 55퍼센트 사이에 있을 확률이 99퍼센트다. 충분히 여러 번 시도하기만 하면 된다.
이 법칙은 여러 번 반복하는 시도에서 사건의 빈도 N(A)/N를 추정하여 그 확률, 말하자면 P(A)를 구할 수 있다는 뜻으로 곧잘 해석된다. 하지만 이것은 올바른 해석이 아니다. 베르누이의 큰수의 법칙은 A의 확률이 알려져 있을 때 A의 빈도에 관해 말하는 것이지 그 반대가 아니다. - P224225

모든 보험 상품도 도박이며, 심지어 불공정한 도박이다. 어차피 보험 회사도 살아야 하며, 심지어 떵떵거리고 싶어하니 말이다. 그래서 자신들에게 유리한 조건을 제시한다. 그럼에도 주택 보험에 가입하는 대부분의 사람들은 멍청해서 그러는 게 아니다. 그들은 작은 확률로 큰 손실을 당하기보다는 큰 확률로(실은 확실히) 작은 손실, 말하자면 보험료를 감당하고 싶어한다. - P230

하나의 원리가 리하르트 폰 미제스를 인도했다. 그것은 우연을 이기기가 불가능하다는 것이다. 달리 말하자면 장기적으로 이길 수 있는 전략은 존재하지 않는다. 은행을 이기는 시스템을 발견했다고 믿은 무수한 도박꾼이 처참하게 실패한 것에서 보듯 이 원리는 충분히 합리적이고 최대한 경험적인 듯하다. 영구 운동 기계가 없는 것과 마찬가지로 도박 시스템도 있을 수 없다. 우리는 이 사실을 받아들여야 한다. 간절히 바라면 이루어진다는 유치한 ‘소원 원리‘가 현실에 무릎 꿇는 순간은 어김없이 찾아온다. 이는 과학에 유익하다. 영구 운동 기계가 불가능하다는 사실은 열역학의 토대다. 도박 시스템이 불가능하다는 사실은 확률론의 토대다.
적어도 이것이 리하르트 폰 미제스의 취지였다. - P244245

고려할 만한 기술적 요소(이를테면 어떤 유형의 컴퓨터를 선택할 것인가)들이 있긴 하지만, 악용할 수 없는 연쇄, 규칙 없는 연쇄, 압축 불가능한 연쇄는 사실상 모두 동일하다. 세 가지 접근법은 리하르트 폰 미제스가 자신의 콜렉티프로 얻고자 했던 목표를 달성한다.
무작위성의 이 모든 규정이 활용하는 개념은 무작위성의 정반대, 말하자면 연산 가능성이다. 연산 가능성은 어떤 확률론적 맥락도 염두에 두지 않은 채 발전했다.
무작위 연쇄 개념은 연산 가능성 이론뿐 아니라 확률론 개념들도 근거로 삼는다. 이 말은 명백하면서도 실은 얼토당토않은 듯하다. 무작위성이 확률과 잘도 관계가 있겠다! 하지만 여기서 말하는 확률론은 (안드레이 니콜라예비치) 콜모고로프의 측도론 공리에 기초한 확률론이다. 사실 측도론은 확률이 100퍼센트나 0퍼센트인 결과의 집합에 관한 모든 수많은 진술에 필요하다. 이는 역설적 결과다. 리하르트 폰 미제스는 확률론을 무작위 연쇄라는 토대 위에 놓고 싶어했으니 말이다. 그런데 알고 보니 무작위 연쇄를 이해하는 데 확률론이 필요했던 것이다. - P250251

이론상 무작위 문자열은 온전한 동전을 여러 번 던지거나 방사성 원자의 붕괴를 관찰하거나 전력망의 변동을 측정하여 얻을 수 있다. 하지만 현실에서는 이런 물리적 방법으로 무작위성을 생성하려면 대개 시간이 너무 오래 걸리고 효율도 낮다. 이런 까닭에 대부분의 난수는 가짜다. 거짓말을 하지 않기 위해 이런 난수는 유사난수라고 부른다. 유사난수는 알고리즘으로 생성하며, 따라서 무작위성의 의미와 정반대다. 참으로 역설적이다. - P252

지금은 유사난수를 생성하는 방법이 엄청나게 많아졌다. 하지만 여전히 사술邪術에 가깝다. 유사난수를 자세히 들여다봤더니 기대만큼 무작위적이지 않다는 사실이 입증되는 당혹스러운 사건이 잇따라 발생했다. 유사난수를 이용하는 것은 여전히 불법의 냄새를 풍기는 도박이다. 요한 폰 노이만은 이런 농담을 남겼다. "난수를 생성하는 산술적 방법을 고민하는 사람이 죄인의 처지에 있다는 사실은 두말할필요가 없다." - P252

(프랭크 플럼프턴) 램지의 어머니는 옥스퍼드대학교에서 공부했는데, 이 오점을 제외하면 램지는 뼛속까지 케임브리지인이었다. 아버지는 수학자로, 모들린대학교 학장이었다. 프랭크는 트리니티대학교에서 공부했다. 저명한 경제학자 존 메이너드 케인스는 금세 그를 자신의 품 안에 맞아들여 비밀에 싸인 엘리트 토론 모임 사도회에 입회시켰다.
사도회에서는 독일어로 쓰인 얇고 신비스러운 논리학 책에 대해 열띤 토론을 벌였다. 케임브리지대학교의 어떤 교수는 제목으로 ‘논리·철학 논고‘를 제안했는데, 향후 판매 실적을 염두에 둔 것이 분명했다. 이 소책자는 엄청난 부자로 알려진 빈 출신의 전직 사도회원 루트비히 비트겐슈타인이 제2차 세계대전 기간 적군의 참호에서 복무하는 동안 썼다.
프랭크 램지는 독일어를 배워가며 소책자를 번역했다. 학부생이던 그는 『논고』의 몇몇 표현이 꽤 불분명하다는 생각이 들어 니더 외스터라이히를 찾아갔다. 그곳에서는 비트겐슈타인이 초등학교 교사로 일하고 있었다. 두 사람은 몇 주간 오후마다 책을 한 줄 한 줄 읽어갔으며 놀랍게도 둘은 평생 친구가 되었다. 유일한 시빗거리는 지크문트 프로이트를 어떻게 평가하는가였다. 프랭크는 프로이트를 알베르트 아인슈타인 및 비트겐슈타인과 동급에 놓았다. 루트비히는 자존심이 상했다. - P256

어떤 면에서 믿음은 틀릴 수 없다. 매번 관찰의 결과로 믿음이 갱신되더라도 이는 믿음이 올바르게 교정된다는 의미가 아니다. 애초에 틀린 적이 없기 때문이다. - P269

이것이 애로의 불가능성 정리 이면에 숨은 교훈이다. 개인이 가진 의지와 같은 의미에서의 의지를 집단이 가졌다고 생각해서는 안 된다. 여기서 우리는 콩도르세 후작으로 돌아간다. 그는 여느 계몽주의 사상가와 마찬가지로 장 자크 루소의 사상에 깊이 감화했다. 루소에 따르면 집단은 일반의지에 인도받아야 한다. 이 일반의지는 고귀한 개념이지만 콩도르세는 꼼꼼히 뜯어보니 일반의지를 명확히 규정하기가 힘들다는 사실을 발견했다. 일반의지는 존재하지 않는다. 적어도 경우에 따라 현저히 부재할 수 있다. 이 통찰은 루소의 추종자들에게는 뼈아픈 타격이었다. 프랑스혁명의 광기 어린 시기에 얻은 현실적 교훈이 환멸을 키웠다. 결국 젊은 나폴레옹이 권좌에 오르자 ‘일반의지 volonté generale‘는 ‘장군의 의지volonté du général‘에 밀려났다. - P287

선거는 우세한 의견을 결정하는 측량 행위에 머물지 않는다(앞에서 보았듯 ‘우세한 의견‘이 무엇인지 정의하기란 여간 힘든 일이 아니다). 선거는 제의이기도 하다. 더 정확히 말하자면 참여의 제의다. 투표자들은 좋게든 나쁘게든 직접 참여한다. 선거에는 제의적 측면이 있다. 이 성질은 통계에 근거한 여론조사에서는 결코 찾아볼 수 없다. 표본이 (티코크라시tychocracy적으로 설계된 독재자의 경우에서처럼) 작든 크든 상관없다. 심지어 대표성이 가장 큰 여론조사조차도 총선거라는 참여 방식을 대체할 수는 없다. - P289

반박될 만큼 정밀해질 수 있다는 수학의 특징은 결코 사소한 미덕이 아니다. - P301

두 실험에서 대부분의 사람과 같은 판단을 내렸다면 당신은 일관성이 없는 사람이다. 실제로 첫 번째 실험에서 당신은 흰색 공이 나올 가능성이 회색보다 크다고 추측했다. 그러므로 ‘흰색이나 검은색’ 공이 나올 가능성이 ‘회색이나 검은색‘보다 커야 한다. 이 실험은 우리가 확률을 다루는 방식이 기이하다는 사실을 알려준다.
대니얼 엘스버그는 연구 결과를 발표하고 얼마 지나지 않아 전 세계적으로 유명해졌는데, 이유는 따로 있었다. 1970년대 초 화제의 펜타곤 문서를 유출한 것이다. 장년층은 이 사건을 여전히 똑똑히 기억하며 젊은 층도 스티븐 스필버그의 영화 <더 포스트>를 보고 알게 되었다.
펜타곤 문서는 미 행정부의 치부를 드러냈으며 엘스버그는 내부 고발자의 본보기가 되었다. 그는 방첩법 위반으로 기소되어 115년형을 구형받았다. 하지만 다행히도 닉슨의 ‘배관공들‘(문서 유출에 대처하는 업무를 맡아서 붙은 별명)이 엘스버그를 진료한 정신과 의사의 사무실에 침입했다는 사실이 밝혀지면서 정부의 중대한 부정행위를 이유로 소송이 기각되었다. 훗날 ‘배관공들‘은 다른 시급한 업무를 하달받았는데, 이번에는 워터게이트 빌딩에 파견되었다가 또다시 일을 망쳤다. 한편 엘스버그는 MIT 교수가 되었으며 시민으로서의 용기와 학문 연구 양쪽에서 높은 평가를 받았다. - P309

기계는 왜 학습하는가

기계가 학습할 수 있는 이유는 수학과 전산학의 이례적인 만남 덕분이다. 물리학과 신경과학도 거들었다. - P10

이 책을 쓰는 내내 생각과 개념을 반복적으로 제시했으며 때로는 같은 문구를 되풀이하거나 같은 개념을 다르게 표현했다. 이 반복과 재서술은 의도적인 것이며 이것은 수학자나 기계 학습ML 개발자가 아닌 대부분의 사람들이 단순하면서도 (역설적이게도) 복잡한 주제를 파악할 수 있는 한 가지 방법이다. 일단 생각이 표현되면 우리의 뇌는 거기에서 패턴을 발견하며 다른 곳에서 그 생각을 맞닥뜨릴 때마다 연결을 형성함으로써 처음보다 더 깊이 이해한다.
당신의 신경세포들이 이 과정을 내 신경세포들만큼 즐기기를 바란다. - P14

이를테면 새끼 청둥오리에게는 모양이나 색깔이 비슷한 한 쌍의 움직이는 물체가 각인될 수 있다. 엄밀히 말하자면 두 물체에 구현된 관계 개념이 각인되는 것이다. 그래서 새끼 청둥오리가 부화 직후 두 개의 움직이는 빨간색 물체를 보았다면, 그 뒤로 색깔이 같은 두 개의 물체는 따라다니지만(빨간색이 아니라 파란색이어도 상관없다) 색깔이 다르면 따라다니지 않는다. 이때 새끼 청둥오리에게 각인된 것은 유사성 개념이다. 그런가 하면 비유사성을 인식하는 능력도 관찰된다. 이를테면 처음으로 본 움직이는 물체가 정육면체와 직사각형 프리즘이면 새끼 오리는 두 물체의 모양이 다르다는 것을 인식하여 훗날 모양이 다른 두 물체(이를테면 정사면체와 원뿔)는 따라다니지만 모양이 같은 두 물체는 외면한다. - P16

(프랭크) 로젠블랫의 퍼셉트론Perceptron이 장안의 화제가 된 것은 놀랄 일이 아니다. 데이터에서 가중치를 학습할 수 있었으니 말이다. 어떤 면에서 가중치는 데이터에 들어 있는 패턴에 대한 (아무리 사소할지언정) 지식을 부호화하여 기억했다. - P2526

퍼셉트론 장치의 제작은 대단한 성취였다. 하지만 훨씬 큰 성취는 만일 데이터가 선형적으로 분리 가능하면 단층 퍼셉트론이 선형 분리 초평면hyperplane을 반드시 찾아낸다는 수학증명이었다. 이 증명을 이해하려면 벡터가 무엇이며 어떻게 이것들이 기계 학습에서 데이터를 나타내는 방법의 뼈대를 이루는지 알아야 한다. 이것이 우리의 첫 번째 수학적 급유 지점이다. - P33

물론 한 데이터 점을 바로잡으면 초평면이 나머지 데이터 점의 일부 또는 전부에 대해 틀릴 수도 있다.
그러므로 퍼셉트론은 이 절차를 데이터 점 단위로 반복하다가 결국 모든 데이터 점에 적합한 가중치와 편향에 대해 수용 가능한 값 집합에 안착한다. 이런 식으로 퍼셉트론은 두 데이터 점 집합을 가르는 선형 구분선을 찾는다. - P60

이 분야 사람들은 1974년부터 1980년까지를 첫 번째 AI 겨울이라고 부른다. 케임브리지 대학교 루커스 응용수학 석좌교수인 제임스 라이트힐 경은 이 분야를 조사하여 1972년 AI의 현황에 대한 보고서를 발표했다. 그의 보고서에는 심지어 "과거의 실망스러운 것들"이라는 대목도 있었다. 해당 부분은 이렇게 시작된다. "AI 연구 및 관련 분야 종사자들은 대부분 지난 25년간의 성취에 대해 뚜렷한 실망감을 토로한다. 1972년에 실현된 것은 그들이 1950년경, 심지어 1960년경 이 분야에 발을 들일 때에 품었던 부푼 희망과는 딴판이었다. 이 분야의 그 어떤 발견도 당시 장담한 거대한 변화를 지금껏 전혀 일으키지 못했다." - P63

때는 1959년 가을이었다. 갓 30대가 된 젊은 학자 버나드 위드로가 스탠퍼드 대학교의 연구실에 있을 때, 거창한 추천의 말과 함께 마션 ‘테드‘ 호프라는 대학원생이 그를 찾아왔다. 전날 스탠퍼드 대학교의 선임 교수 한 사람이 위드로에게 호프를 이렇게 소개했다. "테드 호프라는 학생이 있네. 내 연구에 흥미를 붙여주지 못하겠어. 자네가 하는 것에는 관심을 보일지도 모르겠군. 그와 얘기해보겠나?" 위드로가 대답했다. "기꺼이 그러죠."
위드로가 내게 말했다. "그렇게 이튿날 테드 호프가 제 연구실 문을 두드렸습니다." - P72

이제 x, y, z에 대해 임의의 값 집합이 주어졌을 때 우리는 그 점에서 함수의 기울기를 구한 다음 반대 방향으로 작은 걸음을 내디뎌 x, y, z의 값을 갱신할 수 있다. 함수가 전역 최솟값이나 지역 최솟값들을 가지면 이절차를 반복하여 그곳에 도달할 수 있다. 또한 우리의 해석은 함수와 벡터라는 두 중요한 개념을 연결했다. 이것을 명심하라. 기계가 왜 배우는지 이해해나가면서 우리는 벡터, 행렬, 선형 대수, 미적분, 확률 통계, 최적화 이론(마지막 두 개는 아직 들여다보지 않았다)과 같이 서로 동떨어져 보이는 분야들이 모두 어우러지는 것을 보게 될 것이다. - P85

그때 그(버나드 위드로)는 MIT에 있으면서 필터 설계의 대가 노버트 위너에게 깊은 영향을 받았다. 당시 위너는 MIT에서 가장 널리 알려진 교수였다. 수십 년 뒤 위드로는 책에서 위너의 성격을 회상하며 유난히 감정에 북받쳐 묘사했다. 위너가 MIT 건물 복도를 걸을 때 그의 머리는 말 그대로, 또한 비유적으로 "구름 속에in the claa A ouds" 있었다고 한다(‘구름 속에‘는 공상에 빠져 있음을 뜻하는 관용 표현이다/역주). "우리는 위너를 매일 그곳에서 보았는데, 그때마다 시가를 물고 있었다. 그는 시가를 뻐끔거리며 복도를 내려왔다. 시가는 세타 각을 이루고 있었다. 즉, 지면으로부터 45도 기울어져 있었다. 그는 결코 걷는 방향을 바라보지 않았다. ……하지만 연기를 뻐끔뻐끔 내뿜어 머리가 연기 구름에 둘러싸여 있었다. 그는 다른 것에 정신이 팔려 있었다. 물론 방정식을 도출하고 있었다. 위너는 복도 끝 계단 앞에 다 와서도 아래를 내려다보지 않고 위를 올려다보았다. "위너가 계단 아래로 굴러떨어져 목숨을 잃을 것처럼 보여도 방해하면 안 된다. 그의 생각의 흐름이 끊기면 과학이 10년은 퇴보할 수도 있기 때문이다! 늘 이 문제가 있었다." - P88

위드로와 호프는 자신들의 방법이 지독히 근사적임을 알고 있었다. 위드로가 내게 말했다. "제가 하는 일은 오차의 값 하나를 취해 제곱하고 침을 꿀꺽 삼키는 것입니다. 거짓말을 할 작정이니까요. 그러고는 그것이 제곱 평균 오차라고 말합니다. 잡음이 자글거리는 제곱 평균 오차인 셈이죠. 그러고 나서 도함수를 취하면 미분하지 않고 해석적으로 값을 구할 수 있습니다. 아무것도 제곱할 필요가 없습니다. 아무것도 평균할 필요가 없습•니다. 당신은 잡음이 지독히 많은 기울기를 얻었습니다. 이런 작은 단계를 한번, 또 한번, 다시 한번 거칩니다." - P98

위드로의 연구실 맞은편에는 아날로그 컴퓨터가 있었다. 록히드 사가 스탠퍼드 대학교에 준 선물이었다. 문은 열려 있었으며 누구나 컴퓨터를 이용할 수 있었다. 이 컴퓨터로 프로그래밍하는 것은 구식 전화 교환대를 조작하는 것과 비슷하게 전선을 이 배선반에서 뽑아 저 배선반에 꽂는 식이었다. 호프는 반시간 만에 아날로그 컴퓨터에서 알고리즘을 작동시켰다. 위드로가 내게 말했다. "호프가 해냈습니다. 작동법을 어떻게 알았는지는 모르겠습니다. 그것을 프로그래밍하는 법을 알고 있더라고요."
알고리즘이 작동한다는 것을 확인하고 난 뒤 두 사람의 다음 단계는 단일 적응 신경세포, 즉 실제 하드웨어 신경세포였다. 하지만 때는 이미 늦은 오후였다. 스탠퍼드 대학교 비품실은 주말에는 문을 닫았다. 위드로가 내게 말했다. "기다릴 생각은 없었습니다." 이튿날 아침 두 사람은 팰로앨토 시내의 전파사를 찾아가 필요한 부품을 몽땅 구입했다. 그러고는 호프의 아파트로 가서 토요일 한나절과 일요일 반나절 내내 일했다. 일요일 오후가 되자 프로그램이 제대로 작동했다. 위드로가 그때를 떠올렸다. "월요일 아침에 제 책상 위에 올려놓았습니다. 사람들을 초대하여 학습하는 기계를 보여줄 수 있었죠. 우리는 애들라인ADALINE이라는 이름을 붙여주었습니다. ‘적응 선형 신경세포adaptive linear neuron‘의 약자입니다. 그것은......적응 필터가 아니라 훌륭한 신경세포가 되는 법을 학습한 적응 신경세포였습니다." - P99

제2장에서 본 퍼셉트론 수렴 증명은 선형 분리 초평면이 만일 존재한다면 퍼셉트론이 그 초평면을 찾아내는 이유를 분명히 보여주었지만, 조잡한 LMS 알고리즘이 효과가 있는 이유는 그만큼 분명하지 않았다. 몇 해 뒤에 위드로는 뉴저지 주 뉴어크에서 비행기를 기다리고 있었다. 그의 항공권은 유나이티드 항공사가 발급한 것이었다. "당시에는 항공권을 봉투에 넣어서 줬습니다. 그리고 봉투에는 여백이 있었죠. 그래서 자리에 앉아 몇 가지 대수식을 풀고는 이렇게 말했습니다. 어라, 이건 불편 추정값unbiased estimate이잖아."
위드로는 단계가 극단적으로 작아지면 LMS 알고리즘이 해를 내놓는다는 것을 밝힐 수 있었다. 그것은 신경세포나 적응 필터의 가중치에 대한 최적값이었다. 위드로가 내게 말했다. "단계를 작게 줄여 많이 만들면 평균 효과를 얻어 그릇 바닥에 도달합니다." - P100101

그러나 거의 모든 사례에서는 기저 분포를 알기가 불가능하다. 그러므로 확률론적 ML 알고리즘의 과제는 데이터에서 분포를 추정하는 것이라고 말할 수 있다. 어떤 알고리즘은 다른 알고리즘보다 이 일을 잘하며 모두가 실수를 저지른다. 그러므로 AI가 정확한 예측을 한다는 주장을 듣거든 100퍼센트 정확도란 불가능에 가깝다는 사실을 명심하라. (퍼셉트론의 경우에서처럼) 암묵적으로 확률론적이든 (조금 뒤에 살펴볼 예제에서처럼) 명시적으로 확률론적이든 모든 알고리즘은 틀릴 수 있다. 그렇다고 해서 이것이 기계 학습에 타격이 되지는 않는다. 인간인 우리도 (스스로는 합리적이고 오류 없는 결정을 내린다고 생각하지만) 확률론적 결정을 내린다. 이 확률론적 과정이 우리가 인식하지 못하는 (말하자면) 막후에서 벌어지고 있을 뿐이다. - P124

홀수는 옳든 그르든 답을 보장한다. - P168

여기에는 놀라운 의미가 담겨 있다. 데이터 집합에 대한 단순한 가정이 주어지면, 저차원에서의 결정 경계가 아무리 복잡하더라도 문제를 무한 차원에서 선형적으로 분리 가능한 문제로 바꿀 수 있는 것이다. - P243

RBF(radial basis function, 방사형 기저 함수) 커널은 일부 무한 차원 공간에서 선형적으로 분리 가능한 초평면을 알고리즘이 반드시 찾도록 해줄 수 있기 때문에 저차원 공간에 대응되면 아무리 복잡한 공간에서도 어떤 결정경계(또는 함수)든 찾을 수 있다. 그래서 ‘보편 함수 어림자universal function approximator‘라고 불린다. 이 구절을 기억해두라. 뒤에서 장 하나를 통째로 할애하여 특정 유형의 인공 신경망이 어떻게 해서 보편 함수 어림자이기도 한지를 논할 것이기 때문이다. 신경세포가 충분하다면 어떤 문제든 해결할 수 있다.
(블라디미르) 바프니크의 1964년 최적 한계 분류자와 커널 수법의 조합은 엄청난 위력을 발휘했다. 이제 넘보지 못할 데이터 집합은 하나도 없었다. 원래의 저차원 공간에서 데이터 부류들이 얼마나 뒤섞였는지는 문제가 되지 않았다. 데이터를 극단적 고차원에 투영하여 최적 한계 분류자를 이용하면 최상의 선형 분리 초평면을 찾을 수 있지만, 커널 함수를 이용하기 때문에 고차원 공간에서 계산하지 않아도 된다. - P244

나는 존 홉필드를 인터뷰하면서 그의 이름을 딴 연결망을 언급하는 것이 어색했다. 내가 말했다. "당신과 이야기하면서 그것을 홉필드 망이라고 부르는 게 멋쩍게 느껴져요. 당신은 늘상 이런 경험을 했겠죠."
홉필드가 미소 지으며 말했다. "마음을 비웠습니다." - P277278

논문은 발표되었다. 홉필드는 에세이 "이제 무엇을 할까?"에서 그 과정을 떠올리며 헤밍웨이를 인용한다."

어니스트 헤밍웨이는 논픽션 쓰기와 관련하여 이렇게 말했다. "산문의 저자가 자신이 무엇에 대해 쓰는지 충분히 알면 자신이 아는 것을 생략할 수 있으며, 독자는 (저자가 충분히 진실되게 쓴다면) 생략된 것에 대해 마치 저자가 쓴 것처럼 생생한 느낌을 받을 것이다." 나는 「PNAS」(「미국 국립과학원 회보」) 분량 제한 때문에 무엇을 쓰고 무엇을 생략할지를 매우 깐깐하게 골라야 했다. 헤밍웨이가 물리학자였다면 내 문체를 알아봤을 것이다. 돌이켜보면 거의 명백한 것을 생략한 덕분에 논문의 영향력이 커진 듯하다. 언급되지 않은 것들은 다른 사람들에게 이 주제에 첨언하라는 초대장이 되었으며 그리하여 연구자 집단이 이런 연결망 모형에 대한 논문을 발표하도록 독려했다. 성공적인 과학은 언제나 공동 작업이다. - P278279

충분한 은닉 신경세포가 주어졌을 때 신경망이 어떤 함수든 어림할 수 있다는 그의 증명이 단 하나의 은닉층에 초점을 맞춘 탓에 일부 연구자들은 은닉층 개수를 늘려 깊이 들어가기보다는 하나의 은닉층만 가지고 신경망을 구축하는 데 열중한 듯하다. (조지) 시벤코가 말했다. "저는 층을 하나만 쓰라고 말하지 않았습니다. 사람들 스스로 하나만 필요하다고 결론 내린 것입니다." - P308

(제프리) 힌턴은 결국 박사 과정을 끝냈다. 그의 연구는 신경망을 이용해서 제약하 최적화 문제를 푸는 것이었다. 그는 자신의 신경망에 대해 이렇게 말했다. "하지만 학습을 하지는 않았습니다." 하지만 힌턴은 언젠가 다층 신경망을 학습시킬 수 있을 것이라고 확신했다. 당시는 1970년대 중엽이었다. (마빈) 민스키와 (시모어) 패퍼트가 단층 퍼셉트론이 XOR 문제를 풀 수 없음을 증명한 것이 그즈음이었다. 힌턴은 두 사람의 증명이 보편적이라는 점에서 중요하다는 것을 인정했다. XOR 문제가 단층 퍼셉트론으로 풀 수 없는 문제 유형의 특수 사례라는 것도 인정했다. 하지만 주눅 들지는 않았다. 그가 내게 말했다. "단순한 신경망이 그렇게 못한다는 것을 증명했다는 점에서 기본적으로 속임수였습니다. 두 사람은 더 복잡한 신경망이 그렇게 할 수 없다는 어떤 증명도 내놓지 못했습니다. 일종의 유추일 뿐이었습니다. ‘단순한 신경망이 못 하니까 잊어버려‘라는 식이었죠. 그런데도 사람들은 수긍하더군요." - P312

영국에서는 면접조차 잡기 힘들었다. 서식스 대학교에서만 발달심리학과 자리가 나서 면접 기회를 얻었는데, 결국 탈락하고 말았다. 서식스 대학교의 한 학자는 힌턴에게 논문을 축소판으로 복사해서 미국에 있는 모든 관련 인사에게 보내보라고 제안했다. 힌턴이 말했다. "AI는 미국에 있었으니까요."
(데이비드) 러멜하트는 힌턴의 논문을 읽고서 캘리포니아 대학교 샌디에이고 캠퍼스의 박사후 연구원 자리를 제안했다. 영국의 획일적인 학문 풍토에 시달린 힌턴에게 미국은 신의 계시와 같았다. 영국에서는 ‘올바른‘ 방법이 정해져 있었으며 나머지 모든 것은 이단으로 치부되었다. 신경망은 그런 이단에 속했다. "미국은 그렇게 옹졸하지 않습니다. 무엇보다 해안이 두 곳입니다. 한쪽에서는 이단이 다른 쪽에서는 그렇지 않을 수 있죠." - P316

이것은 역전파 알고리즘의 경이로운 능력이다. 입력에서 손실에 이르는 연산의 연쇄를 매 단계마다 미분할 수 있으면 손실 함수의 기울기를 계산할 수 있다. 기울기가 주어지면 각각의 가중치와 편향을 조금씩 갱신하여 손실이 수용 가능할 만큼 최소화될 때까지 경사하강법을 실시할 수 있다.
역전파 알고리즘의 유연성과 위력은 아무리 강조해도 지나치지 않다. 이론상 신경망의 층 개수가 몇 개든 상관없으며, 층 하나당 신경세포 개수도 몇 개든 상관없다. 신경망의 연결이 듬성하든 촘촘하든 상관없다. 알맞은 손실 함수를 설계하기만 하면 된다. 이 모든 선택은 당신의 신경망이 수행해야 하는 작업을 결정한다. 훈련은 결국 다음으로 귀결된다. 신경망에 일정한 입력 집합을 넣고 예측 출력을 알아내고(이것은 사람이 데이터에 주석을 달아서 출력이 무엇이어야 하는지 알기 때문일 수도 있고, 자기 지도self-supervised 학습이라는 학습 유형에서 예측 출력이 입력 자체의 알려진 변이이기 때문일 수도 있다) 손실을 계산하고 손실 기울기를 계산하고 가중치/편향을 갱신하고 이 작업을 반복하는 것이다. - P342343

(얀) 르쾽은 앞 장들에서 이미 만나본 ML의 성서인 (리처드) 두다와 (피터) 하트의 『패턴 인식Pattern Classification』을 발견하여 일부를 암기했다. 르쾽은 이 모든 독서에서 얻은 핵심 교훈을 이렇게 설명했다. "학습 알고리즘은 목적 함수를 최소화해야 합니다. 그러면 엄청난 결과를 이끌어낼 수 있습니다."
목적 함수는 손실 함수를 사소하지만 유의미하게 변화시킨 것이다. 이미 살펴보았듯이, 손실 함수는 ML 모형의 매개변수를 취해 손실을 (이를테면) 전체 훈련 데이터 집합에 대한 제곱 평균 오차(MSE)로서 계산하는 함수이다. 우리는 손실 함수를 어떻게 최소화하거나 최적화할 수 있는지 보았다. 그런데 손실 함수만 적용하는 것에는 내재적 문제가 따른다. 최적화를 너무 잘하면 ML 모형이 데이터에 대해 과적합할 수 있는 것이다. 즉,
말 그대로 모든 것을 기억할 수 있다. 이런 경우 전에 보지 못한 시험 데이터에 대한 예측 실력이 형편없어질 수 있다. 이를 방지하려면 정칙화 항(regularizer. 보통 ‘정규화‘라고 번역하지만 이 책 앞부분에도 나오는 또다른 기계학습 용어인 ‘normalization‘과 혼동 우려가 있어서 이 책에서는 ‘정칙화‘로 번역한다/역주)이라고 하는 추가 항을 손실 함수에 덧붙이는 방법이 있다. 이 항은 ML 모형이 과적합을 피하게 할 수 있도록 설계된다. 손실 함수와 정칙화항을 합치면 목적 함수가 된다. 단지 순수한 손실 함수만이 아니라 목적 함수를 최소화하여 구축한 모형은 처음 보는 데이터를 더 탁월하게 일반화할 수 있다. - P366367

우리는 ML 모형이 그릇 바닥에 있기를 바란다. 이 지점은 미적합과 과적합 사이, 모형의 단순성과 복잡성 사이에 있는 최적 균형을 나타낸다. 이것이 골디락스 구역이다. 시험 오류 위험을 최소화하는 모형을 선택하면, 처음 보는 데이터(모형이 현실에서 맞닥뜨릴 데이터로, 말하자면 훈련 데이터나 시험 데이터에 들어 있지 않은 것)를 일반화하는 능력이 최대화된다. 그러므로 시험 오류를 최소화하는 것은 일반화 오류를 최소화한다는 뜻이자 일반화 능력을 최대화한다는 뜻이다.
전통적인 기계 학습의 거의 모든 경험적 설명에 따르면, 이 이야기는 옳아 보였다. 그런데 심층 신경망이 뛰어들어 이 통념을 뒤집었다. 심층 신경망은 매개변수 개수가 훈련 데이터 인스턴스에 비해서 너무 많다. 그래서 과매개변수화되었다고 말한다. 따라서 과적합해야 마땅하며 처음 보는 시험 데이터를 제대로 일반화하지 못해야 마땅하다. 그런데도 제대로 일반화한다. 표준 ML 이론은 심층 신경망이 왜 이토록 훌륭한 결과를 내놓는지 더는 제대로 설명하지 못한다. - P401

ML 엔지니어는 여러 초매개변수를 선택해야 하는 것 이외에 더 포괄적으로는 지도 학습을 동원할 것인지, 비지도 학습을 동원할 것인지도 선택해야 한다. 우리는 지도 학습에 주로 초점을 맞췄는데, 이를 위해서는 훈련 데이터를 라벨링해야 한다. 이 말은 각 입력에 대해 그에 대응하는 예측 출력이 있다는 뜻이다. 이렇게 하면 훈련 데이터의 인스턴스마다 손실을 계산할 수 있다. 비지도 학습도 간단하게 접했는데, 이를테면 훈련 데이터 집합에 군집이 몇 개 있는지 알고리즘에 알려주면 이 알고리즘은 군집을 찾아 데이터의 각 인스턴스를 해당 군집에 할당할 수 있다. 하지만 지난 5년에 걸쳐 가장 중요한 발전 중 하나(그 덕에 챗GPT 같은 AI에 대한 관심이 폭발적으로 커졌다)는 자기지도 학습이라고 불리는데, 비라벨 데이터를 취해 인간의 개입 없이 암묵적 라벨을 만들어 스스로 지도 학습을 하는 기발한 방법이다. - P409

사실 이 책의 상당 부분은 전통적인 기계 학습의 토대에는 잘 이해된 수학적 원리가 있다는 사실을 칭송했지만, 심층 신경망, 특히 오늘날의 거대 신경망은 이 통념을 뒤집는다. 느닷없이 신경망의 경험적 관찰이 앞장을 서고 있다. 마치 AI를 하는 새로운 방식이 우리에게 제시된 듯하다. - P416

트랜스포머transformer는 내부 고차원 공간에 있는 각각의 수를 표상하는 법을 학습했으며 모듈로—97 덧셈으로 수를 더하는 법도 학습했다. 신경망의 훈련 손실이 0이 되는 점에서 훈련을 중단하면 신경망은 훈련 데이터를 내삽했을 가능성이 매우 크다. 이 말은 데이터를 무작정 암기했다는 뜻이다. 오폰시 연구자들이 훈련을 중단한 것도 대개 이 시점에서였다. 누구도 더 훈련할 생각을 하지 않았다. 하지만 그러던 어느 날 휴가 소동 덕분에 신경망이 이 시점을 지나 훈련을 계속했으며 전혀 새로운 무엇인가를 학습했다. (얼리티아) 파워가 내게 말했다. "신경망이 충분히 오랜 시간 동안, 그러니까 훈련 집합을 암기하는 데 걸리는 시간의 몇 배에 이르는 훨씬 오랜 시간 동안 훈련을 받으면 갑자기 더 심층적인 기저 패턴을 찾아내고, 일반화 능력이 생기며, 데이터 집합의 다른 문제에 대해서도 더 정확한 예측을 내놓을 수 있어요. 기이한 현상이죠. 우리는 예측하지 못했습니다." - P419420

마음 이론 과제(외부 행동 단서만으로 타인의 믿음이나 마음 상태를 추론하는 것)가 사소한 것처럼 보일지도 모르지만, LLM(large language model, 거대 언어 모형)에는 중대한 응용 분야가 있다. 이를테면 프로그래밍 코드가 들어 있는 웹페이지에 대해 미세 조정된 LLM은 프로그래머에게 뛰어난 조수가 될 수 있다. 문제를 자연어로 기술하면 LLM은 그 문제를 해결하는 코드를 내놓는다. LLM은 천하무적이 아니며 실수를 저지르지만, 우리가 인정해야 할 중요한 사실은 LLM이 코딩을 훈련받는 것이 아니라 토큰 연쇄가 주어졌을 때 다음 토큰을 생성하는 법만 훈련받았다는 것이다. 그런데도 코드를 생성할 수 있는 것이다. 이로 인한 프로그래머의 생산성 향상은 부인할 수 없다. - P430

우주여행의 과학부터 여행하기

우주여행자를 위한 생존법 - 경이로운 우주를 탐험하기 전 알아야 할 것들
폴 서터 지음, 송지선 옮김 / 오르트 / 2025년 4월

 우주가 위험하다는 사실을 내가 얼마나 잘 잊는지, 무척 잘 아는 과학자가 쓴 책이다. 시시때때로 “얼마든지 나가보세요, 돌아오지는 못하겠지만요.”라는 식으로 말한다. 현대 과학이 지금까지 규명한 우주의 경이를, 독자들의 우주여행을 전제로 구성했다는 이 책의 개성은, 그 모든 지식의 결론이 다채롭지만 일관된 경고라는 데서 가장 선명하다. “그래서 죽을 수도 있답니다, 우주에서, 어떻게든.”

 이제 인류가 우주에서 무엇을 알아내야 하고, 현재까지 파악한 우주는 어떠한지에 관한, 이 모든 지식이야말로 우주에서는 언제든지 얼마든지 목숨을 잃을 수 있다는 사실로 귀결된다. 이 순환이 ‘생존법’의 핵심이다. 이 책에서 새삼스럽게 놀라운 지점이기도 하다. 우주가 얼마나, 어떻게 위험한지는 이미 자주 들었고, 우주가 무엇으로 이루어져 어떻게 움직이는지도 어느 정도는 안다. 하지만 과학과 우주의 이런 두 측면이 필연적으로 이어진다는 사실에 대한 인식은 별개였다.

외부 태양계에도 문제가 덜 되죠. 방사선량은 거리의 제곱에 따라 감소하므로 거리가 두 배로 늘어나면 유해지수가 4분의 1로 줄어드니까요. 그러나 내부 행성, 특히 수성은 사악한 장소가 될 수 있습니다. 공기가 없는 달이나 소행성에 서식지를 꾸미는 경우, 이 서식지 설계자는 바로 이 문제, 많은 방사선량을 피하기 위해 서식지를 지하 깊숙이 배치하기를 바랄 것입니다. 그렇지 않으면 여러분은 터지기를 기다리는 걸어 다니는 암, 시한폭탄에 불과할 것입니다. -109쪽

수명이 다한 거대한 별을 조심하세요. 별이 태양 질량의 10배가 넘는다면 폭발에 너무 가까이 다가갈 위험이 있습니다. 정상적으로 보이는 별에서 폭발적인 죽음의 폭발로 바뀌는 데는 단 몇 초밖에 걸리지 않으며 경고도 거의 없습니다. 충격파와 감마선으로 인한 피해가 최소화될 수 있는 최소 수십 광년 떨어진 곳에 머물러야 합니다. -311쪽

 그러므로 자칫하면 상당히 안전하고 경제적인 우주여행이 가능해지더라도, 그것이 너무 빨리 가능해지면 오히려 더 위험할 수 있겠다는 괜한 걱정까지 들었다. 어떤 이유로든, 어떻게든 항공기 문을 열겠다는 사람은 아직도 존재한다는 엄연한 사실 덕이다. 민간 우주여행의 안전성, 완성도는 물론 경제성이 제고되는 속도가 우주에 대한, 특히 그 위험성의 과학이 보편화, 상식화되는 속도를 능가해서는 오히려 곤란할 수도 있다. 무작정 누구나 우주에 갈 수 있는 시대가 되면, 누구나 우주에서 돌아올 수 없는 시대일 것이다. 항공기의 비상구를 열거나 창을 깨려는 사람이 드문 것은, 누구나 그 정도는 처음부터 알고 있어서가 아니라, 그만큼 많은 인류가 현재까지 과학과 이성을 갖춰온 결과에 가깝다. 단지 나 자신만 여태 배워서도 아니고, 내가 태어나기 전까지 한국에 유입된 과학과 상식의 덕으로 지금 얌전히 비행기를 탈 뿐이다.

 결국 지금까지 인간이 우주에 대해 쌓은 과학은, 우리가 우주에서 죽을 이유이기도 하다. 내가 당장 우주에 갈 수 없는 까닭에, 이 천문학과 천체물리학의 정보를 생존의 문제로 연결 짓지 못했을 뿐이다. 이 책이 지극히 진지한 최신 연구들과 그 근간이 된 현대 과학, 특히 물리학의 원칙을 차근차근 설명하면서도 내내 유머를 잃지 않는 이유는, 독자 대부분은 지금 이 내용이 우주에서 자신의 생사를 좌우한다는 사실을 너무나 모른다는 그 사실부터 저자가 떠올려서인 듯하다. 헛웃음인 셈이다. 언젠가는 저 천체를 더 선명하게 찍어서 인스타그램에 올리려고 흐릿한 창을 깨거나 창을 열라고 기내에서 소란을 피우는 사람들을 잠시라도 상상했을까? 물론 우주여행의 상용화와 대중화는 엄연히 다른 층위인데다, 인류가 도달 가능한 우주의 영역까지 고려한다면 당장은 우주여행의 생존법을 모르더라도 우주여행을 할 때 생사의 기로에 서지는 않을지도 모른다. 달을 한 바퀴 돌고 지구로 돌아오는 정도의 우주여행이 당장 상용화되더라도 나까지 탈 수 있는 가격일리는 없고, 대중화가 되더라도 동승자들의 무지가 내 목숨까지 위협할 정도가 되려면 시간은 꽤 걸릴 것이다. 적어도 항공기 탑승객이 저지른 사고는 요즘에야 내 눈에 띄었듯이.

재미있는 사실이 하나 알려 드릴게요. 이 입자 소나기에 있는 입자 중 하나가 뮤온입니다. 뮤온의 수명은 수 마이크로초(1마이크로초는 10의 -6승 초)로, 빛의 속도에 가까운 속도로 대기권 상층에서 지상에 닿을 만큼 그 수명이 길지 않습니다. 그러나 빛의 속도에 가까운 속도를 가진 뮤온은 상대성 이론의 시간 연장 효과 덕분에 입자의 내부 시계는 느려져서 작은 파괴의 힘으로도 이 세상을 가격할 수 있을 만큼의 충분한 시간을 갖게 됩니다. -147쪽

간단히 말해, 블랙홀은 시공간 자체에 구멍이 뚫린 것과 같아요. 모든 물질이 중력에 의해 무한히 작은 점으로 밀집된 무한 밀도의 지점이지요. 이것이 완전히 정확한 설명이 아니라는 것은 알지만(특이점은 어떤 물체가 아니라 아인슈타인이 더 이상 우리를 안내하지 않을 것이라는 경고가 써 있는 표지판에 불과합니다.) 일단은 그렇게 이해하고 넘어가 보도록 하죠. 이러한 특이점은 사건의 지평선에 둘러싸여 있는데, 이 사건의 지평선 또한 보이지 않는 모래 위의 선과 같이 어떤 사물이 아닌 거죠. 사건의 지평선을 넘어가면 특이점 마을로 가는 편도 티켓만을 얻게 되는 것이고요. -502쪽

 이 책은 아직 실현되지 않은 우주여행을 전제하고, 이 설정에 부합하는 문체와 표현으로 우주의 본질을 규명한 물리학, 천문학, 천체물리학의 최근 성과를 전달한다. 따라서 이 책의 과학은 구체적, 현재적인 동시에, 문학적, 사회적인 의미도 띤다. 당장 우주여행을 무사히 다녀오려면 마땅히 숙지해야 하는 지식이라는 점에는 의심의 여지가 없다는 점에서 구체적, 현재적이다. 그 우주여행은 당장 내가 갈 리도, 갈 수도 없지만, 만약에 내일 간다면 아는 것은 너무 없고 위험한 것은 너무 많아서 큰일 날뻔했다는 사실을 상기시킨다는 점에서 문학적, 사회적이다.

 무엇보다 지금은 인류 역사 이래 우주라는 공간으로 나아갈 가능성이, 가장 급격히 증가하는 시기다. 인류의 생활 영역이 우주로 확장될 가능성이 지금까지 높아진 정도와, 최근 10여 년간 높아진 정도는 비슷해 보인다. 따라서 이제 우주에 관한 지식은 곧 이 공간에서 닥칠 위기, 벗어날 대책과 직결된다. 게다가 최근의 이런 급격한 진전이 우주에 대한 기존의 대중적 과학관 사이의 시차를 점점 벌릴 수도 있다. 대중이 알고 배우는 우주의 과학이 나아가는 속도보다 우주여행이 진전되는 속도가 너무 빨라서 말이다. 우주여행은 이미 듣고 접해온 과학이 개인과 사회를 얼마나 크게 바꿀지 보여주는 결정적 변화이므로 과학적이다. 우주로 계속 나아가는 현대 과학을 더 깊고 넓게 이해할 이유가 된다는 것은, 우주여행의 그 다음 과학적 의미다. 저자의 필력으로 우주에 앞서서 이 우주여행의 과학부터 여행했다.

 저자와 번역자는 물론 편집자까지 천체물리학을 전공한 까닭에, 자칫 난해하거나 어색할 수 있는 이 책 특유의 구성과 표현이 한국어로 생생하게 전달된 점이 특히 인상적이다. 저자가 자신의 지식을 영어 독자에게 전하기 위해 구사한 다채로운 표현을, 번역자와 편집자가 영어와 한국어의 행간에서 세심하게 조율해서 타당하게 전달한 덕분이다. 그저 한국어 번역자와 편집자도 이 분야의 전문지식이 깊어서 신뢰할 수 있다는 당위적인 차원이 아니다. 번역자와 편집자의 두 언어와 전문지식의 역량은 물론, 그리고 이 세 요소에 대한 사사로울 정도의 애정이 빛을 발했다고 말할 수 있다.

직관을 넘어선 미적분

수학이 생명의 언어라면 - 수면부터 생체 리듬, 팬데믹, 신약 개발까지, 생명을 해독하는 수리생물학의 세계
김재경 지음 / 동아시아 / 2024년 9월

 고등학교 수학 교육에서 미적분의 역할에 대한 논쟁은 종종 들어 왔다. 즉 그리 신선한 주제는 아니다. 학교에서 배웠던 기억을 더듬어서 그 무용성을 지적하는 의견이 있다. 그 맞은편에 미적분의 효용이 최근의 과학과 기술 발달에서 얼마나 광범위한지, 대학에 입학해서야 필요한 학과에서 새로 가르치느라 어떤 비효율이 일어나는지 등의 반박도 있다. 이렇게 상이한 입장들은 물론 대학 입시라는 장場에서 가장 날카롭게 부딪힌다. 하지만 수학 교육과 미적분의 역할에 관한 더 큰 문제는 대학교와 대학 입시 너머에 있음을 이 책은 선명하게 보여 준다.

그렇습니다. 적분은 ‘쉽게 측정할 수 있지만 그다지 관심 없는 속도’로부터 ‘궁금하지만 측정할 수는 없는 미래’를 예측하기 위해 필요한 것입니다. 즉,

미적분학은 미래를 예측하기 위해 필요합니다. -30쪽

미분은 속도 변화를 직관적으로 묘사하게 해주고, 이것의 적분은 직관적이지 않은 미래를 예측하게 해줍니다. -48쪽

 이 책의 부제처럼 “수면부터 팬데믹까지” 수리생물학은 인간의 직관이 놓치거나 풀지 못한 생명 현상의 원리를 이해하고 방향을 예측한다. 그 핵심 수단이 본질적으로 ‘계산 기계’인 컴퓨터이며 그 컴퓨터의 핵심 언어는 미적분이다. 그리고 컴퓨터와 미적분이 결합해 생명 현상을 번역하는 수리생물학에서 의학, 약학, 생명과학 등의 연관 분야와의 협업은 당연히 중요하다. 그런데 여기서의 미적분은 인간이 처음부터 끝까지 직접 계산해야 하는 문제가 아니다. 인간의 직관으로 해석할 수 없는 생명 현상을, 컴퓨터가 이해할 수 있도록 번역하는 수리 언어의 핵심 문법이 미적분이다. 인간의 역할은 생명 현상을 컴퓨터가 이해할 수 있도록 미적분으로 묘사하고, 그 컴퓨터가 생명 현상을 해석하는 과정을 운용하는 것이다. 당연히 인간이 미적분을 잘 알아야 하지만, 그 구체적, 세부적 계산까지 인간의 몫은 아니다.

이번 연구가 시사하는 바는 기존의 치료 체계를 여러 관점에서 더 정밀하게 바라보아야 한다는 것입니다. 치료 시간의 관점에서, 그리고 성별의 관점에서 질병을 바라볼 때 비로소 더욱 효과적인 치료도 가능해지는 것입니다. 특히, 시간이라는 차원을 추가해 약의 효과를 예상하려면 시간에 따른 변화를 예측하는 미분방정식 기반의 수리 모델이 중요한 역할을 할 것으로 예상됩니다. -132쪽

이렇게 계산 결과를 보면 납득이 가지만, 이 결과를 보기 전까지 정상세포와 감염 세포의 수가 오르락내리락할 것이라고 예측하기는 여간 어려운 일이 아닙니다. 컴퓨터를 이용하기 전에는 우리가 직관을 이용해 얻은 결과들이 언뜻 합리적으로 보입니다. 하지만 틀렸습니다. 우리의 직관에 잘 와닿지 않더라도 정상 세포와 감염 세포의 수가 오르락내리락하며 서로 공존하는 것이 사실입니다. 이렇게 간단한 시스템도 직관적으로 이해하기가 어려운데, 이보다 훨씬 복잡한 실제 생명 시스템을 인간의 직관만으로 이해하는 것이 가능할까요? 불가능에 가까울 뿐만 아니라 잘못된 결론을 내릴 가능성도 높습니다. -53~54쪽

 생명 현상은 생명체의 평생부터 하루하루의 생존까지 시간 척도 간의 편차가 크고, 생명체 내외에서 영향을 미치는 요인들의 종류와 그 요인들이 상호 작용하는 양상은 다양하다. 결국 이 모든 조건이 결합한 생명 현상은 인간이 한번에 하나로 꿰어서 직관적으로 예측하기에는 너무 복잡한 영역이다. 애초에 인간의 인지 능력은 이런 수준의 문제를 혼자 해결해야 하는 상황까지는 상정하지 않고 진화했다. 이제야 급하게 필요해졌지만 준비되지 않은 역량이다. 생명 현상을 미적분으로 묘사하는 수리생물학이 중요한 이유는 그것이 이 복잡한 주제를 정확히 분석할 수 있어서인 동시에, 인간의 인지적 특성이 이 주제와는 영 상성이 좋지 않아서이기도 하다. 인간이 생명 현상의 방정식을 포괄적으로 구성하는 측면과 그 미적분을 토대로 컴퓨터가 생명 현상을 구체적으로 계산‧해석하는 측면은 구분될 수밖에 없다. 미적분의 역할과 효용을 직관적으로 포착하는 것과 그 계산을 수행하는 것은 물론 불가분의 관계이지만, 완전히 같은 의미도 아니다.

 따라서 미적분의 계산 원리를 교육하고 숙지하며, 미적분 계산 능력을 제고하는 것만이 미적분의 유일한 의무 교육 방식은 아니다. 그것이 정량적 평가와 대학 입시를 전제한 가장 효율적, 일반적인 미적분 교육이라고는 말할 수 있겠다. 이 책은 미적분이 필수적인 의무 교육 과정에 편성되어야 할 이유를 보여 주지만, 궁극적으로 지향하는 교육 방식은 내가 겪었거나 생각하는 그것과 다를 듯하다. 미적분은 생명 현상을 번역하는 수리 언어, 수식의 핵심 문법이지만 연구 주제가 아닌 연구 도구다. 인간이 미적분이라는 도구 자체가 될 필요는 없는 셈이다. 그래서 더더욱 모두가 미적분을 능숙하게 다루지는 못할지라도, 가급적 많은 사람이 미적분의 역할을 스스로에게 납득시키고 남에게도 말할 수는 있어야 한다. 미적분이 의무 교육의 필수 요소가 되어야 한다면 바로 그래서다.

융합 연구를 자주 하는 만큼, 강연이 끝날 때마다 자주 받는 질문이 하나 있습니다. 바로 자녀를 어떻게 하면 융합 연구자로 키울 수 있는지에 관한 질문입니다. 저의 대답은 늘 똑같습니다. 융합 연구자의 두 가지 특성을 길러주어야 한다는 것이지요. 첫 번째 특성은 대화를 유쾌하게 이어가는 것입니다. 운이 좋게도, 저는 지난 10여 년간 의학, 약학, 생명과학 분야 연구자들 수십 명과 협력해 융합 연구에서 여러 성과를 거두었습니다. 하지만 슬프게도 실패한 공동 연구도 있었지요. 그런데 돌이켜 보면, 융합 연구를 함께 성공적으로 끝맺은 이들은 모두 유쾌한 대화 상대였습니다. (중략)
두 번째 특성은 자신이 아는 것을 상대방의 입장에서 잘 설명하는 것입니다. 융합 연구는 서로 다른 분야의 연구자들이 모여 동일한 문제를 놓고 씨름하는 것입니다. -219~220쪽

 결국 이 책은 미적분을 배우고 가르쳐야 하는 이유를 설득력 있게 제시하는 수학자의 글이다. 하지만 그 이유는 막연하거나 단호한 당위의 영역과 무관하다. 뿐만 아니라 저자 본인의 구체적이며 유연한 융합 연구, 협업의 성과를 미적분의 가치와 효용으로 연결하는 까닭에 설득력이 더욱 높다. 수학교육으로 학부를 시작한 저자가 최근 각광받는 수리생물학자가 되기까지의 과정, 의학‧약학‧면역학 등 수학적 접근이 낯선 다른 분야의 전문가들과 협력해 연구한 경험들, 생명과학의 오랜 난제 앞에서 수학자로서 겪은 시행착오까지 간결하면서도 진솔하게 풀어내서 더욱 흥미로웠다. 앞으로도 저자에게 이렇게 대중적인 저술까지 할 수 있는 환승 시간들이 이어지길 바란다. 

스키마와라시

어느 날 할아버지가 오래 알고 지내던 손님이 다도실을 리뉴얼하는데 문고리를 찾고 있다고 말했다.
잘은 모르나 손님의 어머님이 다도 선생님인데 희수 기념으로 개장하는 것이라 축하의 의미를 담은 디자인으로 바꾸고 싶다고 했단다.
그랬더니 옆에 있던 형이 "거북이 문고리가 좋겠네" 하고 중얼거렸다.
당시 형은 아직 여덟 살 정도였는데 창고 안에 있는 부품 전부를 놓아둔 장소까지 달달 외웠다.
깜짝 놀란 할아버지가 형과 함께 창고를 보러 가서 형이 꺼낸 문고리를 보고 또 놀랐다고 한다. 오래된 물건이지만 상태도 좋고 거북이 등딱지 부분에 손을 잡도록 만들어놓은 디자인도 근사했기 때문이다. 결국 할아버지는 그 문고리를 사용하였다니 그때부터 이미 형은 상당한 심미안을 지녔던 듯하다.
그렇게 그 무렵부터 문고리에 대해 남다른 애정을 품고 있었는데, 그 마음은 지금도 변하지 않았다.
잘은 모르나 교토의 가쓰라리큐(일본 왕족의 별장—옮긴이)에는 ‘달‘을 본뜬 문고리가 많이 있다고 한다.
"언젠가 그 문고리를 느긋하게 손질하고 싶어."
그 장면을 상상하는지 멍하니 먼 산을 바라보며 그렇게 중얼거리던 형 모습을 기억한다.
나도 형 일을 돕게 된 이후 그 문고리를 사진집 등을 통해 보았다.
확실히 한자 ‘달 월‘ 자를 본뜬 모양이나 달 형태를 그대로 모방한 모양 등 가쓰라리큐를 위해 특수 제작한 그 문고리는 너무나도 아름다웠다. 지금이라면 형이 넋을 잃는 것도 이해하지만, 당시 문고리라는 존재는 ‘우리 형은 어쩌면 조금 별난지도 모르겠다‘라고 인식한 계기에 불과하다. - P15.16

도자기를 잘 모르는 나도 네즈미시노(1570년대 일본 기후현 미노 지역에서 하얀 유약을 발라 구운 도자기를 이르는 말—옮긴이)가 도자기 종류 중 하나라는 사실은 알고 있다.
그리고 좋은 찻종, 오동나무 상자에 넣어져 경매될 정도의 유래가 있는 찻종에는 특별한 이름이 붙는 물건이 많다는 것도 안다.
‘가마이타치‘는 통통한 네즈미시노 회색 찻종의 이름인 듯하다.
찻종에는 풍류적인 이름이 많다. 그 찻종의 ‘정경‘(구운 색, 표면의 모양, 요철, 겉모양의 인상 등을 빗대 이렇게 말하는 모양이다)을 표현했다고들 하는데 나로서는 종잡을 수 없는 것이 많다.
"뭐? 이 모양이 학으로 보인다고? 정말로? 으음, 그거 거의 로르샤흐 테스트 아니야? 그 왜 그림을 그린 후 반으로 접은 다음에 펼쳐서 나온 모양을 보고 무엇으로 보이는지 조사하는 정신 분석 같은 거. 손님, 괜찮아? 고민이라도 있어?"
이렇게 묻고 싶어질 때도 있다. - P35

S 선생님은 유명한 젊은 다도 선생님인 모양이다. 고미술에도 조예가 깊어서 그에 관한 에세이도 썼다고 한다.
"선생님이 가마이타치로 몇 번인가 차를 우리셨대. 그러고는 ‘사용감은 아주 좋은데, 어쩐지 심보가 고약한 구석이 있군, 이 찻종‘이라고 말씀하셨어."
흠.
"심보가 고약하다는 게 무슨 의미야?"
"글쎄. 나도 그렇게 되물었는데 선생님도 ‘설명을 잘 못하겠네‘ 하시면서 고개를 갸웃거리더니 뭐라 해야 좋을까. 붙임성 있고 상냥해서 쉽게 친해진 사람인데 다른 곳에서 내 험담을 하는 걸 들었다는 느낌이랄까‘라고 하셨어."
그것이 ‘가마이타치‘라는 이름이 붙은 유래일까. - P38

아무도 모르는 곳에서 우리는 언뜻 보기에 평범하게, 하지만 나름대로 꽤 감칠맛 나는 인생을 보내고 있다. 아마도 다른 사람은 전혀 모를 테니 떳떳치 못한 심경일 때도 있고 스릴을 느낄 때도 있다. - P97

어디까지나 나는 ‘커피숍에서 치즈케이크를 먹는 것을 좋아한다‘이기에 ‘치즈케이크를 사서 집에서 먹는다‘는 것은 완전히 다른 행동이고 흥미가 없다. - P102.103

카페 문화는 지역마다 조금씩 달라서 인구 대비 커피숍이 확연하게 많은 곳과 적은 곳이 있다.
적은 곳도 카페 문화가 없어서가 아니다. 옛날부터 다도가 성행했던 곳에는 자택에 화로가 있어서 차를 끓이는 습관이 있기에 밖에서는 마시지 않는다는 이유도 있다.
그런가 하면 커피숍이 잔뜩 있어서 휴일에는 가족끼리 단골 커피숍에 가서 브런치를 먹는 곳도 있으니 식문화는 그야말로 흥미롭다.
그런 생각을 하면서 이곳저곳에서 가게를 방문하는 일은 직업상 이동이 많은 형과 나의 자그마한 즐거움이다. - P104

처음 들어간 가게에서는 역시 블렌드 커피를 주문하는 것이 기본이다. 블렌드는 점주의 취향이 드러나기에 자신의 취향과 맞는지도 알 수 있다. - P107

K 점주가 집 정리를 부탁하고 싶다는 친구를 소개해주고, 끝내는 자기 가게의 폐점 정리도 맡길 정도로 친해지리라고 이때는 예상도 하지 못했다.
나중에 알았지만 N마치는 오래된 역참 마을로, 작지만 오랫동안 교통의 요지 중 하나였다. 이런 곳은 눈에 띄지는 않지만 사람과 물건의 왕래가 잦고 갖가지 물건이 남아 있기 마련이다. 그 뒤로 고마운 매입처 중 하나가 되었다.
처음으로 우리가 K를 방문한 지 두 달 정도 지났을 무렵, K 점주에게 연락이 왔다. - P119

나는 타일에서 눈을 떼지 못했다.
버릴 수 있을 리가 없다. 이렇게나 신비하고 아름다운 물건을. - P127

이발사의 느긋한 목소리가 들렸다.
"나도 몰랐는데 일본 타일은 정해진 몇 곳에서 거의 다 만들어진다더군."
"네, 메이지 시대(1868~1912년)에 국가가 운영하는 연구소와 공장이 교토에 세워지고, 국가 주도로 만들게 되었다고 합니다. 일본은 원래 요업이 성행했는데 처음에는 주로 메이지 유신으로 고객을 잃은 교야키(교토에서 만들어지는 도자기의 총칭—옮긴이) 장인이 중심이 되었다고."
형이 대답하는 목소리가 들린다.
그렇군. 형은 K에서의 일 이후 타일에 대해 조사하기 시작한 모양이다. - P127

약속한 가게가 있는 곳은 신바시 역에서 그리 멀지 않은 커다란 상업빌딩이었다.
옛날에 지어진 빌딩은 어쩐지 분위기가 독특하다. 묵직한 공기, 느긋한 통로 공간. 전체적으로 만듦새에 여유가 있고 잘 닦여진 바닥이 둔탁하게 빛난다. - P133.134

이 일로 여기저기 돌아다니다 보면, 그 여기저기에서 부모님이 만든 집과 시설을 많이 만나게 된다.
그것이 또 엄청나게 많아서 설마 이런 벽촌에(실례)까지, 하고 생각되는 장소에서도 일한 흔적을 만난다.
"아버지랑 어머니, 얼마나 일을 하신 걸까."
"이러니 우리가 얼굴도 거의 못 보지."
"이런 페이스로 계속 일을 했다면 사고를 당하지 않았어도 언젠가 과로사하셨을 거야."
세계 유산에 등재된 산골짜기의 오래된 집락을 방문했다 돌아오는 길에 부모님이 지은 민가를 발견했을 때는 형도 나도 기가 막혔다.
두 분이 지은 집은 어째서인지 바로 알아볼 수 있었고, 마음을 담아서 지었다는 점이 전해져왔다.
친밀감이 있고 아담해서 마음이 편안한 집. 이런 집이라면 살아 보고 싶다는 생각이 드는 집.
일반적으로 건축가는 자택에 자신의 사상을 담아 그것을 명함 대신으로 한다고 들은 적이 있는데, 결국 두 분은 자신들의 집을 짓지 못하고 세상을 떠나버렸다. - P155

둘째, 이것은 예전부터 어렴풋이 느낀 것인데 세상은 거의 모든 일이 ‘타이밍‘이라는 것이다.
무언가를 시작할 타이밍, 무언가를 그만둘 타이밍, 무언가를 물을 타이밍 그리고 무언가를 고백할 타이밍.
세상사의 자연스러운 흐름을 타고 있으면 그것은 대개 그쪽에서 다가온다. ‘어느새 그렇게 되어 있더라‘, ‘지금밖에 없다고 직감했다....... 이런 타이밍은 대체로 옳다. - P193

촉촉이 비가 내리는 오후, 우리는 교토에 있었다.
오래된 것을 좋아하는 사람에게 교토는 사족을 못 쓰는 곳인지, 일을 끝낸 다음이라고는 하나 형은 항상 교토에 들를 때마다 자신의 문고리 컬렉션을 찾아 헤맨다.
형의 취향을 잘 알고 있는 친한 골동품점에 들렀다 오는 길이었다.
문고리는 없었지만 형은 우아한 앤티크 경첩에서 눈을 떼지 못했다. 사람이 무언가를 아름답다고 생각하고 무엇을 원한다고 생각하는지는 천차만별이라, 그 덕에 이 장사가 성립될 수 있는 거라 절실히 느낀다. 그리고 나는 경첩에 흥미가 없다는 사실도.
제시액이 서로 맞지 않아서 잠시 흥정이 이어진 결과 경첩은 그대로 그 골동품점에 남게 되었다. - P194

덧붙여 풍경 소인의 정식 명칭은 ‘풍경이 들어간 통신 날짜 소인‘이다. 요컨대 명승고적 등의 도안이 들어간 소인을 말한다.
우편을 보낼 때 일반적으로 찍는 소인은 날짜와 시간대와 담당 우체국 이름밖에 적혀 있지 않지만, 풍경 소인에는 각양각색의 정취가 느껴지는 도안이 그려져 있다. 가마쿠라의 대불이라든가 이세신궁 같은 명소의 그림이 들어가 있는 것이다.
그런 특성 탓에 어느 우체국에나 있는 것이 아니라, 주변에 나름대로 기념이 될 만한 것이 있는 우체국에 비치되어 있다.
물론 각 풍경 소인이 비치된 우체국에 부탁하지 않으면 찍을 수 없다. 우송도 의뢰할 수 있지만 나는 그 자리에서 우표를 사서 메모장에 붙이고 창구에 내밀어 풍경 소인을 찍어달라는 기본적인 방법을 이용한다. - P248

"그래. 컬렉터는 모으는 것 그 자체가 목적이니 모으는 것 자체가 재미있을 뿐 실은 마음속에서는 컬렉션의 완성 그 자체는 바라지 않아. 모은다는 행위와 모은 것 하나하나가 내가 여기 있다는 존재 증명 같은 것이야. 내가 사라져도 물건은 남아. 내가 모은 것의 집합체가 내 인생의 덩어리 같은 거지."
잠깐 사이를 두고 형이 말을 이었다.
"네 풍경 소인을 보고 생각했어. 스탬프 랠리는 저도 모르게 모으고 싶잖아? 스탬프 수첩에 공백이 있으면 어떻게든 메우고 싶어져. 그것도 마찬가지야. 그 공백은 존재의 공백이야. 자신이 그곳에 없었다는 공백이 무서운 거야. 그러니 네가 말하는 ‘느슨함‘이 부러운 이유는 그 공백이 무섭지 않은 점, 공백을 개의치 않는 점이야."
"흠."
형이 무슨 말을 하는지 어렴풋이 알 것 같다.
"그래서 컬렉터라는 인종은 그다지 자각이 없을지도 모르지만 자신이 존재했다는 증거를 남기고 싶다고 더 강하게 바라는 사람이 아닐까 싶어."
더욱더 예상외라고 생각하며 나는 입을 열었다.
"하지만 형은 결코 ‘나서는 타입‘이 아니고, 내가 알고 있는 컬렉터 또한 소극적인 사람이 많으니 놀랍네."
"응. 나도 인생 자체에 집착이 없다고 생각했으니까 분석해서 그런 결과가 나왔을 때는 뜻밖이었어." - P261.262

"참 재미있단 말이야. 일러스트레이터나 화가 본인과 만나면 ‘그렇군, 이 사람이 그런 선을 그리는구나‘ 하고 늘 이해가 돼. 이름은 몸을 나타낸다가 아니고 선은 몸을 나타낸다지." - P345

또 어디서 생각지도 못한 일이 일어나지 않나 긴장하는 동시에 우리는 이 장소에 강한 매력을 느꼈다.
세월이 자아내는 꾸미지 않은 아름다움이라고 할까.
셔터의 녹, 콘크리트의 갈라진 틈, 그러데이션으로 변한 함석 색깔. 그것이 고대 유적처럼 불가사의한 아름다움을 내보인다.
"장소의 힘은 엄청나니까 그 땅이 내뿜는 에너지에 어울리는 작품을 만드는 일은 힘들어요."
갑자기 다이고 하나코의 말이 머릿속에 되살아났다. - P378

그녀들의 역할은 끝났다.
다이고 하나코에게 그 도란을 전해준 것으로 이제 이곳에 있을 필요가 없어졌다.
밝은 여름이 눈앞에서 달려간다.
그런 느낌이 들었다.
우리나라의 여름이라는 계절이 지나가고 있다.
그런 생각도 들었다. - P541