확률: 믿음과 우연 (학아재 모노그라프 002) - 김명석

확률 : 믿음과 우연 ㅣ 학아재 모노그라프 2
김명석 지음 / 학아재 / 2024년 3월

확률은 엄밀하게 객관성의 영역이라고 보통 생각합니다. 우리가 대개 중2때 정도에 배우는 경우의 수, 확률(probability)은 그렇습니다. 그러나 이 책에서 저자께서는 확률에 객관과 주관이 혼재되었다고 말씀합니다. 앞에서 말한 저 확률에 대해서는, 저자가 영어로는 chance로 한정하고, 우리말로 "일어남직함(p13)"으로 번역합니다. 저 확률은 주로 물리적 사건을 다룹니다. "사건"이라는 말은 중학교 교육과정에서부터 정식 용어로 사용합니다. 

특히, 주관이 많이 끼어들어가는 확률은 명제를 다루는 확률입니다. 저자는 책 처음부터, 물리사건을 다루는 확률과, 명제를 다루는 확률은, 서로 매우 다르다고 전제하고 이 책 논의를 시작합니다. 독자는 먼저 이 점부터 유념해야 하겠습니다. 또, 명제를 다루는 확률은 "일어남직함"과 대비하여 "믿음직함"으로 이름짓습니다. 이 책은 주로 명제의 "믿음직함"에 대한 논의입니다. 

명제의 진릿값에 대해서는 고1, 혹은 중2 정도에 약간 배우기 시작합니다. 어떤 명제는 참 아니면 거짓의 값을 가집니다(아니라면, 그건 명제가 아니라고 고교에서는 가르침). x값에 무엇을 대입하느냐에 따라서 참 혹은 거짓이 되는 걸 조건명제(혹은 명제함수)라고 합니다. 명제함수라고 부르는 이유는, x에 어떤 값을 대입하니 참 또는 거짓, 두 함숫값 후보(=치역의 원소들) 중 하나가 딱딱 나와 떨어지기 때문입니다. 

이게 중등교육 과정에서 배웠던 명제인데, 어떤 명제가 참인지 거짓인지는 사실 칼로 두부 자르듯 획일적으로 가르기가 매우 어렵습니다. 물론 1+1=2 같은 건 판별이 쉽습니다. 그러나 예컨대 칸트의 "네 의지의 격률이 보편적 입법의 원리가 되게 하라"라든가, 헤겔의 "국가는 인륜의 최고 형태" 같은 건, 참과 거짓을 가를 수 있을까요? 아무래도 참보다는 거짓에서 훨씬 멀겠으나, 1+1=2만큼이나 참이라고는 단언이 어렵습니다(그래서 비트겐슈타인도 생전에 결국 나가떨어졌던 것입니다). 심지어 수학적 진리인 "삼각형의 세 내각의 합은 180도"도 의심하여, 아니라면?을 전제하고 전개, 구축하는 로바쳅스키 기하학, 리만 기하학도 있습니다. 

이 책에서는 한 걸음 더 나아가, 참과 거짓 사이에 여러 중간값이 있다고 가정합니다(현실적이죠). 거짓이 0이고 참이 1이라면, 그 사이에 0보다 크고 1보다 작은 여러 실숫값이 있습니다. 이 모습부터가 벌써 기존 확률과 닮았고, 게다가 그에 부가되는 여러 정리(특히 p54, p55 등에 나오는 것들)까지 기존 확률론의 구조, 공리와 신기하게도 부합합니다. C04 같은 경우, 초등학교 4학년 때 배우는 집합론에서의 n(A∪B)=n(A)+n(B)-n(A∩B)하고 사실 완전히 똑같은 내용입니다. 또 책 중반부 이하에 나오는 조건부 확률(=베이지언 확률)도 우리가 고2때 배웠던 것과 본질적으로 같습니다. 여튼 그래서 이 체계도 포괄하여 probability라 부르는 건데, 다만 (앞서 말했듯) 저자께서는 두 확률은 성격이 매우 다르기도 하다고 간주하는 겁니다. 

자 그러면 물리사건을 다루는 있음직함과, 명제를 다루는 믿음직함은 서로 교차하는 부분이 어디인가? 대표적인 게 양자역학 현상의 역설(과연 역설인지 아닌지 모릅니다만)로 알려진 슈뢰딩거의 고양이 같은것입니다. 저자께서는 이미 전작 <엔트로피>에서 이 이슈를 논했었는데,  물리 현상에 "그럴 수도 있고 아닐 수도 있는, 확률분포의 구조"를 끌어들인 데서 혼란이 일어났었고, 아직도 평범한 두뇌로는 이 미묘한 아이러니가 쉽게 납득이 안 됩니다. 내가 저 빛을 보는 순간, 그 입자의 위치가 결정된다? 주관과 객관, 믿음과 실재가 복잡하게 얽혀 혼재하는 대표적인 예입니다. 

저자께서는 믿음직함과 일어남직함이 서로 다르다고 말씀하시지만, 거꾸로 독자인 저는 둘이 너무도 닮았으며(사실 당연한 게, 혹 아니라면 왜 둘 다 "확률"이겠습니까?), 심지어 p196 이하에서 저자가 새롭게 설명하는 몬티 홀 프라블럼도 이 관점으로 보니 다른 뜻으로 다가왔습니다. 답이 너무도 뻔한데, 왜 압도적으로 많은 이들(제법 똑똑하다는 사람들조차)이 오답을 내었을까요? 이 책에서 말하는 대로, 주관과 객관을 혼동해서입니다. 정답은, 바꾸는 편이 맞다이지만, 왠지 마음이 그러고 싶지 않게 흐르는 게 이 희한한 문제에 들어 있는 요소입니다. 또 사회자가 "답을 안 상태에서 문을 하나 열고" 이제 인식 상황이 바뀌었으니 베이지언을 적용해야 한다는 저자의 지적(p200)도 칼날같이 예리합니다. 물론 몬티 홀 문제는 이미 바른 풀이가 많이 나와 있는 상태이며 난제도 뭣도 아니지만, 저자의 이런 논의 속에서 다시 보니 또 새로운 것입니다. 

p307에서 저자는 기존 "대칭성"에다 새 이름 "한결의 원리"를 준다고 하시는데 왠지 저도 이 편이 더 잘 이해되는 것 같습니다. p313에서 마침내 저자가 단언하듯, 일어남직함과 믿음직함의 결정적 차이는 동역학을 따르고 않고의 여부입니다. 독자들이 깊이 음미하고 되새길 묵직한 명제(?)이며, 매우 난해한 내용을 최대한 쉽게 풀어 주신 저자의 노고에 경의를 표합니다. 

*출판사에서 제공한 도서를 읽고 솔직하게, 주관적으로 작성한 후기입니다.