수학은 언제나 정확하고 명확한가? <법정에 선 수학>

법정에 선 수학 - 수학이 판결을 뒤바꾼 세기의 재판 10
레일라 슈넵스.코랄리 콜메즈 지음, 김일선 옮김 / 아날로그(글담) / 2020년 9월

이과를 간 학생은 두 갈래로 나뉘었다. 수학을 좋아해서 왔던가, 차선책으로 왔던가. 나는 후자였다. 나는 수학을 좋아하는 편이 아니었다. 수학은 나에게 암기였고, 공식이었고, 양자역학 같은 것이었다(이해의 범위를 자주 벗어났다). 고등학교 3년을 내내 괴롭히더니, 대학교에 들어가자 통계학으로 돌아왔다. 안그래도 무거운 교과서에 사용 방법조차 알 수 없는 공학용 계산기가 추가됐다. 학기가 끝나자마자 교과서를 팔아버린 것은 두 번 다시 마주치고 싶지 않다는 나의 소심한 복수였다.

그랬다. 수학과 나의 인연은 끝인 줄 알았다. 하지만, 수학적 계산이 틀릴 수 있다는 이 책이 너무나 크게 매력적으로 들렸다. '숫자'는 가장 단순하고 명확한 것이라 그것이 장점이라고 했는데, "수학이 유죄 확률을 조작할 수 있다"니! 

숫자를 좋아하고, 수학에서 매력을 느끼는 이들은 이렇게 말한다. 수학의 아름다움은 '간결함', '명확함', '정확함' 이라고. 하지만 수학도 학문의 하나다. 그 학문을 이용하는 사람의 뜻에 따라 '어떤' 관점이 씌워질 수 있다.

수학은 어떻게 이용당했을까?

사회학의 창시자인 오귀스트 콩트는 '도덕 문제에 확률을 적용하는 것이 수학의 추문'이라고 했다. 수학이 재판에 사용되는 것이 과연 적절한 일인가. 수학은 정말로 범죄의 증거를 찾아낼 수 있을까?

*

"이 책에서는 계산 착오 혹은 계산 결과의 오해, 정작 필요한 계산을 간과하는 등의 단순한 수학적 오류로 인한 매우 부당한 판결 때문에 인생이 망가진 사람들의 이야기가 펼쳐진다." (7쪽)

매일 터져나오는 기사만 들여다봐도, 숫자는 우리 생활과 너무나 밀접하다. 숫자가 넘쳐나는 세상에서 정보는 확률과 통계, 다양한 수치로 우리의 의식을 지배한다. 

이 책은 10가지 사건을 통해, 19세기 말에 사용되었던 아주 간단한 필적 분석에서부터 오늘날 DNA 분석의 정확도에 이르기까지, 법정에서 사용된 다양한 수학적 내용을 보여준다. 

"확률은 본능적인 직관과 반대의 결과를 보여주기도 한다."(100쪽) 특히, 확률의 경우. 누구나 자주 하기도 하고, 대부분의 사람들이 거의 기계적으로 계산할 수 있는 만큼 오류도 빈번하다. 흔히, 확률을 구하기 위해서는 각각의 사건이 독립적이라는 가정 하에, 사건이 일어날 확률을 곱한다. 

하지만, "관련 정보를 모두 확보하지 않은 상태에서 각각의 사건이 서로 독립적이라고 가정하는 것은 위험한 일이다."(171쪽) 확률은 때로 재판을 뒤집었고, 배심원들의 결정에 큰 역할을 했다. 

*

"현실을 완벽하게 수학적 모형으로 표현하는 일은 절대로 불가능하다."(261쪽)

'찰스 폰지'의 사기 행각은(CASE 01 아메리칸 드림 다단계 사기의 실체) 겨우 몇 달을 버텼고, '헤티 그린'이 정말로 서명을 위조했느냐의 문제(CASE 09 미국 역사상 가장 부유했던 여성의 상속 분쟁)는 서명을 할 때 사용하는 문자의 내려쓰는 획들 간의 유사성을 비교했다. 

경찰이나 사건을 조사하는 사람의 선입견이 개입된 확률은 의도치 않은 피해를 가져오기도 했는데, 다섯 번이나 심폐소생술 현장에 있었던 '루시아'(CASE 03 간호사는 어떻게 살인범이 되었나)나, 환자를 죽인 간호사의 사례를 통해 명성을 얻은 로이 메도 박사의 증언 때문에 두 아이를 연달아 잃은 '샐리 클라크'의 경우(CASE 06 엄마가 아이를 죽인 살인범이 된 이유)가 그랬다. 

"이 책의 주제이기도 한 수학의 가장 두드러지는 단점은, 수학자가 아닌 사람들쁀만 아니라 심지어는 수학자들조차도 수학을 실생활에 적용해 본 경험이 없다면 수학을 오해하고 오용할 여지가 너무 많다는 점이다."(333쪽) 

수치들은 정확한 정보를 전달하려는 목적을 가지고 있다. 영국의 정치가 벤자민 디즈레일리가 “세상에는 세 가지 거짓말이 있다. 그럴듯한 거짓말, 새빨간 거짓말, 그리고 통계다”라고 말했듯 통계에는 오류가 발생하기 쉽다. 통계의 오류는 현실을 조작한다. 

인간의 미묘함을 수학적으로 모두 담아낼 수는 없다. 수학이 너무나 단순한 나머지, 너무나 많은 상황의 수를 가지는 실제 세계에 적용하기에 무리가 있을 수 있다.

매일 보는 숫자들을 들여다 보자. 그래프나 관계에 치우쳐 객관성을 잃은 숫자를 마주하고 있는 것은 아닐까?

※ 본 서평은 출판사로부터 도서를 제공받아 작성 되었습니다.