법정에 선 수학

법정에 선 수학 - 수학이 판결을 뒤바꾼 세기의 재판 10
레일라 슈넵스.코랄리 콜메즈 지음, 김일선 옮김 / 아날로그(글담) / 2020년 9월

우리가 배워왔던 수학은 정확한 명제로 언제나 명쾌하게 답이 떨어지고 참과 거짓을 정확하게 밝힐 수 있는 학문이었다. 논리적으로 값을 측정할 수 있고 검증가능한 모순 없는 학문, 그것이 수학이라고 생각해왔다. 적어도 교과서 내에서의 수학은 이게 틀린 말은 아니었다. 하지만 수학이 법정에 서게 되면 이야기는 달라진다. 수학의 확률과 통계는 누군가의 범죄사실을 밝히기 위해, 혹은 누군가의 무고함을 주장하기 위해 법정에서 가끔 활용되어 왔다. 평소 우리가 가진 수학에 대한 이미지대로라면 수학이 올바른 판결을 내리는데 도움이 될 것이라고 생각되지만 수학적 오류가 잘못된 판결로 결백한 사람을 범인으로 만든 사건도 적지 않다고 한다.

숫자는 거짓말을 하지 않는다. 그러나 거짓말쟁이들은 숫자를 이용할 궁리를 한다는 미국 통계학자 캐럴 라이트의 말처럼 숫자는 틀리지 않고, 수학 그 자체는 거짓말을 하지 않는다. 하지만 숫자와 수학을 잘못 다루면 오류가 생기고, 잘못된 결정을 내리게 되는 치명적인 결과를 가져온다. 단순한 실수일수도 있고, 안좋은 의도를 가지고 의도적으로 왜곡시킬 수도 있다. 이런 일이 법정에서 일어난다면 재판의 결과가 완전히 잘못될 수도 있다는 우려 때문에 재판에서 수학이 좀처럼 활용되지 않는 것일수도 있다. 저자는 재판에서 수학적 분석이 반드시 포함되어야 한다고 주장한다. 그럴려면 수학적 오류가 일어나지 않는다는 확신이 있어야 하는데 그러기 위해서는 역사적으로 실제 일어났던 오류들을 살펴볼 필요가 있다고 말한다.

책에는 수학이 재판 전면에 등장한 케이스 중 계산 착오, 계산 결과의 오해, 필요한 계산을 간과하는 등의 단순한 수학적 오류로 인해 판결에 영향을 줘서 부당한 판결을 받게 된 10가지 실제 사례들을 살펴본다. 하지만 저자는 수학 때문에 판결이 완전히 잘못된 재판을 살펴보고는 있지만 이 사례들이 수학이 잘못되었다는 것을 뜻하는 것은 아니라고 말한다. 법정에서 수학이 잘못된 결과를 가져온 것이 수학 자체의 오류, 불확실성 때문이 아니라 숫자 그 자체보다 수학을 오용한 탓에 확률의 이름으로 불의가 저질러진 경우가 많다는 것을 말하려 한다.

재판에서 가장 많이 발생하는 수학적 오류는 확률적 오류인 것 같다. 믿기 힘든 우연이 연달아 일어날 확률은 실제로 발생하기 어렵다는 선입견을 가져오고, 거짓말이라는 확증편향에 빠지게 된다. 네덜란드의 아동병원에서 한 아이가 사망하는 사건이 벌어진다. 이 때 두 명의 간호사가 아이를 간호하고 있었는데 그 중 한 명의 간호사가 지난 2년 동안 병원내 아이의 사망 사고가 발생했을 때마다 근무를 했다는 이유로 해당 간호사에 의한 살인이라는 의혹이 제기되었다. 차트를 확인해보니 그 간호사가 휴무일 때는 사고가 한건도 없었고, 근무를 섰을 때 8번의 사망사고가 발생했다는 것을 알게 되었다. 분명 의심스러운 상황이다. 이런 일이 일어날 확률이 얼마나 되는지 '피셔의 정확 검정'이라는 표준적인 통계 검사 방법으로 검사를 해보았더니 3억 4200만분의 1이라는 확률이 나왔고 이는 자연스럽게 일어날 수 없는 일이라고 결론을 내었다. 즉, 자연적으로 발생할 수 없는 확률이므로 의도적인 타살이라는 결과였다. 하지만 이것은 통계 분석 기법이 제대로 적용되어 올바르게 계산이 되지 못했기 때문에 나온 결론이었다는 것이 밝혀졌다. 게다가 애초에 데이터를 수집하고 정리하는 과정에서조차 오류가 발견되었다. 주어진 백데이터 자체가 잘못되었는데다가 계산까지 엉망으로 했으니 당연히 말도 안되는 결과가 나온 것이었다.

또 하나의 케이스로 첫째 아이가 한 살을넘기지 못하고 알 수 없는 이유로 사망하고, 1년 뒤 둘째를 낳았는데 둘째 역시 한살을 넘기지 못하고 역시 알 수 없는 이유로 사망하고 말았다. 그리고 부부는 두 아이를 살해한 혐의로 구속되었다. 검찰은 소아과 전문의에게 가서 자문을 구했고 그는 통계학적으로 한 가정에서 아이가 돌연사할 확률은 8,543분의 1이라고 한다. 그리고 한 집에서 두 아이가 연달아 사망할 확률은 그 값의 제곱인 7,300만분의 1이라는 의미라고 말하고는 부부가 아이들을 살해한 것이라고 주장했다. 하지만 이런 계산은 유아 돌연사가 무작위로 발생한다는 잘못된 가정에 근거한 것이다. 단순히 첫째 아이가 돌연사할 확률과 둘째가 돌연사할 확률을 단순 곱셈 한 것인데 만약 유전적 이유라면 훨씬 높은 확률로 발생할 것이고, 알지 못하는 환경적인 요인이 있다면 역시 확률은 크게 올라갈 것이다. 실제로 한 아이가 돌연사했을 경우 그 동생이 같은 이유로 돌연사 할 확률은 10배나 높아진다고 한다. 하지만 결국 아이의 사망 원인은 황색 포도상구균 감염에 의한 것이라는 것이 밝혀졌다. 심지어 사건 초기에 이미 아이의 X선 촬영에서 코와 목, 폐, 복부에서 대량의 박테리아가 발견되었지만 이는 무시되었다.

두 사건 모두 재판 과정에서 잘못 계산된 확률의 수치가 매스컴을 통해 사람들에게 알려졌고, 사람들에 의해 여론재판이 벌어졌었다. 여기서도 알 수 있듯이 확률적으로 표시되는 숫자는 사람들에게 잘못된 인식을 심어준다. 사람들은 숫자에 맹신한다. 그것이 올바르게 계산된 것인지 어떤지 알지 못하고 단순히 '관계자'의 입을 통해 나온 숫자만 듣고 확률적으로 발생하기 어려운 사건이란 인식을 가지고 범죄를 저질렀다고 확증편향에 빠지게 되는 것이다. 이것이 숫자의 힘이다. 숫자의 힘이 잘못된 방식으로 작용하면 한사람의 운명을 결정짓는 잘못된 결과를 가져올 수도 있다. 하지만 앞서도 말했듯이 이것은 숫자를 활용하는 사람의 잘못이지 수학 그 자체의 잘못은 아니다. 수학의 오류들을 줄여나가면 법정에서도 수학이 판결에 올바른 영향을 미치는 명확한 증거로 쓰이게 될 것이다.