프롤로그 이성의 끈을 꼭 붙든 영웅들 영웅이 으레...

프롤로그

이성의 끈을 꼭 붙든 영웅들

영웅이 으레 그렇듯이, 스타니슬라프 페트로프 Stanislay Petrov라는 이름은 유명하지 않다. 아는 사람도 적고 기념비도 없다. - P8

이유가 궁금한가? 1983년 9월 26일에 페트로프는 소비에트사회주의공화국연방 방공군 중령이자 모스크바 외곽에 있는 세르푸코프-15 벙커의 총책임자였다. (후략). - P8

당시 로널드 레이건 Ronald Reagan 미국 대통령이 소비에트연방을 ‘악의 제국‘이라고 비난하면서 두 초강대국의 관계는 벼랑 끝전술로까지 치달았으며, 양 진영의 권력층에서는 은밀하게 핵전쟁의 가능성을 실제로 상정하는 속삭임이 퍼졌다. 두 경쟁국 군사령부의 놀라운 화력은 과장할 필요가 없었다.  - P9

 여러 가능성을 가늠해본 페트로프중령은 미사일 조기 경보 시스템이 오류를 일으켰을 가능성이 더 그럴듯하다는 결론에 다다랐다. 나중에 알고 보니 중령의 추론은정확했고, OKO가 본 불길한 미사일은 낮은 구름이 반사한 빛을탐지기가 잘못 해석한 것이었다. - P10

인 핵전쟁으로 인한 전멸을 막았다. 페트로프 중령은 전 세계의영웅으로 추앙받아야 마땅했다. 그러나 그는 위기 당시의 기록을 제대로 남기지 못했다는 명목상의 이유로 오히려 문책받았다. (중략). 사실 러시아군 사령부는 최첨단 시스템이 오류를 일으키자 당황해서 비난을 피하기 바빴다. - P11

3장

가당찮은 추론


광고와 사기꾼에게 속는 사람들



인간은 본질적으로 사회적 동물이며, 소중하고 사소한 것들은 타인의 이야기만큼이나 우리에게 영향을 준다. 우리는 타인의 경험에 의존하며, 이야기와 일화를 세상과 모든 불확실성을 분류하는 심리적인 지름길로 활용한다. - P83

이런 측면은 일화에서 나오는 논쟁의 또 다른 이름인 생생함을 오도하는 오류the fallacy of misleading vividness 혹은 일화적 오류anecdotal fallacy에 반영된다 - P83

일화적 정보는 거짓 긍정 반응에 놀라울 정도로 취약하며 거짓 ‘긍정‘ 반응은 현실을 왜곡한다. - P84

광고부터 뱀 장수까지, 우리를 속이는 것들

개인의 일화를 활용해서 인간의 선천적인 감수성을 손쉽게 착취하는 명확한 실례가 바로 광고다. 소비자가 제품이나 서비스를 극찬하는 추천 글에서 자주 볼 수 있다. - P84

 전형적인 사례로 2006년 화이자의 콜레스테롤 억제제 리피토 광고를 들 수 있다. 이 광고는 인공심장을 발명한 로버트 자빅 Robert Jarvik을 내세웠다. 자빅은 카메라를 향해서 "나도 의사지만콜레스테롤을 걱정한다"라고 말한 뒤, 이 약이 콜레스테롤 수치를 안정시키는 데 도움이 됐다고 한다.  - P85

미국 하원 에너지통상위원회가 조사에 들어가자 자빅은 회사 광고에 출연하기 전에는 이 약을 먹지 않았다고 인정했다. 설상가상으로 그의 유타대학교 전 동료는 공식적으로 자빅은 인공심장 발명자가 아니며, 인공심장 발명자라는 명예는 빌럼 콜프 Willem Kolff와 데츠조 아쿠츠Tetsuzo Akutsu에게 돌아가야 한다고 주장했다. - P85

이런 일은 흔하다. 대부분 거래 사이트에서 온라인 리뷰가기준이 된 정보 시대에, 가짜 리뷰와 돈을 받고 쓴 추천 글은 사라지지 않는 골칫거리다. 전자 상거래는 수상쩍은 리뷰들로 병들었다.  - P86

온라인 평점도 조작하기 너무나 쉬워서 악명이 높다. ‘덜위치의 오두막‘은 2017년 트립어드바이저에서 가장 높은 평점을 받은 런던 식당이다. (중략). 이곳은 작가 우바 버틀러 Oobah Butler가 장난삼아 만든 식당으로 그는 가본 적도 없는 식당의 리뷰를 써주고 돈을 벌었던 경험에서 영감을 받았다.  - P86

프랑스어 ‘charlatan (돌팔이 의사)‘은 1600년대에 나타났으며 잘 짜인 연극을 이용해 약을 팔러 다니는 행상인을 가리키는 경멸적인 단어다. ‘quackery (엉터리 치료사)‘는 최소 200년은 된 네덜란드어로 ‘quacksalver(사기꾼)‘, 즉 고약을 파는 사람이라는 뜻이다. - P87

경험담은 자료가 아니다

이 시점에서 지금까지 넌지시 암시만 해온 것을 명확하게 언급할 필요가 있다. 모든 형식적 오류에 숨은 문제는 어딘가에 주장을 무효로 만드는 논리적 실수가 숨어 있다는 것이다. 이는 모든 형식적 오류가 불합리한 추론(문자 그대로 ‘따라오지 않는‘)이며 결론이 전제에서 도출되지 않았다는 뜻이다. - P90

생생한 경험담도 공포를 일으키고 전염병을 부채질하는데, 이는 사람들의 상상이 단순한 통계보다 파급력이 훨씬 더 크기때문이다. (중략). 이를 기저율 오류 base-rate fallacy라고 하며 숨겨진 진실을 평가하지 않고 하나의 사례에서 곧바로 결론으로 도약하려는 인간의 성향을 가리킨다.  - P90

. 20~21세기에 걸쳐 암 발생률이 심각하게 증가했다는 사실을 생각해보자.  - P90

(전략), 인구의 절반이 평생 한 번은 암에 걸린다. 이는매우 놀라운 결과로, 많은 사람이 희생양을 찾아 헤매며 유전자변형 식품부터 백신까지 온갖 것을 탓하기 쉽다.*


* 이런 근본적인 공포를 이용해 이익을 얻는 기만적인 사람은 너무나 많다. 이런 사례는 나중에 살펴볼 것이다. - P91

이처럼 보이지 않는 사례를 무심코 간과하고 성공 사례에만 근거해서 결론을 내리는 오류를 생존 편향survivorship bias이라고 한다. - P92

불안과 슬픔을 이용하는 심령술사들


일화적 오류와 밀접하게 관련된 수상쩍은 논리가 하나 더 있는데, 이 오류는 일화적 오류와 구별하기 힘들 때도 있다. 일화적오류가 자동차라면 불완전 증거의 모순fallacy of incomplete evidence 혹은 체리피킹 오류cherry-picking fallacy는 그 자동차를 움직이는 엔진이다. - P93

전형적인 사례로는1997년 리처드 와이즈먼Richard Wiseman과 도널드 웨스트Donald West 가 연구한 결과를 들 수 있는데, 이들은 대학생과 스스로 심령술사라고 주장하는 사람들에게 이미 해결한 범죄 사건과 관련된 물건을 주고 해당 범죄의 세부 사항을 물었다. 심령술사라고 주장한 집단은 대학생 집단보다 나은 결과를 보여주지 못했고, 두 집단 모두 우연 이상의 결과를 보여주지도 못했다 - P94

그러나 시장은 활황을 맞이하고 있다. 미국에서는 설문 응답자의 대략 60퍼센트가 "초능력자는 존재한다"라는 문항에 동의했고, 영국 인구의 23퍼센트가량은 심령술사와 상담한 적이 있다고 대답했다. - P94

체리피킹이나 인상적인 경험담 조작에 특히 능숙한 사람은돈을 벌 수 있다. 해롭지 않은 도락으로 여길 수도 있고 냉소가는 얼간이라든가 그 혹은 그녀의 돈에 관해 툴툴거릴지도 모르지만 많은 심령술사는 불안감과 유족에게서 이익을 얻는다. - P95

실비아 브라운Sylvia Browne은 1974년부터 사망한2013년까지 미국에서 가장 유명했던 심령술사다. (중략). 사실 브라운이 참여한 사건 35건 중에서 21건에 제공한 정보는 너무나 모호해서 쓸모가 없었다. 나머지 14건은브라운이 도움이 되지 않았다고 경찰과 유족은 주장했다.
(중략). 2002년에 린다 매클러랜드LyndaMcClelland가 실종되자, 브라운은 낮 시간대 프로그램에 나와 린다의 사위 데이비드 리파스키 David Repasky에게 린다가 이니셜이 ‘MJ‘인 남성에게 납치당했으며 곧 살아서 구조되리라고 말았다. 2003년에 린다의 유해는 3.2킬로미터 밖에서 발견되었으며 법의학 수사 결과 다른 누구도 아닌 리파스키에게 살해되었다는 사실이 밝혀졌지만, 이 정도는 사소한 착오였다. - P96

이것들은 입이 떡 벌어지는 오류로 밝혀진 소수의 사례일뿐이다. 브라운은 명중률이 87~90퍼센트라고 주장했지만 ‘몬텔윌리엄스 쇼‘에서 그가 말한 예언을 분석한 결과 명중률은 정확하게 0이었다. - P97

슬프게도 브라운만이 아니다. 텔레비전에 나오는 심령술사존 에드워드John Edward는 제임스 랜디가 그를 시험할 때 비틀거렸다. ‘모스트 헌티드 Most Haunted‘에 출연한 심령술사 데릭 아코라DerekAcorah는 완전히 허구의 인물인 크리드 케이퍼 Kreed Kafer의 영혼과대화한다고 주장한 심리학자 키아란 오키프 Ciaran O‘Keeffe에게 속아서 유명해졌다. 크리드 케이퍼는 ‘데렉 페이커 Derek Faker‘ (데렉은 사기꾼이라는 뜻이다. 옮긴이)의 철자 순서를 바꾼 말이다 - P98

그들의 예언은 왜 통하는가

어쨌든 이런 사기꾼들의 은행 잔고와 추종자 수는 매우 양호하다. 그러나 심령술사가 우연보다도 확률이 낮은데도 왜 수요는 여전할까? 답은 대개 체리피킹 때문이다. - P99

또한 심령술사는 무지개 전략을 활용해서 위험을 상쇄할 수있으며, 이때는 대상에게 서로 반대되는 특성을 동시에 부여하는 상투적인 말이 동원된다. (중략). 이 화법은 실제로 누구에게나 통하며 타인에게 영향을 받기 쉬운 청중이나 추종자에게는 더 명확한 일화적 증거를 제공한다. - P99

샷건 화법은 다음과 같다. "남자가 보여요, 심장 문제로 사망했어. 아버지인가... 아버지처럼 보이는데... 아니, 할아버지, 삼촌, 사촌이나 형제인가... 가슴 통증이 확실하게 느껴지네요." 여러 남성을 거론하면 그중 들어맞는 인물이 있기 마련이고, 그럴 가능성이 큰 이유는 서구 사회 남성의 거의 절반은 심장 관련 질병으로 사망하기 때문이라는 사실을 합리적인 독자라면 눈치챘을 것이다. - P100

논리에서 저지르는 실수만 수상쩍은 결론으로 이어지는 것도 아니다. (중략). 이를 비형식적 오류 informal fallacy라고 한다. 모호한 전제는 온갖 의심쩍은 결론을 실어 나르는 수사법상의 트로이 목마가 될 수 있다.  - P101

그전에 간과해서는 안 되는 매우 중요한 보조정리 (논리의 디딤돌) (다른 정리를 증명하는 데 활용하기 위해 증명된 명제. 옮긴이)가있다. (중략). 잘못된 추론도 옳을 수 있으며, 논거가 빈약하다고 해서 항상 잘못된 주장은 아니다. 이 오류는 논리에 대한 논증argumentum ad logicam, 오류의 오류fallacy fallacy라고 부른다.  - P101

논증을 파훼하기는 상대적으로 쉽지만, 논증을 둘러싼 분노의 목소리에 흔들리지 않고 자주적으로 주장을 평가하기는 더 어려울 수 있다는 점을 유념해야 한다. 달리 말하면 잘못된 추론에서 타당한 결론이 나오기도 한다. - P102

2부

진실은 단순하지 않다.

4장

악마는 디테일에 숨어 산다

비타민C 만능설과 바이러스 감염, 독일의 패전


추위에 덜덜 떨면서 일한 여러분에게 친구가 건강을 위해 선의로 비타민C를 추천한 적이 있을지 모르겠다. - P105

냉소적인 사람이었다면 깊이 의심하거나 뻔한 돌팔이라며이 조언을 무시했을 것이다. 그러나 폴링은 의심하지 않고 스톤의 조언을 따랐다. (중략). 엄청나게 열광한 폴링은 수년 동안 꾸준히 비타민C 복용량을 늘렸고, 하루에 1만 8000밀리그램을 먹는 지경에 이르렀다. - P106

그러나 폴링의 열성적인 전도는 한 줌의 경험담을 제외하면고용량 비타민C가 실제로 유익하다는 확정적인 근거가 없었다. 1971년 《미국의학협회저널Journal of America Medical Association》에서 의사프랭클린 빙 Franklin Bing은 폴링의 저서를 간략하게 소개하면서 그가 증거 없이 주장하고 있으며, "불행하게도 많은 일반인은 저자의 책 내용을 믿을 것이다"라고 한탄했다.  - P106

폴링은 결국 1994년에 사망했지만,* 비타민C에 관한 그의 주장은 지금까지도 살아남았고 사라질 기미가 전혀 없다. 실제로 고용량 비타민C 복용은 유익하기는커녕 추천하지 않는다.

* 아흔셋에 사망한 폴링의 장수에 비타민C는 아무런 역할도 하지 않았다. 훌륭한 건강관리와 행운의 유전자가 더 큰 역할을 했을 것이다. 다른 이야기지만 나는 2016년에 옥스퍼드 울프슨대학교 펠로우 만찬에서 영광스럽게도 병리학자 마이클 엡스타인 경 Sir Michael Epstein을 만난 적이 있다. 그는 당시 아흔다섯이었지만 놀라울 정도로 정신도 명료하고 신체 건강도 훌륭했다. 다른 동료가건강과 장수의 비결을 물었을 때, 엡스타인 경은 미소 지으며 대답했다. "비결은 올바른 부모를 선택하는 것이지." - P107

 특정 개념의 모호한 본질은 혼란을 일으키며, ‘전문가‘라는 말 역시 혼란을 일으키는 단어 가운데 하나다. - P108

권위가 주는 오류

(전략). 그러나 상황이 언제나 명확하지만은 않으며, 폴링이 입증했듯이 한 영역의 전문가라고 해서 다른 영역에서도 전문가인지, 심지어 분별이 있는지는 확신할 수 없다. - P108

권위에 의한 논증argument from authority은 인정받은 권위자의 지지를 활용해서 결론을 정당화한다. 그러나 여기에는 전문가는 오류가 없다는 가정에서 나오는 심각하고 때로는 극복할 수 없는 문제가 있다. - P109

권위에 의한 논증은 전형적인 비형식적 오류다. 이 오류는 논리가 타당하더라도 논증의 전제가 부주의할 때 일어난다.  - P109

인간을 표현하는 방법을 놀라울 정도로 다양하게 제공하는 만큼 언어는 미심쩍은 추론이 숨어들 틈도 똑같이 다양하게 열어놓았다. 권위에 의한 논증은 획일적인 전문지식의 변치 않는 해석에 의존하는 경향을 보인다. 그러나 이런 관점은 지식의 최전선이 빠르게 요동칠 때면 무너진다. - P110

(전략). 제멜바이스는 다면적인 질병의 복잡성을 단 하나의 원인 탓으로 돌리는 중대한 과학적 오류를 저질렀다. 기형적이며 환원주의적인 렌즈를 통해 모든 것을 설명하려는 그의 고집은 그가내린 많은 결론이 그릇된 방향으로 향하게 했다. 우연이지만 제멜바이스의 이야기는 치명적이며 흔한 또 다른 오류, 즉 단일 원인의 오류fallacy of the single cause 혹은 환원 오류reductive fallacy를 보여준다. - P114

소문을 믿다

보편적인 원인을 찾으려는 욕망은 당연한 것이다. 우리는 단순한 이야기, 원인과 결과가 명확한 이야기를 좋아한다. 그러나 복잡한 현실에서는 이는 규칙보다는 예외가 되기 쉽다. 
- P114

제1차 세계대전이 마무리되던 1918년에 독일군 육군 최고사령부의 고위 장교는 사실상 군사 독재자였다. 서부 전선에서 루덴도르프 공세가 끝날 무렵, 독일군 고위 장교가 봤을 때 전쟁에 패하리라는 사실은 자명했다. - P115

 독일의 패배는 후방에서 독일의 파멸을 모의한 반역자들 탓이라는 소문이었다. 수많은 사람이 이 소문을진짜라고 믿었고, 이 중에는 에리히 루덴도르프 Erich Ludendorff 장군처럼 상황을 잘 알았을 인물도 있었다.  - P115

. 이 편리한 허구는 곧바로 숨은 반역도를 비난했고, 독일 사회는 이 소문을 열정적으로 받아들였다. 비도덕적인반역자의 정체는 믿는 사람의 편견에 따라 볼셰비키, 공산당원, 반전주의자, 노동조합원, 공화당원, 유대인 등 다양했으며, 때로는 혐오 대상이 모두 섞여 있을 때도 있었다. 이 소문은 국수주의자에게 반향을 일으키면서 리하르트 바그너 Richard Wagner의 오페라<신들의 황혼 Görterdimmerung>에서 하겐이 지크프리트의 등을 창으로찌르는 장면을 떠올리게 했다. - P119

물론 배신자 때문이라는 단순한 설명은 전혀 실속이 없었고, 독일 안팎의 학자들도 철저하게 반박했다. 그러나 쉽게 이해할 수 있는 이야기가 진실로 자리 잡을 때, 진실성의 결여는 걸림돌이 되지 않는다. 소문을 믿는 사람들은 악의적인 요소에 의해 ‘배신자‘로 추정되는 사례만 체리피킹했다. - P117

소문으로 불붙은 인간성의 말살은 역사상 가장 충격적이고불가해하며 의도적으로 무고한 생명을 파괴하는 근거가 되었다. 1945년, 제2차 세계대전이 끝났을 무렵에 유대인 약 600만 명이나치 제국에 의해 체계적으로 처형당했고, 이외에도 나치 조직의 ‘최종적 해결(나치 독일이 행한 유대인의 계획적 말살. 옮긴이)‘ 작전에서 최대 1100만 명이 목숨을 잃었다. - P118

거짓 딜레마의 비열한 역사

인과적 환원 오류는 무수히 많은 유형이 있으며, 아마 이중 가장흔한 것은 거짓 딜레마 혹은 흑백논리일 것이다. 이 오류는 선택항목이 바다만큼 많아도 극단적인 두 개 중 하나만 고르라고 주장한다. - P119

흑백논리는 연설가의 제안에 전적으로 동의하지 않는 사람은 암묵적으로(때로는 놀라울 정도로 분명하게) 적으로 간주한다고 암시한다.
터무니없지만 놀라울 정도로 강력하며, 경계심이 부족한 사람들을 연설가가 바라는 방향으로 꼭두각시처럼 조정한다.  - P119