[2018-028] 대량살상 수학무기

대량살상수학무기 - 어떻게 빅데이터는 불평등을 확산하고 민주주의를 위협하는가
캐시 오닐 지음, 김정혜 옮김 / 흐름출판 / 2017년 9월

제목 : 대량살상 수학무기

작가 : 캐시오닐

번역 : 김정혜

출판사 : 푸른출판

읽은날 : 2018/05/09 - 2018/05/20

분류 : 일반

우리가 사용하고 있는 빅데이터와 인공지능에 의해 생성된 가치판단모형이 얼마나 위험하게 사용되고 있는지에 대해서 신랄하게 비판한 책.

우리 인간들이 가지고 있는 편견을 더 강화하고 효율적으로 차별하게 만드는게 이 책에서 이야기하는 WMD, 즉 대량살상 수학무기다.

당연하다고 생각했던 많은 가치판단 모형들이 사실은 얼마나 부실하게 운영되고 있는지를 교사 평가 모형이나 범죄 예방 모형을 통해서 알려준다.

나도 별 생각도 없이 긍정하고 끄덕여왔던 내용들이 참 많았구나 하는 생각이 든다. 

앞으로 인공지능이 가미된 가치평가모형은 더욱 무섭다. 모형이 블랙박스이기 때문이다. 아무도 왜 그런 판단을 내렸는지 알지 못하지만 사회는 그 모형을 기준으로 돌아갈 것이기 때문이다. 마이너리티 리포트가 따로 없다.

우리 사회가 이미 이런 모형들에 너무나 많이 의존하고 있다는 것이 문제다. 

사실과 data에 의해서 검증받고 도전받지 않는 모든 모형들은 다 이런 WMD가 될 위험을 가진다. 

무섭기도 하고, 그런 사회에서 어떻게 나의 존엄성을 지켜갈 수 있을지 걱정도 된다. 많은 사람들이 같이 깨닫기를 바란다. 

p16 대다수 모형은 인간의 편견, 오해, 편향성을 코드화했다 

p19 교육청 관리들은 숫자는 사실만을 말할 거라고, 다르게 표현하면 객관적이고 공정할 것이라고 설명했다 

p23 WMD는 진실을 찾는 대신에 스스로 진실을 구현했다 

p24 특권층은 주로 개별적인 대인면담을 통해 평가받고, 대부분의 평범한 사람들은 기계가 일괄적으로 처리한다 

p39 예측하려는 행동에 대한 데이터가 부족한 상태에서 WMD를 개발하는 경우는 매우 흔하다 

P45 어떤 데이터를 수집할지부터 무엇을 질문할지까지, 우리 자신의 가치관과 바람은 우리의 선택에 영향을 미친다. 요컨대, 모형들은 수학에 깊이 뿌리내린 지극히 개인적인 의견이라고 할 수 있다 

p60 WMD의 세 가지 요소를 알아보았다. 바로 불투명성, 확장성, 피해다 

p73 수학모형은 본질적으로 과거와 기존 패턴들이 반복될 것이라는 가정에 기반을 두기 때문이다.  

P79 자사 모형의 정확도를 높이기보다는 고객만족도를 높이는 데 더 많은 관심을 기울였다 

p91 이런 흐름에 반대하는 사람들은 향수에 젖은 러다이트라고 매도했다 

p115 2000여명이 고사장이었던 학교 앞 거리에 모여 "우리는 공정함을 원한다. 우리에게 부정행위를 허용하지 않는다면 공정함이란 없다"라는 구호를 외치며 투석시위를 벌였다 

p119 부유층부터 노동자 계층까지 모든 학생이 거대한 기계에 맞도록, 즉 WMD를 충족시키도록 단순히 훈련될 뿐이다 

p126 영리대학들의 마케팅은 평등과 민주화를 위한 위대한 도구가 될 것이라는 초기 인터넷의 약속과는 전혀 방향이 다르다 

p141 영리 대학들은 부유한 학생들에게는 관심을 두지 않는다. 이들은 이미 너무 많은 것을 알고 있기 때문이다. 

p152 경찰활동 자체가 새로운 데이터를 생성시키고, 이런 데이터가 다시 더 많은 경찰활동을 정당화해준다. 그리고 교도소는 피해자가 없는 범죄를 저지른 수많은 범죄자들로 넘쳐나게 된다 

p166 프로그램 개발자들은 공정성을 어떻게 코드화할 지 알지 못한다. 사실 그들에게 그렇게 하라고 지시하는 상사도 거의 없다 

p178 평소 그런 행동을 일삼는 미국인이 수백만 명이나 되는데도, 법 집행당국이 맥다니엘에게 훨씬 엄중한 잣대를 들이댈 것은 어렵지 않게 짐작할 수 있다 

p197 승리의 비결은 기계들이 무엇을 원하는지 알아내는 것이다. 그러나 공정하고 과학적이며 민주적이라고 칭송받는 오늘알의 디지털 세상에서도 내부자들은 여전히 중대한 우위를 차지하는 비결을 알아낸다 

p199 인간에게서 지원자들을 차별하는 법을 배운 컴퓨터는 인간들보다 한술 더 떠서 기가 막힐 만큼 효율적으로 차별적인 심사를 했다 

p214 스타벅스 같은 상장기업들의 사업모델은 회사의 수익을 최대한 늘리도록 설계되기 마련이다 

p225 재범위험성 모형부터 교사평가모형에 이르기까지 대다수 WMD는 모형에 현실을 반영해 수정하기보다는 원하는 현실을 창조한다 

p258 WMD모형에는 실수를 학습의 기회로 삼는 과정이 빠져있다 

p265 스타트업들이 WMD에 의존한다면, 의도가 아무리 좋아도 사회에 악영향을 끼칠 수 밖에 없다 

p287 우리는 이런 과정이 이뤄지는 내내 자신이 '속한' 부족이 무엇이며, 자신이 왜 그런 부족에 포함됐는지에 대해 거의 알지 못할 것이다. 기계지능, 다른 말로 인공지능의 시대에 거의 모든 변수는 미스터리로 남게된다 

p296 개인적인 성공사례를 널리 홍보하는 것과 달리 웰니스 프로그램이 건강관리비용을 낮추지 못한다는 연구결과가 있다 

P306 연구진의 결론은 이랬다. "누군가의 감정상태는 다른 사람들에게 전이될 수 있고, 자신도 모르는 사이에 그 사람과 똑같은 강점을 경험하게 만든다" 

p319 이런 현상은 참신하고 유의미한 데이터에 대한 수요가 막대하다는 사실을 깨닫게 해준다 

p324 TV는 더 광범위하고 신뢰할 수 있는 메시지를 전달하는 반면, 마이크로 타기팅은 어둠의 장막을 두르고 은밀하게 전개된다 

p329 앞에서는 효율성과 공정성을 약속하지만 뒤에서는 고등교육을 왜곡하거나 부채를 증가시키고 대량투옥을 촉발한다 

p334 대부분의 경우 공정성은 부산물이었다 

p337 데이터 처리과정은 과거를 코드화할 뿐, 미래를 창조하지 않는다. 미래를 창조하려면 도덕적 상상력이 필요하다 

[2018-027] 게리콜린스의 인생출발

인생출발
게리 콜린스 / 두란노 / 1992년 7월

제목 : 게리콜린스의 인생출발

작가 : 게리 콜린스

번역 : 

출판사 : 두란노

읽은날 : 2018/05/09 - 2018/05/20

분류 : 종교

참 예전에 읽었던 책이다.

그때와는 느낌이 다른다. 처음 이 책을 읽었을 때 나는 20대였다. 반면 지금은 기성세대다.

이 책은 젊은이에게 적합한 책이다. 이렇게 하지 않아서 반성하는 마음으로 읽게된다.

심리학 책도 아니고, 자기계발서도 아니고, 그렇다고 종교적인 책이라고 하기에도 뭐한 장르가 많이 겹친다. 그러다 보니 약간은 교회다니는 사람에게 전달하는 도덕책 같은 느낌도 든다. 

요즘의 젊은 사람들은 어찌 생각할지 모르겠지만 내가 어릴때만 하더라도 이정도의 내용에 공감했었다.

전체적으로는 보수적인 기독교에 가깝긴 하지만 이렇게만 살아도 최소한 기독교인들이 비기독교인들에게 조롱을 받는 일은 없을 것이다.

이 책을 읽은지 그렇게 오래 됐는데, 아직도 이 책에 담겨있는 내용도 소화를 못해내는걸 보면 기독교는 희망이 없어보인다.

[2018-026] 아스피린과 기도

아스피린과 기도
이만홍 / 두란노 / 1987년 2월

제목 : 아스피린과 기도

작가 : 이만홍

번역 : 

출판사 : 두란노

읽은날 : 2018/04/26 - 2018/05/08

분류 : 종교

기독교인이면서 신경정신과 의사인 이만홍 교수님의 상담과 관련된 에세이집.

기도로 모든 문제가 해결된다고 이야기하면서 병원을 무시하는 종교인들이 많다. 특히 신경정신과는 귀신들렸다라는 전가의 보도에 의해 더더욱 종교인들이 멀리하는 의학분야다.

약물치료와 상담치료를 통하여 충분히 회복될 수 있는 사람들도 치료를 기피하여 호미로 막을 문제를 가래로도 못막는 일이 비일비재하다.

이러한 안타까움이 책 곧곧에서 느껴진다.

저자 스스로도 종교와 의학을 어떻게 조화를 이룰 것인지 답을 찾지는 못한 상태다. 

의학에 종교를 넣을 수 없다는 강경한 무신론적 의사들이 판을 치는 세상에서 이런 고민과 연구를 하는 의사들이 있다는 게 다행이다. 

이 책에 등장하는 수많은 환자들... 꽤 많은 환자들이 더 나은 상태로 갈 수 있는 길에서 포기하고 돌아가버린 것을 볼 수 있다. 안타깝지만 그게 현실이다. 

나 역시 종교와 과학, 의학을 어떻게 조화를 이룰 것인지 찾고 있는 중간이다. 

평생 이런 고민하며 살아가겠지.

나랑 같은 고민을 하는 사람이 있다는 데에 위로를 받는다.

[2018-025] 어떻게 읽을 것인가

어떻게 읽을 것인가 - '모든 읽기'에 최고의 지침서
고영성 지음 / 스마트북스 / 2015년 12월

제목 : 어떻게 읽을 것인가

작가 : 고영성

번역 : 

출판사 : 스마트북스

읽은날 : 2018/04/14 - 2018/04/26

분류 : 일반

몇 번을 읽어도 다시 읽게 되는 책.

독서법에 대해서 이보다 더 좋은 책은 못본거 같다.

누구는 한시간에 한권씩 책을 읽는다고도 하지만 그건 내 방식이 아니고, 우리 아이에게 권하고 싶지도 않다.

책을 빨리 읽을 수도 있고, 느리게 읽을 수도 있다. 여러 책을 한번에 읽을 수도 있고, 한권씩 읽어갈 수도 있다.

나름 다 장단점이 있으니까 책읽기는 여러 방법으로 해야 맞다.

물론 나에게 잘 맞는 방법이 있고, 난 그 방식으로 책을 읽는다.

그렇지만 이 책에 나온것처럼 남독이나 계독으로 읽는 것도 좋은 방법이다. 

예전에 읽었던 종교서적에 이런 글이 있었다. 

수십권의 기도책을 읽고, 기도에 대한 설교를 듣고, 세미나에 참석한 후 나는 전혀 해보지 않았던 걸 시작했다. 그렇다. 바로 기도를 시작했다...

마찬가지로 독서법에 대한 책을 읽고 세미나에 참석하고 이야기를 들었어도 직접 책을 읽지 않으면 소용이 없다. 

책읽기 책과 더불어 책을 읽자. 취미로서 이만큰 재미있는 것도 없다.

p21 독서라는 판도라 상자를 최신 뇌과학, 심리학, 행동경제학이라는 재료로 떠받치고, 스토리와 인문학이라는 날개를 달아 독자의 품으로 날려 보내는 것이 이 책의 목표이다 

p43 이는 '뇌의 가소성'에 대해서 이야기한 것으로, 드웩교수는 뇌를 근육에 비유함으로써 연습을 통해 더 뛰어나게 변화시킬 수 있다는 것을 학생들에게 이해시킨 것이다 

p53 5세에는 독서를 하기 위한 최소한의 뇌기능이 준비되지 못한 것이다 

p68 무엇보다 여성들의 가시권 안에서 책을 멋들어지게 읽는 것 자체가 나에게 엄청난 동기부여가 되었다. 그렇다. 난 속물이었다 

p89 서울대 학생들은 교수의 가르침에 이의를 제기하기나 토를 달거나 하지않고 최대한 그대로 흡수하려고 하는 반면, 미시간대 학생들은 교수와 다른 생각을 하거나 교수를 뛰어넘으려는 노력을 많이 한다 

p93 발달 심리학자 장 피아제는 "교육의 주요목표는 다른 세대가 했던 것을 그대로 반복할 수 있는 인간을 만드는 것이 아니라, 새로운 것을 할 수 있는 인간을 창조하는 것이어야 한다"라고 했다 

p94 남독을 하게 되면 당신은 까칠해지고(비판적 사고), 엉뚱해지며(창의적 사고), 겸손해질(세계의 확장) 것이다 

p104 어떤 자극에 의해 일어나는 한 형태의 감각이 다른 형태의 감각을 불러 일으키는 것을 '공감각'이라고 한다 

p106 어니 젤린스키는 "창의성은 낯선 것에 대한 즐거움이다"라고 했다. 뭔가 익숙하지 않은 낯선 것들과 마주치게 될 때, 우리안에 자자고 있는 창의성이 기지개를 펴게 된다 

p119 "지식보다는 무지가 자신감을 더 자주 불러일으킨다"라고 말한 찰스 다윈의 혜안이 빛을 발하는 순간이다 

p126 문자를 몰랐을 때에는 미술과이었던 아이의 머리가 문자를 알게 되면서 도서관으로 바뀌는듯했다. 상상력은 지식과 논리로 바뀐다 

p160 우리가 어떤 개념을 생각하고 있을 때는 그것과 관련된 단어들을 조금 더 빠르게 포착한다는 것을 알 수 있다 

p161 하지만 서평을 쓰려고 하니, 저자가 책을 쓴 의도를 손쉽게 파악하는게 중요했고, 글의 구조를 제대로 이해하는게 필요했기에 자연스럽게 서문과 차례를 면밀히 보게 되었다 

p164 "생각의 탄생"에서는 "명백히 달라 보이는 두 개의 사물이 중요한 특질과 기능을 공유하고 있음을 깨닫는 일이야말로 세계에서 가장 위대한 학문과 예술작품, 불후의 과학이론, 공학적 발명을 이루어내는 일의 중심에 놓여있는 것이다 

p176 나도 이제는 3대1의 법칙을 적용한다. 세 권의 신작을 읽으면 한 권의 명저를 재독하는 것이다 

p178 추억은 인생이 의미있음을 끝없이 상기시켜준다. 특히 삶이 뿌리채 뽑혀나갈 수 있는 존재론적 위기 가운데에서, 추억은 그것을 극복할 수 있는 가장 강력한 힘이 되어준다. 

p207 "인간은 울기 때문에 속상해지고, 두들기기 때문에 화가 나고, 떨기 때문에 무서워진다" 우리 뇌는 상황을 다각적으로 판단하는데, 그 판단의 근거 중 하나가 생리현상 그 자체이기 때문이다 

p218 '만독'편에서 언급했지만, 아이의 독서능력에서 중요한 것은 '문자'를 얼마나 일찍 익혔는가보다 '얼마나 많은 어휘를 확보하고 있는가'이다 

p231 니콜라스 크리스타키스 박사가 12,067명을 32년간 추적 연구한 결과, 비만인 사람이 나와 매우 가까운 사람이라면 나도 비만이 될 확률이 비약적으로 증가한다 

p232 우리는 따라장이들이다. 우리의 뇌가 그렇게 설계되어 있다 

p236 던바의 연구는 과학자들의 탁월한 발견이 고독에서 오는 것이 아니라, 열 명 남짓한 학자들이 모여 형식에 구애받지 않고 최근의 연구에 대해 토론을 나누는 정기적인 실험실 모임에서 나온다는 것을 밝혀냈다 

p247 연구에 의하면 젊은이들은 출처의 질적인 평가를 제대로 못한다는 것이 밝혀졌다. 학문적 연구와 단순한 의견 표명 사이의 권위를 제대로 구분하지 못한다는 것이다 

p253 인터넷은 이처럼 관련없는 문제의 해결과 주의력 분산이라는 두 개의 무기로 우리를 산만하게 만들고, 결국 텍스트 독해를 방해한다 

p262 책이 읽기 힘들 때, 그리고 책이 읽기 싫을 때에는 '그냥' 책을 읽으면 된다. 이 방법은 '인지 부조화'를 이용하는 것이다.  

[2018-024] 하고 싶은 거 하고 살아요 우리

하고 싶은 거 하고 살아요, 우리 - 마음이 뾰족한 날, 나를 다독이는 공감 에세이
강예신 글.그림 / 예담 / 2017년 9월

제목 : 하고 싶은 거 하고 살아요 우리

작가 : 강예신

번역 : 

출판사 : 예담

읽은날 : 2018/04/28 - 2018/05/01

분류 : 일반

이렇게 가벼운 수필이 나는 읽기가 훨씬 어렵다.

가슴에 와 닿는 내용도 그리 많지 않고... 

아무래도 난 감정이 메말랐나보다. 

늙으면 감성적이 된다는데 나는 왜 이럴까?

한마디 한마디에 끄덕여지기 보다는 그런갑다 하며 넘어가는게 더 많다니...

언제쯤 이런 수필에 감정이입이 되고 기쁨과 슬픔을 느낄 수 있으려나...

읽기는 쉽지만 머릿속에 또는 가슴에 하나도 남지 않으니 답답하다.

p37 다만 틀린 그대로를 고치지 않고 내버려두는 건 인생의 저자인 자신의 선택일 뿐이다 

p47 걱정을 해서 걱정이 없어진다면 걱정도 없겠다 

p67 가을이 오면 단풍이 물들듯 어느틈에 사람도 서로에게 스며든다. 결고운 사람들의 마음이 모여 서로에게 깃들고 세상을 더 고운 빛으로 물이 들면 좋겠다 

p96 반가운 이는 예상치 못한 순간 찾아오기도 한다. 어쩌면 산타가 불쑥 찾아올지도 모르니 굴뚝 청소는 해둬야 한다 

p176 알고 지내는 도깨비 한 명, 수영정도는 함께 하는 비린내 나는 인어친구, 차 한잔 나누는 잘생긴 저승사자 친구 한 명쯤 다들 있지요? 

p188 신은 공평하다. 내게만 

p247 시시콜콜하고 소소한 이야기들로만 가득찬 뉴스를 볼 수 있었으면 좋겠다. 뉴스가 너무 무료해 자장가처럼 듣다 미소지으며 잠들 수 있었으면...