이는 취약계층 학생들에게 배움의 길이 열렸다는 신호...

 이는 취약계층 학생들에게 배움의 길이 열렸다는 신호였다. 취약계층의 대학 지원자들이 증가 당연히 전체 SAT 평균 점수는 떨어졌다. 그런데 SNL의 통계학자들은 SAT 응시자들 소득 수준에 따라나누어 평균 점수를 계산해 보았다. 그러자 빈공층에서 부유층까지모든 소득 계층에서 점수가 상승했다는 결과가 나왔다.
통계학에선 이 같은 현상을 ‘심슨의 역설simpson‘s Paradox‘ 이라고 부른다. 이는 하나의 추세를 나타내는 전체 데이터를 하위 그룹으로 나누면 각각의 하위 그룹에서는 전체와 정반대되는 추세가 나타나는 현상을 일컫는다. 결국 전국적인 교사 평가 운동을 촉발시킨 <위기의 국가> 보고서의 비관적인 결론은, 데이터를 심각하게 잘못 해석한 결과에서 비롯됐던 것이다. - P230

달리 말하면 점수 모형의 개발자들은 "당신은 과거에 어떻게 행동했을까?"라는 질문이 이상적인 상황에서 엉뚱하게도 "당신 같은 사람들은 과거에 어떻게 행동했을까?"라는 질문을 던진다. 이 두 질문의 차이는 엄청나다. 평범한 이민자 가정에서 태어났지만 야망이크고 책임감 있는 사람이 창업 자금을 빌리기 위해 은행 문을 두드린다고 가정해보자. 만약 그가 점수 같은 시스템에 의존해야 한다면 어떻게 될까? 그에게 누가 투자하겠는가? 잘은 몰라도, 그가 속한 인구집단과 그들의 행동에 관한 데이터를 이용하도록 고안된 모형을 적용하는 집단은 아닐 것이다. - P245

자동화된 시스템이 스스로 이 같은 문제를 해결할 거라고 기대하기는 어렵다. 그 모든 놀라운 능력에도 불구하고 기계들은 공정성을 제고하기 위해 그 무엇도 조정할 수 없다. 최소한 기계 스스로는 그렇게 할 수 없다. 데이터를 샅샅이 조사하고 무엇이 공정한지 판단하는 것은 기계로선 절대적으로 불가능한 영역이며 지독히도 복잡한일이다. 오직 인간만이 시스템에 공정성을 주입할 수 있다. - P259

툴톡인에 따르면 항성 하나하나는 살아 있는 텍스트이...

툴톡인에 따르면 항성 하나하나는 살아 있는 텍스트이다. 초고온 가스의 거대한 대류 전류가 장대한 이야기를 들려주는 동안 흑점은 구두점 노릇을하고, 코로나의 광환은 과장된 수사적 표현이며, 플레어는 차가운 우주 공간의 깊은 침묵 속에서 진실처럼 들리는 강조 구절이다. 행성은 저마다 시 한 수를 품고 있다. 그 시는 거칠고 뾰족뾰족한 암석질 핵의 스타카토 리듬으로, 또는 소용돌이치는 거대 가스층의 서정적이고 유장하고 화려하며 남성적인 동시에 여성적인 압운으로 쓴 것이다. 개중에는 생명이 사는 행성도 있다. 보석을 박은 정교한 시계 장치처럼 구성된 이들 행성은 스스로를 참조하며 반향과 재반향을 끝없이 거듭하는 문학적 장치를 겹겹이 품고 있다. - P202

아빠는 완벽한 사람이 아니야. 나쁜 짓도 나름 하면서 살았지, 다른 남자들이 그러는 것처럼. 하지만 너는 아빠가 가장 약했던 그때 그 한순간이 네 삶까지 덩달아 지배하도록 놔둬버렸어. 아빠의 인생 전체를 정지된 그날 오후로 압축해 버린 거야. 아빠라는 사람의 가장 부족한 단면 하나로, 너는 마음속에서 정지된 그때의 이미지를 덧그리고 또 덧그렸어. 이미지에 찍힌 사람이 흐릿해질 때까지. - P223

절대로 그럴 리 없다. 농구 모형은 적극적으로 피드...

절대로 그럴 리 없다. 농구 모형은 적극적으로 피드백을 반영하는데 왜 채용 모형은 그러지 않을까? 농구팀들은 수백만 달러의 잠재적 가치를 지닌 선수 개개인을 관리한다. 경쟁 우위를 획득하고 이를유지하기 위해 고심하는 농구팀의 애널리틱스 엔진analytics engine은 늘 데이터에 목말라 있다. 지속적인 피드백이 없다면 농구팀의 선수 관리 시스템은 부정확하고 시대착오적인 구닥다리가 되고 말 것이다.
반면 최저임금 일자리를 제공하는 기업들은 많은 직원을 집단으로관리한다. 이런 기업 인적자원 담당자들을 기계로 대체함으로써비용을 절감하고, 기계는 많은 사람을 추려서 더욱 관리하기 용이한집단으로 만든다. 가령 습관성 도벽이 발병하거나 생산성이 급감하는것처럼 직원들에게 문제가 생기지 않는 한, 회사로선 부적합 지원자를 걸러내는 채용 모형을 수정할 이유가 거의 없다. 비록 잠재적 인재를 놓치기는 하겠지만, 그 모형은 제 역할을 충분히 다하고 있는 셈이다. - P191

미국에서는 종잡을 수 없는 불규칙한 근무 일정이 걸수록 보편화되고 있다. 이 같은 업무 방식의 최대 피해자는 스타벅스, 맥도날드, 월마트 같은 기업들에서 일하는 저임금 노동자들이다. 근무 일정 조정에 관한 통보가 적절히 이뤄지지 않기 때문에 이들의 피해는 더욱커지고 있다. 많은 종업원이 수요일에 야간근무를 하거나 금요일 혼잡한 시간대에 근무해야 한다는 사실을 겨우 하루이틀 전에 통보받는다. 이런 일은 노동자들의 삶을 뒤죽박죽 뒤엉키게 만든다. 특히 자녀가 있는 직원의 경우, 양육 문제 때문에 재앙과 같은 혼란에 빠질 수 있다. 이런 상황에선 당연히 식사도 수면도 아무렇게나 닥치는대로 해결할 수밖에 없다. 노동자의 불규칙한 근무 일정은 빅데이터 경제의 새로운 부산물이다. - P209

해악은 여기서 끝나지 않는다. 일정 관리 소프트웨어는 기업들이비용을 절감하도록 설계되기 때문에, 노동자들의 근무 시간을 주 30시간 미만으로 제한한다. 그 결과, 노동자들은 근무 시간이 주 30시간 이상일 경우에 주어지는 직장건강보험에 가입할 자격을 얻지 못하게 된다. 설상가상으로 혼란스러운 일정 때문에 대부분의 노동자이 부업을 할 수도 없다. 일정 관리 소프트웨어는 사실상 저임금 노동자들을 착취하고 억압하기 위해 설계됐다고 해도 지나친 지적이아니다. - P218

일정 관리 소프트웨어가 노동자들에게만 피해를 입히는 것은 아니다. 그들의 자녀도 커다란 피해자다. 이런 부모를 둔 아이들은 평범한 일상을 경험하지 못한 채 성장한다. 아이들은 아침 식탁에서 피곤찌든 채 눈을 간신히 뜬 모습이나 저녁도 먹지 못하고 급하게 뛰쳐나가는 모습 혹은 일요일 오전에 자신들을 돌보는 문제로 외할머니와 입씨름하는 모습의 엄마를 보며 자란다. 정돈되지 않은 혼란스러운 삶은 아이들에게 깊은 영향을 미친다. 시민단체인 경제정책연구소Economic Policy Institute의 조사에 따르면, "근무 시간이 들쑥날쑥하거나 표준근로시간 외에 일하는 부모를 둔 아동과 청소년은 인지기능 저하나 행동 문제를 일으킬 가능성이 크다." 이런 부모들은 아이가 학교에서 말썽을 피우거나 학업 성적이 나쁘면 자기 자신을 탓하게 된다. 하지만 진짜 범인은 따로 있다. 근무 시간이 무계획적이고 불규칙한 일자리도 감지덕지하게 만드는 가난과 가뜩이나 어려운 가족들을 사면초가로 몰아가는 일정 관리 소프트웨어가 진범이다. - P218

경찰들이 강도, 살인, 강간 같은 중범죄를 예방하기...

경찰들이 강도, 살인, 강간 같은 중범죄를 예방하기 위해 순찰을 도는 것일지라도, 우범지대로 분류된 동네에서는 순찰 시간이 길어질수밖에 없다. 아무리 작은 범죄라도 눈앞에서 벌어진다면 경찰이 어떻게 모른 척할 수 있겠는가. 만약 순찰을 돌다가 기껏해야 16살 정도로 보이는 미성년자 둘이 술을 마시는 장면을 목격한다면, 그들의 행위를 중단시키는 게 옳다. 그러다 보면 이런 경범죄가 경찰의범죄 예측 모형에서 점점 더 많은 점을 차지하고, 이는 다시 경찰이그 지역을 순찰하게 만든다.
이는 바로 유해한 피드백 루프가 활성화되는 전형적인 과정이다.
경찰 활동 자체가 새로운 데이터를 생성시키고, 이런 데이터가 다시더 많은 경찰 활동을 정당화해준다. 그리고 교도소는 피해자가 없는 범죄victimless crime 를 저지른 수많은 범죄자들로 넘쳐나게 된다. 이런 범죄자들은 대부분 가난한 동네 출신이고, 또한 대부분 흑인이거나 히스패닉계다. - P152

그러나 불심검문에는 WMD를 닮은 면이 여럿 있다. 가령 불심검문은 유해한 피드백 고리를 활성화시킨다. 수천명의 흑인과 라틴계남성이 피부색 때문에 불심검문을 받았다. 더욱이 그들 중 상당수는소소한 위법 행위와 경범죄를 저지른 혐의로 붙잡혔다. 매주 토요일밤 대학교 남학생회에서 흔히 볼 수 있지만 아무도 그로 인해 처벌을 받지 않는 그런 범죄 때문에 말이다. 대부분의 대학생이 도를 넘는행위를 하고도 처벌받기는커녕, 한숨 자고 일어나면 없던 일이 되지만 불심검문 피해자들은 범죄자로 기록됐고, 일부는 지옥 같은 라이커스 섬으로 떨어졌다. 뿐만 아니라 각각의 체포 사례는 새로운 데이터를 생성시키고, 이는 불심검문 정책을 더욱 정당화하는 근거가됐다.
불심검문이 증가함에 따라 ‘상당한 근거probable cause‘라는 취약한 법률적 개념은 사실상 무의미해졌다. 경찰들은 이미 범죄를 저질렀을 가능성이 있는 사람만이 아니라, 미래에 범죄를 저지를 수도 있는사람들까지 단속했다. 이런 활동은 때로 미래의 범죄를 예방하기도했다. 예컨대 바지 주머니에 불룩 튀어나온 물건이 수상해서 젊은 남자를 검문했는데, 알고 보니 그 물건이 미등록된 권총이어서 체포했다면, 경찰은 지역 주민들을 살인이나 무장 강도 혹은 또 다른 범죄에서 구한 것일 수도 있다. 하지만 미래의 일은 아무도 모르듯, 그가잠재적 범죄자가 아닐 가능성도 배제할 수 없다. 어쨌든 한 가지 확실한 것은, 당시 불심검문에는 상당한 논리적 근거가 있었고, 많은 시민들이 이를 정당한 공권력 행사로 받아들였다.
그런데 불심검문 정책은 합헌일까? 2013년 8월 연방지방법원의시라 샤인들린 판사는 불심검문이 헌법에 위배된다고 판결했다.  - P163

평등 문제는 다른 사안들에 비하면 대수롭지 않게 보일지도 모르겠다. 그러나 평등은 정의 구현에 있어서 매우 중요한 부분으로, 다른 무엇보다 형법적 정의criminal justice를 경험한다는 뜻이다. 불심검문 같은 정책을 지지하는 사람들은 불심검문을 직접 당해보아야 한다. 정의는 사회의 한 부분이 다른 부분에 가하는 것이 되어서는 절대 안된다. - P168

그런데 그런 데이터는 달리 해석할 수도 있다. 그들 범죄자가 교육환경이 매우 열악하고 기회도 거의 없는 가난한 동네에 거주한다는점에 주목해보자. 이제는 다들 알겠지만, 그런 동네에는 다른 지역보다 많은 경찰이 배치된다. 고로 출소해서 가난한 예전 동네로 돌아가는 전과자가 경찰과 또 다시 마찰을 빚을 가능성이 세금 사기로 형을살고 출소한 뒤 교외의 부촌으로 돌아가는 화이트칼라 범죄자가 경찰과 말썽을 일으킬 가능성보다 더 큰 것은 두말하면 잔소리다. 그리하여 재범위험성모형에서 가난한 유색인종은 유색인종이라는 이유로, 그리고 가난한 동네에 산다는 이유로 더 엄격한 처벌을 받게된다.
- P168

더욱이 과학적이라고 여겨지는 시스템인 재범위험성모형에는 논리적인 오류가 있다. 재범위험성모형은 ‘고위험‘ 범죄자들을 사회와 오래 격리시킬수록 사회가 더 안전해진다는 가정을 맹목적으로 받아들인다. 물론 복역 중일 때는 범죄를 저지를 수 없다. 그러나 복역 기간이 끝나 출소한 이후에도 그들의 행동에 영향을 미칠 수 있을까? 흉악범들에게 둘러싸인 끔찍한 환경에서 보내는 시간이 재범 위험성을 줄이기는커녕 오히려 증가시키지 않을까? 이런 물음에 대한 답은, 양형 지침으로 사용되는 재범위험성모형의 기본적 토대를 흔든다.
그래서 이에 대한 연구가 아주 중요한데도 데이터로 넘쳐나는 교도소는 관련 연구를 수행하지 않고 있다. 대신 교정 당국은 거의 언제나, 시스템을 개선하거나 문제를 제기하기 위해서가 아니라 시스템의 작동 방식을 정당화하기 위해 데이터를 취사선택하고 있다. - P170

타이완인은 대부분 몇 세기 전 중국의 푸젠[福建] ...

타이완인은 대부분 몇 세기 전 중국의 푸젠[福建] 지방에서 건너온 이민자의 후손이라네. 1885년 일본이 중국에게서 타이완섬을 넘겨받은 후, 일본인들은 오키나와에서 그랬던 것처럼 이 섬을 일본화하려고 했어. 그래서 타이완 현지 출신인 번성런[本省人]을 일본 천황의 충성스러운 신민으로 만들려고 한 거야. 수많은 타이완인이 전쟁 중에 일본 군복을 입고 싸웠네. 일본이 전쟁에서 패한 후에 타이완은 중화민국으로 반환됐지. 이때 공산당에 패한 국민당군대가 타이완섬으로 건너오면서 새로운 이민자들이 물결처럼 밀려왔네. 그들이 바로 와이성런 [外省人]이야. 번성런은 좋은 일자리를 독차지한 국민당계 와이성런을 미워했고, 국민당계 와이성런은 전쟁 중에 동족을 배신하고 일본을 위해 싸운 번성런을 증오했네.
- P174

‘freeze (얼어붙다)‘라는 단어가 유독 마음에 걸렸다. 릴리는 눈을 감고 머릿속에 그 단어를 적어 보았다. 간 선생이 했을 법한 방법으로, 단어를 꼼꼼히 뜯어보았다. 알파벳들이 흔들리며 서로를 쿡쿡 찔러댔다. Z는 무릎을 꿇고 애원하는 남자의 모습으로 변했고, e는 태아처럼 옹송그린 죽은 아이의 모습으로 바뀌었다. 그러다가 이내 ‘z‘ 와 ‘e‘는 사라지고 그 자리에 ‘free(자유롭다)‘만이 남았다.
괜찮아, 릴리 양, 테디와 나는 이제 자유롭다네. 릴리는 정신을 집중했다. 머릿속에서 점점 희미해져 가는 간 선생의 미소와 따뜻한목소리를 붙잡으려고, 자네는 정말로 영리한 아가씨야. 자네 또한파자점술사가 될 운명이라네. 미국에서.
- P190