플로리다주에서는 운전 기록이 완벽해도 신용평가점수가...

플로리다주에서는 운전 기록이 완벽해도 신용평가점수가낮으면, 신용등급이 매우 우수하지만 음주운전으로 유죄 판결을 받은 경우보다 평균 1552달러의 보험료를 더 부담해야만 했다.
경제 전반에 걸쳐 신용평가점수에 대한 의존도가 커지는 것이 빈곤층에게 어떤 불이익을 가하는지는 이미 앞에서 알아보았다. 자동차 보험료와 신용평가점수의 관계는 그런 추세에 대한 또 다른 사례다. 이는 사실 아주 고약한 사례이기도 하다. 모든 운전자가 자동차보험에 의무적으로 가입해야 하기 때문에 그렇다. 하지만 자동차보험과 다른 신용평가점수 활용 사례들 사이에는 두드러진 차이점이 있다. 자동차 보험은 운전자의 안전과 직접 연관되는 데이터가 있는데도 대리 데이터를 더 중요하게 취급한다. - P274

보험사들의 모형은 어째서 신용평가점수를 더 중요하게 취급하는것일까? 우선은 다른 WMD와 마찬가지로, 보험사의 자동 시스템도 신용평가점수를 매우 효율적이고 대대적인 방식으로 처리할 수 있기 때문이다. 하지만 가장 주된 이유는 이익과 관련 있다. 신용평가점수를 활용하면 완벽한 운전 솜씨를 자랑하는 이른바 무결점 운전자에게서도 해마다 1552 달러를 추가로 거둬들일 수 있는데, 굳이 그런 시스템을 바꿀 이유가 있을까? - P275

연구진의 결론은 이랬다. "누군가의 감정 상태는 다른 사람들에게 전이될 수 있고, 자신도 모르는 사이에 그 사람과 똑같은 감정을 경험하게 만든다." 즉, 페이스북 알고리즘은 마음만 먹으면 수백만 명의 감정을 누구도 눈치채지 못하게 조작할 수 있다. 만약 페이스북의 알고리즘이 선거일에 사람들의 감정을 조작한다면 어떻게 될까?
페이스북에서 일하는 사회과학자들이 정치 시스템을 적극적으로조종하고 있다고 의심할 만한 증거는 없다. 이들은 20여년 전만 해도 오직 상상 속에서만 존재하는 플랫폼에서 연구할 기회를 잡은 학자들일 뿐이다. 그러나 이들의 연구는 페이스북이 우리가 무엇을 배우고 어떤 기분을 느끼고, 투표할지 말지 결정하는데 영향을 미치는 강력한 힘이 있음을 증명했다. 페이스북의 플랫폼은 거대하고 강력하며 불투명하다. 게다가 페이스북의 알고리즘은 대중에게 공개되지않는다. 대중은 오직 페이스북이 공개하기로 선택한 실험 결과만 볼수 있을 뿐이다. - P306

이런 이중성은 혹은 다중성은 정치권에서 새삼스러운 것이 아니다. 예로부터 정치인들은 유권자 각각에게 맞는 다양한 모습을 보여주기 위해 노력했다. 가령 위스콘신 주 밀워키에서는 폴란드의 전통음식 킬바슈를 먹고, 뉴욕의 브루클린에서는 유대교의 율법을 인용하며, 아이오와에서는 옥수수에서 추출한 에탄올을 입에 침이 마르도록 칭찬하는 식이다. 그러나 롬니가 뼈저리게 경험했듯, 오늘날에는 정치인들이 외부인들을 배척하는 극단적인 주장을 한다면 발달된 기술이 언제라도 그들을 무너뜨릴 수 있게 됐다.
현대의 소비자 마케팅은 정치인들을 특정한 유권자들에게로 데려다주는 새로운 경로를 제공한다. 이제 정치인들은 각 유권자 집단의 욕구에 맞춤화된 정보를 들려줄 수 있다. 일단 그렇게 하고 나면, 유권자들은 정치인들에게서 들은 정보를 액면 그대로 받아들일 가능성이 큰데, 그 주장이 자신들의 기존 믿음을 확인시켜주기 때문이다.
심리학자들은 이를 확증편향이라고 부른다.  - P311

직접우편물은 보조바퀴들을, 다른 말로 세분화된 소규모 집단을목표로 하는 마이크로 타기팅 micro-targeting 시대를 열었다. 빅데이터와 소비자 마케팅의 결합은 오늘날 정치인들에게 훨씬 강력한 마이크로 타기팅 도구를 제공한다. 요즘 정치인들은 유권자의 표심을 얻고 정치후원금을 모금하기 위해 세분화된 소규모 시민집단들을 표적공략할 뿐 아니라, 각 집단에 맞춰 철저히 다듬어지고 외부인들에게는 공개되지 않을 메시지를 앞세워 지지를 호소할 수 있게 됐다. 페이스북에 올린 배너광고나 정치후원금을 독려하는 이메일이 좋은예다. - P313

미국 국새에 새겨져 있는 라틴어 표어 "여럿으로 이뤄진 하나Pharibus Unm, 영어로는 Out of Many, One"에서 볼 수 있듯, 미국은 다양성의 나라다. 그런데 WMD들은 그 공식을 뒤집는다. WMD들은 어둠 속에서 은밀히 작동하면서 하나를 여럿으로 나누는 동시에, 우리의 가까운 이웃과 먼 이웃들에게 가하는 수많은 피해를 은폐한다. 싱글맘은 들쑥날쑥한 근무 일정에 시달리지만, 아이를 돌봐줄 사람을 찾지못한다. 생활고로 허덕이는 젊은이는 지원한 회사의 인성적성검사결과 때문에 시간제 일자리조차 구하지 못한다. 가난한 소수 계층의 청소년들은 경찰에게 불심검문을 당하거나 폭행을 당한다. 가난한 동네로 분류된 지역의 우편번호를 사용하는 주유소 종업원은 남들보다 훨씬 비싼 보험료를 부담해야 한다. 요컨대, WMD의 마수가 뻔치는 곳에서는 가난한 사람들이 가장 큰 타격을 입고, 중산층도 어느정도 피해를 입는 소리 없는 전쟁이 벌어진다. 게다가 피해자들은 대부분 처지가 엇비슷한데, WMD에 맞서 싸울 경제력이 없거나 변호사를 고용할 처지가 안 된다. 혹은 자금력이 풍부해서 그들이 후원금을 내지 않더라도 대신 싸워줄 정치단체를 찾지 못한다. 그리하여 광범위한 피해가 마치 운명처럼 받아들여지는 경우가 허다하다. - P331

데이터 처리 과정은 과거를 코드화할 뿐, 미래를 창조하지 않는다.
미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다. 우리는 더 나은 가치를 알고리즘에 명백히 포함시키고, 우리의 윤리적 지표를 따르는 빅데이터 모형을 창조해야 한다. 그렇게 하려면 가끔은 이익보다 공정성을 우선시해야 한다. - P337

우리의 삶을 갈수록 광범위하게 지배하는 수학 모형을 규제하려면먼저 무엇을 해야 할까? 나는 출발점을 모형 개발자들에게서 찾아야한다고 생각한다. 의사들이 그러하듯이, 데이터과학자들도 자신들이만든 모형이 오남용되고 잘못 해석될 가능성에 대항할 일종의 히포크라테스 선서를 해야 한다. 2008년 금융시장이 붕괴한 이후에 금융공학자인 이매뉴얼 더만과 폴 윌모트는 실제로 모형 개발자를 위한히포크라테스 선서를 작성했다.

• 나는 내가 세상을 만드는 것이 아니며, 세상이 내 방정식을 따르지 않음을 명심하겠습니다.
나는 가치를 추산하기 위해 모형을 대담하게 사용할지언정, 수학에 지나치게 감동받지는 않겠습니다.
• 나는 이유를 설명하지 않고는 우아함 때문에 현실을 결코 희생시키지 않겠습니다.
• 나는 내 모형을 사용하는 사람들이 그 정확성에 대해 거짓된 위안을 갖도록 하지 않겠습니다. 대신에 나는 모형에 이용된 가정과 간과된 점들을 분명히 밝히겠습니다.
• 나는 내 일이 사회와 경제에 지대한 영향을 끼칠 수 있음을, 그런 영향의 상당 부분이 나의 이해 수준을 능가하는 것임을 명심하겠습니다.

이 같은 선서는 바람직한 철학적 토대가 된다. 그러나 확고한 가치관과 자기 절제력은 오직 양심적인 사람들에게만 효과를 발휘할 뿐, 비양심적인 사람들에게는 무용지물이다. 더군다나 모형 개발자의 히포크라테스 선서는, 상사가 구체적인 대답을 요구할 때 데이터과학자들이 종종 맞닥뜨리는 현장의 압박을 막아주지 못한다. 따라서 유해한 WMD를 제거하려면, 데이터 세상에서 모범적인 관행을 구축하는 것 이상을 해야 한다. 즉, 법률이 변해야 한다. - P339

WMD들이 득세하게 된다. 일터에서 우리를 기계 부품처럼 취급하고, 가난한 사람들에게서 취업 기회를 빼앗아가고, 건강에 이상이 있는 직원들을 배척하며, 온갖 불평등한 만행을 저지르는 치명적인 수학 모형이 모든 것을 지배하게 될지도 모른다. WMD들을 규제하고 길들이며 무장해제시키기 위해 우리 모두는 힘을 합쳐야 한다. 나는21세기 초반의 WMD들이 100여 년 전 참혹했던 석탄 광산처럼 기억되기를 바란다. 인간이 데이터의 시대에 공정성과 책임성을 반영하는 법을 배우지 못했던 새로운 혁명의 초창기 시절의 유물로 기억되기를 희망한다. 수학은 WMD보다 더 나은 대접을 받을 자격이 충분하다. 민주주의도 마찬가지다. - P359

[오늘의 한문장] 종이 동물원

이 춥고 어둡고 적막한 우주에는 ‘사랑해‘란 말을 전하는 방법이많이 있단다. 반짝이는 저 별들만큼이나 많이. - P329

이는 취약계층 학생들에게 배움의 길이 열렸다는 신호...

 이는 취약계층 학생들에게 배움의 길이 열렸다는 신호였다. 취약계층의 대학 지원자들이 증가 당연히 전체 SAT 평균 점수는 떨어졌다. 그런데 SNL의 통계학자들은 SAT 응시자들 소득 수준에 따라나누어 평균 점수를 계산해 보았다. 그러자 빈공층에서 부유층까지모든 소득 계층에서 점수가 상승했다는 결과가 나왔다.
통계학에선 이 같은 현상을 ‘심슨의 역설simpson‘s Paradox‘ 이라고 부른다. 이는 하나의 추세를 나타내는 전체 데이터를 하위 그룹으로 나누면 각각의 하위 그룹에서는 전체와 정반대되는 추세가 나타나는 현상을 일컫는다. 결국 전국적인 교사 평가 운동을 촉발시킨 <위기의 국가> 보고서의 비관적인 결론은, 데이터를 심각하게 잘못 해석한 결과에서 비롯됐던 것이다. - P230

달리 말하면 점수 모형의 개발자들은 "당신은 과거에 어떻게 행동했을까?"라는 질문이 이상적인 상황에서 엉뚱하게도 "당신 같은 사람들은 과거에 어떻게 행동했을까?"라는 질문을 던진다. 이 두 질문의 차이는 엄청나다. 평범한 이민자 가정에서 태어났지만 야망이크고 책임감 있는 사람이 창업 자금을 빌리기 위해 은행 문을 두드린다고 가정해보자. 만약 그가 점수 같은 시스템에 의존해야 한다면 어떻게 될까? 그에게 누가 투자하겠는가? 잘은 몰라도, 그가 속한 인구집단과 그들의 행동에 관한 데이터를 이용하도록 고안된 모형을 적용하는 집단은 아닐 것이다. - P245

자동화된 시스템이 스스로 이 같은 문제를 해결할 거라고 기대하기는 어렵다. 그 모든 놀라운 능력에도 불구하고 기계들은 공정성을 제고하기 위해 그 무엇도 조정할 수 없다. 최소한 기계 스스로는 그렇게 할 수 없다. 데이터를 샅샅이 조사하고 무엇이 공정한지 판단하는 것은 기계로선 절대적으로 불가능한 영역이며 지독히도 복잡한일이다. 오직 인간만이 시스템에 공정성을 주입할 수 있다. - P259

툴톡인에 따르면 항성 하나하나는 살아 있는 텍스트이...

툴톡인에 따르면 항성 하나하나는 살아 있는 텍스트이다. 초고온 가스의 거대한 대류 전류가 장대한 이야기를 들려주는 동안 흑점은 구두점 노릇을하고, 코로나의 광환은 과장된 수사적 표현이며, 플레어는 차가운 우주 공간의 깊은 침묵 속에서 진실처럼 들리는 강조 구절이다. 행성은 저마다 시 한 수를 품고 있다. 그 시는 거칠고 뾰족뾰족한 암석질 핵의 스타카토 리듬으로, 또는 소용돌이치는 거대 가스층의 서정적이고 유장하고 화려하며 남성적인 동시에 여성적인 압운으로 쓴 것이다. 개중에는 생명이 사는 행성도 있다. 보석을 박은 정교한 시계 장치처럼 구성된 이들 행성은 스스로를 참조하며 반향과 재반향을 끝없이 거듭하는 문학적 장치를 겹겹이 품고 있다. - P202

아빠는 완벽한 사람이 아니야. 나쁜 짓도 나름 하면서 살았지, 다른 남자들이 그러는 것처럼. 하지만 너는 아빠가 가장 약했던 그때 그 한순간이 네 삶까지 덩달아 지배하도록 놔둬버렸어. 아빠의 인생 전체를 정지된 그날 오후로 압축해 버린 거야. 아빠라는 사람의 가장 부족한 단면 하나로, 너는 마음속에서 정지된 그때의 이미지를 덧그리고 또 덧그렸어. 이미지에 찍힌 사람이 흐릿해질 때까지. - P223

절대로 그럴 리 없다. 농구 모형은 적극적으로 피드...

절대로 그럴 리 없다. 농구 모형은 적극적으로 피드백을 반영하는데 왜 채용 모형은 그러지 않을까? 농구팀들은 수백만 달러의 잠재적 가치를 지닌 선수 개개인을 관리한다. 경쟁 우위를 획득하고 이를유지하기 위해 고심하는 농구팀의 애널리틱스 엔진analytics engine은 늘 데이터에 목말라 있다. 지속적인 피드백이 없다면 농구팀의 선수 관리 시스템은 부정확하고 시대착오적인 구닥다리가 되고 말 것이다.
반면 최저임금 일자리를 제공하는 기업들은 많은 직원을 집단으로관리한다. 이런 기업 인적자원 담당자들을 기계로 대체함으로써비용을 절감하고, 기계는 많은 사람을 추려서 더욱 관리하기 용이한집단으로 만든다. 가령 습관성 도벽이 발병하거나 생산성이 급감하는것처럼 직원들에게 문제가 생기지 않는 한, 회사로선 부적합 지원자를 걸러내는 채용 모형을 수정할 이유가 거의 없다. 비록 잠재적 인재를 놓치기는 하겠지만, 그 모형은 제 역할을 충분히 다하고 있는 셈이다. - P191

미국에서는 종잡을 수 없는 불규칙한 근무 일정이 걸수록 보편화되고 있다. 이 같은 업무 방식의 최대 피해자는 스타벅스, 맥도날드, 월마트 같은 기업들에서 일하는 저임금 노동자들이다. 근무 일정 조정에 관한 통보가 적절히 이뤄지지 않기 때문에 이들의 피해는 더욱커지고 있다. 많은 종업원이 수요일에 야간근무를 하거나 금요일 혼잡한 시간대에 근무해야 한다는 사실을 겨우 하루이틀 전에 통보받는다. 이런 일은 노동자들의 삶을 뒤죽박죽 뒤엉키게 만든다. 특히 자녀가 있는 직원의 경우, 양육 문제 때문에 재앙과 같은 혼란에 빠질 수 있다. 이런 상황에선 당연히 식사도 수면도 아무렇게나 닥치는대로 해결할 수밖에 없다. 노동자의 불규칙한 근무 일정은 빅데이터 경제의 새로운 부산물이다. - P209

해악은 여기서 끝나지 않는다. 일정 관리 소프트웨어는 기업들이비용을 절감하도록 설계되기 때문에, 노동자들의 근무 시간을 주 30시간 미만으로 제한한다. 그 결과, 노동자들은 근무 시간이 주 30시간 이상일 경우에 주어지는 직장건강보험에 가입할 자격을 얻지 못하게 된다. 설상가상으로 혼란스러운 일정 때문에 대부분의 노동자이 부업을 할 수도 없다. 일정 관리 소프트웨어는 사실상 저임금 노동자들을 착취하고 억압하기 위해 설계됐다고 해도 지나친 지적이아니다. - P218

일정 관리 소프트웨어가 노동자들에게만 피해를 입히는 것은 아니다. 그들의 자녀도 커다란 피해자다. 이런 부모를 둔 아이들은 평범한 일상을 경험하지 못한 채 성장한다. 아이들은 아침 식탁에서 피곤찌든 채 눈을 간신히 뜬 모습이나 저녁도 먹지 못하고 급하게 뛰쳐나가는 모습 혹은 일요일 오전에 자신들을 돌보는 문제로 외할머니와 입씨름하는 모습의 엄마를 보며 자란다. 정돈되지 않은 혼란스러운 삶은 아이들에게 깊은 영향을 미친다. 시민단체인 경제정책연구소Economic Policy Institute의 조사에 따르면, "근무 시간이 들쑥날쑥하거나 표준근로시간 외에 일하는 부모를 둔 아동과 청소년은 인지기능 저하나 행동 문제를 일으킬 가능성이 크다." 이런 부모들은 아이가 학교에서 말썽을 피우거나 학업 성적이 나쁘면 자기 자신을 탓하게 된다. 하지만 진짜 범인은 따로 있다. 근무 시간이 무계획적이고 불규칙한 일자리도 감지덕지하게 만드는 가난과 가뜩이나 어려운 가족들을 사면초가로 몰아가는 일정 관리 소프트웨어가 진범이다. - P218