서론
데이터과학자, 퀀트, 그리고 내부고발자
어릴 적 내 취미는 차창 밖으로 지나가는 자동차 번호판의 숫자를 관찰하는 것이었다. 가령 ‘45=3×3×5‘라는 식으로 번호판의 숫자들을소수 로 해체하곤 했다. 흔히 인수분해라고 불리는 이것은 내가 심심할 때 즐겨 하던 놀이였다. 한창 수학에 맛을 들여가던 나는 특히 소수에 매료됐다. 수학에 대한 내 풋사랑은 곧 열정으로 발전했다. 열네살 때는 수학 캠프에 참가해서 받은 루빅큐브를 가슴팍에 꼭 끌어안고 집으로 돌아왔다. 내게 있어서 수학은 복잡한 현실에서 벗어날 수있는 질서 정연한 도피처였다.
- P13
빅데이터 경제의 원동력인 수학 모형 프로그램들은 실수가 있을 수밖에 없는 인간의 선택에 기반을 둔다. 분명 이런 선택 중 일부는 선한 의도를 가지고 있다. 그러나 대다수 모형은 인간의 편견, 오해, 편향성을 코드화했다. 그리고 이 코드들은 점점 더 우리 삶을 깊이 지배하는 시스템에 그대로 주입됐다.
수학 모형은 여러 가지 면에서 신을 닮았다. 신처럼 불투명해서 이해하기 힘들다. 각 영역의 최고 사제들, 즉 수학자와 컴퓨터 과학자들을 제외하고는 그 누구에게도 내부의 작동 방식을 보여주지 않는다. 그리고 신의 평결처럼, 잘못되거나 유해한 결정을 내릴지라도 반박하거나 수정해달라고 요구할 수 없다. 무엇보다 사회적 약자와 가난한사 람들을 차별하고 부자는 더욱더 부자로 만들어주는 경향이 있다.
나는 이런 유해한 모형들의 적절한 이름을 생각해보았다. 바로 ‘대량살상수학무기 weapons of Math Destruction‘, 줄여서 WMD 다. 지금부터 WMD의 사례 하나를 소개하겠다. 그것이 얼마나 파괴적인지 직접 확인하기 바란다.
- P16
통계 시스템에서 양만큼 필수적인 것이 있다. 바로 피드백이다. 피드백은 시스템이 정상 항로에서 벗어날 경우, 이를 알려주는 장치다. 통계 전문가들은 피드백을 통해 받은 오류를 토대로 모형을 개선해 더욱 완벽하게 만든다. 만약 아마존닷컴이 잘못된 상관성을 바탕으로 10대 소녀들에게 잔디 관리 서적을 추천하기 시작하면 클릭 수가 급감하고, 아마존의 알고리즘(컴퓨터 코드 형식으로 공식화된 명령 또는 절차)은 오류를 수정할 때까지 계속 왜곡될 것이다. 이렇듯 피드백이 없으면통계적 엔진은 실수에서 아무것도 배우지 못한 채 파괴적이고 잘못된 분석 결과를 계속 쏟아낼 수도 있다.
워싱턴 교육청의 가치부가모형을 포함해 이 책에서 소개할 WMD중 상당수가 적절한 피드백을 받지 못하고 있다. 오히려 이들 모형은 스스로 현실을 정의하고, 그 결과를 정당화하기 위해 왜곡된 현실을 이용한다. 이는 매우 파괴적인 결과를 초래하는데, 우리 주변에서 보편적으로 적용되고 있는 WMD 중 상당수가 이 같은 비난에서 자유롭지 못하다.
- P22
WMD는 가난한 사람들을 저평가하는 경향이 있다. 여기에는 다양한 이유가 있지만, 이런 모형이 대규모로 사람을 평가하도록 설계됐다는 것이 그렇게 된 이유 중하나다. 대규모 데이터를 처리하도록 특화된 WMD는 저렴한 비용으로 작업을 수행한다. 이는 WMD의 매력 중 하나다. 반면 부자들은 종종 개인적인 접촉으로 유리한 위치를 차지한다. 예를 들어, 유서 깊고 명망 있는 법률 회사나 학비가 비싼 사립학교는 패스트푸드 체인점이나 재정이 빈약한 도시의 교육구보다 추천서와 대면 인터뷰를 훨씬 선호한다. 이 책에서 설명하는 사례들을 통해 계속 확인하겠지만, 특권층은 주로 개별적인 대인면담을 통해 평가받고, 대부분의 평범한 사람들은 기계가 일괄적으로 처리한다.
- P24
이렇듯 공정하다고 여겨지는 모형들에도 대개 개발자의 목표와 이념이 반영된다. 예를 들어, 인스턴트 음식을 식사 대용으로 먹을 수없다는 원칙을 정했을 때, 나는 식단 모형에 내 이념ideology을 주입한셈이다. 솔직히 우리 모두는 별로 깊이 생각하지 않고 자연스럽게 이렇게 행동한다. 어떤 데이터를 수집할지부터 무엇을 질문할지까지, 우리 자신의 가치관과 바람은 우리의 선택에 영향을 미친다. 요컨대, 모형들은 수학에 깊이 뿌리내린 지극히 개인적인 의견이라고 할 수있다. - P45
|