고용주들이 우리의 직업적 미래를 알고리즘에 맡긴다면 앞으로우리가 공정하게 대우받거나 의미 있는 법적 대응 수단을 확보할 수있으리라고 확신하기 어렵다. 왜냐하면 일단 한 개인의 미래 성과를 얼굴 표정이나 목소리 톤 같은 특징으로 예측할 수 있는가에 관해 논쟁이 첨예하기 때문이다. 실제로 2019년 11월 잘 알려진 미국 공익연구기관인 전자개인정보센터는 미국 연방거래위원회에 하이어뷰를 정식으로 고소했다. 하이어뷰가 "증명되지 않은 은밀한 알고리즘을 이용해 입사 지원자의 "인지 능력", "심리적 특성", "정서 지능", "사회성"을 평가하려 했다는 것이다.
또한 편견 문제도 있다. 하이어뷰는 자사의 방법론은 인간적인 편견을 제거한다고 주장하지만 실제로 그럴 가능성은 거의 없다. 하이어뷰의 알고리즘은 과거에 촬영한 영상이나 이미 ‘성공한 직원‘을 토대 삼아 훈련받은 것이기 때문이다. 이는 과거의 채용 과정에서 (의식적이든 무의식적이든) 이미 적용되었던 편견이 다시 적용될 가능성이 크다는 뜻이다. - P240
우리는 쇼샤나 주보프가 ‘감시 자본주의의 시대‘라고 부르는 시대에 산다.25 고용주가 항상 당신을 주시할 뿐만 아니라 AI와 빅 데이터와 사생활 침해가 심각한 각종 기기를 동원해 당신에 관한 온갖 판단을 내리는 시대. 승진이나 해고 같은 직장 경력의 중요한 행로를 결정하는, 이러한 판단들은 흔히 맥락이 생략된 자료에 근거하거나 주변 상황이 고려되지 않은 채 내려지곤 한다.
레이날다의 손목이 발갛게 부어올랐는데도 페덱스 관리자들이작업 속도를 늘리라고 주문한 것은 기계가 속도만 측정할 뿐 레이날다가 느끼는 통증은 측정하지 않았기 때문이다. 원형 감옥 같은 작업장 시대에 측정되지 않은 것은 중요하게 여겨지지 않는다. 반면 측정된 것은 과도하게 중요하게 여겨진다.
물리적인 작업 공간을 벗어난다고 해서 감시에서 벗어날 수 있는것은 아니다. 워크스마트WorkSmart라는 앱은 스크린 캡처, 앱 모니터링, 키보드 입력 정보 검사 등을 통해 ‘집중도‘와 ‘강도‘를 기준으로 원격근무자들을 항상 점수화한다. 이런 앱들이 수년 전부터 인기를 끌고있다. 워크스마트의 감시를 받는 노동자는 업무를 수행하고 있다는사실을 증명하기 위해 심지어 10분 간격으로 사진에 찍혀야 한다. 코로나바이러스 감염증 때문에 역시나 이런 추세도 심화되었다. 은행에서 보험 회사까지. 로펌에서 소셜 미디어 기업까지, 집에서 일하는 직원이 게으름을 피우지는 않는지 걱정스러운 고용주들은 2020년 봄 감시 소프트웨어에 큰돈을 투자했다. 일부 원격 근무 감시 시스템 공급자들은 2020년 4월 판매량이 무려 300%나 성장했다. 직원이 사무실로 복귀하면 이 소프트웨어가 그들의 노트북에서 제거될까? 나는 그러지 않으리라고 확신한다. - P248