우리가 전지전능하다고 믿는 알고리즘에 데이비드 섬프터는 '잠깐만요? 그게 사실인가요?'라는 의문을 제기한다. 오해나 억측을 하고 있는 건 아닌지 질문한다. 정확도가 60% 밖에 안되는 걸 철석같이 믿고 있는 거라고 어려운 설득을 시도한다. 무조건 신뢰는 곤란하다고 사실을 따져보자고 한다.데이비드 섬프터의 <알고리즘이 지배한다는 착각>은 알고리즘이 우리를 지배한다는 생각을 세계적인 응용수학 박사답게 수학적으로 강력한 의문을 제기하는 책이다. 알고리즘을 균형 있는 시각으로 보도록 우리에게 알려준다.'우리가 어떻게 행동해야 옳은지 알아내려고 수학에 의지할 때마다, 수학은 다음과 같은 똑같은 대답을 내놓는다. '논리만 가지고 공정을 이뤄낼 수는 없다.' (p. 104)'우리는 알고리즘이 공정하다고 여기지만, 알고리즘이 공정한 결과를 내놓을만한 조건을 가지고 있지 않다. 우리도 공정을 정의하지 못하는데 하물며 알고리즘은 더욱더 모른다.'우리의 행동을 분석하는 능력에 관한 한, 우리가 이제껏 살펴 본 알고리즘들은 기껏해야 인간들과 대등하다. (p. 135)' 알고리즘이 확률을 중심으로 작동하기 때문이다. 다만 처리 속도는 인간을 능가한다.''필터' 알고리즘은 초기의 작은 차이를 포착하고 부풀려 약간 열등했던 한쪽 진영이 결국 사라지게 만든다. 사용자는 자기 확증적 생각과 소규모 친구들과의 상호작용 안에 갇힌다. (p. 207)'미세한 초깃값의 차이로 조작이 가능하고 그 조작이 악용될 소지(예를 들면 가짜뉴스)가 있다. 하지만 실제 삶에서 그 영향이 미치는 힘은 약하다. '그 불평등의 부분적인 원인은 우리의 평가가 편파적인 것에 있다. 우리는 우리와 가치관을 공유한 사람들을 선호하는 경향이 있고, 그런 사람들은 우리와 유사한 특징들을 지닌 경향이 있다. (p. 261)'알고리즘의 불평등하고 차별적인 연상도 결국 우리의 암묵적인 선입견을 학습한 결과다. 현실에서 우리의 인종차별주의와 성차별주의를 해결하지 못하면 알고리즘의 불평등도 해소할 길은 없다.데이비드 섬프터는 알고리즘의 한계와 위험성, 그리고 미래의 모습도 이야기한다.알고리즘은 맥락을 파악하지 못한다. 인간의 하찮은 일들을 줄여줄지언정 인간과 유사한 행동을 하는 데는 한계가 있다. 다만 우리가 알고리즘의 영향력을 제대로 평가하지 못할 때 과학적 허구에 휘둘리거나 소수의 삶을 개선하기 위해서만 사용될 때 위험이 있다. 그렇지만 알고리즘과 협업은 우리의 미래에 가능성을 부여한다. '기술자들과 수학자들 중 일부는 10년 정도만 지나면 우리가 참된 인공지능에 도달할 것이라고 믿는 반면, 나머지는 참된 인공지능이 몇백 년 뒤에나 실현될 것이라고 본다. (p. 331)'저자는 알고리즘이 우리를 지배한다는 생각은 착각이라는 주장한다. 인간의 두뇌 정도 수준의 인공지능 실현이 아직은 멀기 때문이다. 그래서 우리의 알고리즘 통제는 지금처럼 한동안 계속되리라 본다.