(서평) 알고리즘이 지배한다는 착각 -데이비드 섬프터 作-

알고리즘이 지배한다는 착각 - 수학으로 밝혀낸 빅데이터의 진실
데이비드 섬프터 지음, 전대호 옮김 / 해나무 / 2022년 2월

이제 페이스북을 비롯한 여러 SNS와 구글없는 생활은 상상 할수 없는 세상이 되었다. 그만큼 우리 사람간의 커뮤니케이션을 하고 상호작용을 하는 큰 무대는 인터넷 플랫폼 속인 세상이 되어버렸다. 너무도 생활에 깊이 들어온 탓인지는 모르겠으나, 앞으로 미래를 이끌어나갈 산업이라하면 으례 이들 정보 통신, 로봇, 빅데이터들을 기반으로 하는 4차 산업을 이야기한다. 하지만 우리는 그만큼 이들 기술들에 대해 잘 알고 있을까? 아마 깊이 의심해 본 사람은 많이 없으리라 생각한다. 인공지능과 빅데이터가 제공해주는 정보들은 당연한 진리라고 받아들이는 사람들 또한 있을 것이다. 하지만 여기에도 오류가 있고, 이들이 제공해주는 정보로 인하여 우리의 생활 자체가 잘못될 수 있다면? 편견으로 가득한 추천 동영상을 받고 편향된 필터를 거친 정보들이 내 주변에 가득하고 이로 인해 나의 생각 또한 영향을 받고 있다면? 데이비드 섬프터는 이러한 의심과 질문들로부터 출발해 알고리즘의 정체와 그 힘을 알아보고자 한다.

Session 1. 우리를 분석하는 알고리즘

Chapter 01. 뱅크시 찾기

- 현실 세계와 수학이 상호작용하는 방식은 결코 단순명료하지 않다. 나 자신까지 포함해서 우리 모두는 때때로 수학을 손잡이를 돌려 결과를 얻는 단순한 활동으로 착각하는 함정에 빠진다. 응용수학자들은 세계를 모형화 사이클을 통해서 보는 훈련을 한다. 그 사이클은 현실 세계의 고객이 해결하고 싶은 문제를 우리에게 제출할 때 시작된다. ... 우리는 우리의 수학적 도구상자들을 꺼내고 컴퓨터를 켜고 코드를 프로그래밍하고 더 나은 해답들을 찾을 수 있을지 살펴본다. 우리는 알고리즘을 완성하여 고객에게 제공한다. 고객은 우리에게 피드백을 제공하고 사이클은 계속 돌아간다.

현실 세계는 현실적인 문제들을 지녔고, 우리의 임무는 현실적인 해답들을 찾아내는 것이다. 어떤 문제든지 단지 계산만으로는 해결할 수 없는 엄청난 복잡성을 지녔다. ... 스티븐 호킹은 인공지능에 대한 우려를 밝혔다. 극우 집단들은 알고리즘이 창조한 필터버블 filter bubble (사람들 각각이 마치 거품방우 (버블) 안에 갇힌 것처럼 살면서, 그 거품방울이 선벼하여 통과시키는 (필터) 뉴스만 접한다는 개념) 안에서 살고 있었다. 페이스 북은 우리의 성격을 측정했고, 그 측정 결과는 선거전에 이용되었다. 알고리즘의 위험성에 관한 이야기들이 차곡차곡 쌓여갔다. 브렉시트와 트럼프에 관한 통계 모형들이 둘 다 틀린 것으로 판명되면서 수학자들의 예측 능력마저도 의문시되었다.

Chapter 02. 잡음을 만들어라

- 온라인에서 나는 데이터 과학자들이 느슨하게 모여서 이룬 한 집단이 이 문제들에 대처하기 위하여 사회 안에서 알고리즘이 어떻게 사용되고 있는지 분석하고 있는 것을 발견했다. 그 활동가들이 가장 절박하게 느낀 우려의 핵심은 투명성과 잠재적 편견이었다. 당신이 온라인에서 활동하는 동안, 구글은 당신이 방문하는 사이트들에 관한 정보를 수집하고 그 데이터를 이용하여 당신에게 어떤 광고들을 보여줄지 결정한다.

장기적으로 구글은 당신의 관심들을 파악하고 분류한다. 구글 계정에서 '개인저오 보보 힘ㅊ 맞춤설정' 을 선택하고 이어서 '광고 설정' 을 선택하면, 구글이 당신에 관하여 어떤 것들을 추론했는지 간단히 알아볼 수 있다. ... 구글은 우리에게 완전히 정직하지는 않다. 구글이 사용자들의 광고 설정을 업데이트함으로써 자기네가 사용자들에 관하여 내린 결론을 알려준 경우는 단 한 번도 없었다. 심지어 우리가 우리 자신의 광고 설정을 바꿔 우리가 보고 싶은 광고와 그렇지 않은 광고를 구글에 알려주더라도, 구글은 우리에게 어떤 광고를 보여줄지를 스스로 결정한다.

Chapter 03. 우정의 주성분

- 알고리즘의 득세는 유럽과 미국에서 불확실성이 증가하는 상황과 동시에 일어나고 있다. 이 변화는 많은 이들에게 숫자에 압도당하는 느낌을 안겨준다. 각종 뉴스에서도 알고리즘이 언급되지만, 이런 주제들에 대해서 내 친구들이 나누는 대화나 트위터 토론을 경청하고 있자면, 제기되는 질문들에 내가 제대로 답할 수 없다는 점을 발견하게 된다. 우리를 평가하고 우리에게 영향을 미치기 위해 사용되는 블랙박스 안에서 어떤 일이 벌어지는지 사람들은 알고 싶어한다.

- 나는 내 친구들의 데이터에 이른바 '주성분 분석 principle component analysis', 줄여서 PCA 기법을 적용한다. PCA는 내가 각각의 게시물 범주를 한 차원으로 삼아서 구성한 다차원 데이터 공간을 회전시켜 게시물들 간의 관계 가운데 가장 중요한 것들을 알아내기 위한 통계학적 방법이다.

Chapter 04. 100차원의 당신

​- 새로운 기술들은 심상치 않은 미래를 제안한다. 그 미래에서는 페이스북이 우리의 모든 감정을 추적하고, 소비 선택과 인간 관계와 직업 경력과 관련하여 우리를 끊임없이 조작할 것이다. 당신이 페이스북, 인스타그램, 스냅챗, 트위터, 기타 소셜미디어 사이트를 일상적으로 이용한다면, 당신은 숫자에 압도되어 있는 것이다. 당신은 당신의 성격이 수백 차원의 공간 안에 한 점으로 놓이는 상황을 허용하고 있는 것이며, 당신의 감정이 수치화되고 당신의 미래 행동이 모형화되고 예측되는 상황을 허용하고 있는 것이다. 그 모든 일은 효율적으로 이루어질 뿐 아니라 자동으로, 우리 대다수가 거의 이해할 수 없는 방식으로 이루어진다.

Chapter 05. 케임브리지 애널리티카의 과장광고

- 잘 설계된 알고리즘은 사건을 두 범주 중 하나에 속하는 것으로 범주화하는 경우가 거의 없다. 대신에 알고리즘은 순위나 확률을 따진다. 페이스북 성격 모형은 각각의 사용자에게 '외향성/내향성' 순위를 부여하거나 사용자가 '독신' '파트너있음' 의 확률을 계산한다. 이런 모형들은 다양한 요인들을 고려하여 단 하나의 숫자를 산출하는데, 그 숫자는 특정 사실이 해당개인에게 들어맞을 확률에 비례한다.

- 모형 맞추기, 곧 모형을 데이터에 맞게 조정하는 작업에 이은 다음 단계는 모형의 성능을 검사하는 것이다. 한 예로 회귀 모형의 정확성을 검사하는 좋은 방법 하나는 민주당 지지자 한 명과 공화당 지지자 한 명을 무작위로 선택한 다음에 그들 중에서 누가 공화당 지지자인지를 그들의 페이스북 프로필에 기초하여 예측하라고 모형에게 요구하는 것이다. 이것은 직관적으로 타당한 정확도 측정법이다. 당신이 그 사람들과 마주친다고 상상해보라. 당신은 그들의 취향과 취미에 관한 질문 몇 개를 던질 수 있다. 그런 다음에 당신은 누가 어느 정당을 지지하는지 판단해야 한다. 당신은 얼마나 높은 확률로 옳은 판단을 내릴까?

Chapter 06. 편향 없음은 불가능하다

- 알고리즘을 평가할 때는 흔히 '가짜 양성 false positive' 와 '가짜 음성 false negative' 을 따지는 것이 유용하다. 가짜 양성은 모형의 예측이 양성이면서 오류인 경우가 가짜 양성이다. ... 당신이 경찰에 체포되었고 판사가 알고리즘으로 당신의 재범 가능성을 평가한다면, 당신에게 발생할 수 있는 최악의 일은 가짜 양성 평가를 받는 것이다. 진짜 양성 true positive 평가는 정당하다. 실제로도 위험한 당신을 알고리즘이 평가하다고 평가한 경우니까 말이다. 반면에 가짜 양성은 당신의 가석방 신청이 부당하게 기각디거나 당신에게 과도한 형량이 선고되는 것을 의미할 수 있다.

- 우리가 어떻게 행동해야 옳은지 알아내려고 수학에 의지할 때마다, 수학은 다음과 같은 똑같은 대답을 내놓는다. '논리만 가지고 공정을 이뤄낼 수는 없다' 수학의 역사를 훑어 보면 정의하기 어려운 공정의 문제가 불거진 사례들을 숱하게 발견할 수 있다. ... 우리는 최선을 다할 수는 있지만, 우리가 옳은 행동을 하는지 여부를 정말로 확실히 알 길은 결코 없다.

Chapter 07. 데이터 연금술사들

- 컴퓨터는 방대한 통계 수치들을 수집하는 일을 아주 잘하는 반면, 인간은 그 수치들의 바탕에 깔린 이유를 식별하는 일을 아주 잘한다. ... '데이터 연금술 data alchemist' 이라는 용어는 오늘날 디지털 마케팅이 작동하는 방식을 아주 정확하게 표현한다. 회사들이 보내는 표적 광고를 경험해보면 데이터 연금술사들은 우리의 행동에서 발견한 통계학적 관련성을 이용하여 우리를 겨냥하는 것임을 알 수 있다.

- 실은 알고리즘이 영리한 것이 아니다. 영리함은 데이터 연금술사들에게서 나온다. 그들은 데이터를 고객에 대한 자기네의 지식과 결합한다. ... 데이터 전문가들과의 대화를 통하여 나는 사람들을 분류하는 알고리즘은 아직 갈 길이 멀다는 사실을 알 수 있었다. 경험에 바탕을 두고 말하자면, 우리의 행동에 대한 알고리즘의 예측은 타인의 예측만큼 정확한 수준에 전혀 미치지 못한다. 알고리즘의 한계를 잘 아는 사람이 사용할 때, 알고리즘은 최고의 성능을 낸다.

Session 2. 우리에게 영향을 미치는 알고리즘

Chapter 08. 네이트 실버와 우리의 대결

- 우리가 이미 보았듯이, 알고리즘들은 이분법적 결과가 아니라 확률을 중심으로 작동한다. 선거 예측도 예외가 아니다. ... 이렇게 여론조사를 기초로 작동하는 모형을 제작하는 사람들이 직면하는 문제 하나는, 우리 인간들이 모형의 확률적 예측을 늘 이분법적 결과로 변환하여 이해한다는 점이다. 이를테면 '예' 또는 '아니요', '브렉시트 찬성' 또는 '브렉시트 반대' 등으로 말이다. 우리의 게으른 정신은 확실성을 좋아한다.

- 학문적 연구에서 드러났듯이 일반적으로 여론조사는 예측 시장보다 덜 정확하다. 결론적으로 파이브서티에이트는 자산의 예측들을 개선할 길을 찾아내야 한다. 그 개선을 위한 엄밀한 통계학적 방법은 존재하지 않는다. 그 개선은 선거에서 어떤 요소들이 더 중요할 개연성이 높은가를 이해하는 모형 제작자 개인의 솜씨에 훨신 더 많이 의존한다. 이것이 데이터 연금술이다. 여론조사에서 나온 통계 데이터를 선거전에서 벌어지고 있는 일에 대한 직관과 결합하는 연금술.

당신이 모형 제작에 관한 복잡한 사항들에 관심이 있다면, 나는 파이브서티에이트의 웹페이지를 강력 추천하겠다. 만일 다음 선거의 예측값만 훑어볼 생각이라면, 당신은 시간을 낭비하는 것이다. 차라리 도박업자들이 정한 배당률을 살펴보라.

Chapter 09. 추천 알고리즘과 '좋아요 추가' 모형

- 우리는 컴퓨터나 스마트폰을 켜는 순간부터 알고리즘과 상호 작용한다. 이 모든 알고리즘들의 기반은, 타인들의 추천과 결정을 따름으로써 우리가 무언가 유익한 것을 배울 수 있다는 생각이다. 이 생각은 정말 옳을까? 우리가 온라인에서 상호작용하는 알고리즘들은 과연 우리에게 가장 좋은 정보를 제공할까?

Chapter 10. 인기 경쟁

- '좋아요 추가' 를 받을 수 있는 후보들이 아주 많은 상황에서는 인기는 흔히 멱 법칙 power law 이라는 수학적 관계식을 따른다. 우리에게 가장 익숙한 그래프틑 좌표들이 선형으로 증가하는 그래프 즉 1, 2, 3, 4 ... 나 10%, 20%, 30%, 40% ... 의 좌표가 똑같은 간격으로 매겨져 있는 그래프다. ... 멱 법칙이 보여주는 것은 엄청난 불평등이다. 아무도 읽지 않는 실패작들은 많고, 매우 성공적인 논문은 매우 드물다. 유튜버들의 인기에서도 똑같은 관계가 성립한다.

- 불평등은 사회가 직면한 가장 큰 난관 중 하나이며 우리의 온라인 생활에 의해 심화된다. '좋아요' 와 '공유' 의 형태를 띤 사회적 자본이 축적되면, 그 결과로 금전적 자본이 축적된다. 그리고 피드백이 지속된다. ... '좋아요 추가' 알고리즘은 당신의 삶 속 어딘가에서 틀림없이 작동하고 있다. 하지만 당신은 '좋아요 추가' 알고리즘이 모든 결정권을 행사하게 하지는 말아야 한다. 우리의 인간적 진정성은 우리가 가진 가장 중요한 것들 중 하나다.

Chapter 11. 필터버블

- 2017년 나는 지난해의 정치를 다룬 수많은 기사들을 이해하려 애쓰고 있었다. 눈에 띄는 설명 하나는 알고리즘이 여론을 망쳐놓았다는 것이었다. 많은 매체들이 알고리즘 때문에 발생하는 고립과 양극화에 관한 이야기를 난해한 수학 용어를 동원해가며 늘어놓았다.

- 소셜미디어는 알고리즘에 의해 창출된 버블들로 가득 차 있었고, 정말로 터무니 없는 몇몇 음모론들이 그 버블들 안에서 떠돌고 있었다. 그러나 우리 대다수는 버블에서 탈출할 수 있는 것으로 보였다. 무엇이 우리가 버블 안에 갇히는 것을 막을까? 이론적으로 페이스북의 '필터' 알고리즘이 우리를 특정 관점 안에 가둘 수 있다면, 실제로 우리는 어떻게 그 관점에서 탈출하는 것일까? 우리는 소셜미디어를 사용하면서 오랜 시간을 보내는데, 왜 우리의 감정은 대체로 소셜미디어의 영향을 받지 않을까? 이 질문들에 답하는 유일한 길은 나 자신의 온라인 버블 안으로 들어가서 과연 내가 탈출구를 발견할 수 있는지 알아보는 것뿐이었다. 물론 아주 흔쾌한 일은 아니었다.

Chapter 12. 축구는 중요하다

- 나처럼 신문들을 팔로우하고 시사 현안을 챙기는 사람들에게 트위터와 페이스북은 그리 강력한 방향실이 아니다. 비록 약간의 진보적 편향이 있기는 하지만, 이 소셜미디어 사이트들은 다양한 정보가 확산되고 공유되는데 기여한다. 전반적으로 우리는 수많은 견해들을 접한다. 그중 일부는 우리가 좋아하는 것이고, 다른 일부는 우리가 싫어하는 것이다. 하지만 그 모든 견해들이 우리가 사는 세계에 관한 정보를 제공한다. 우리의 폭넓은 사회적 연결들이 우리를 필터버블 안에 갇히지 않게 해준다.

Chapter 13. 누가 가짜뉴스를 읽을까?

- 만델라 효과 Mandela effect : 사람들이 진실이 아닌 무언가를 진실이라고 생각하는 현상

- 가짜뉴스는 성장하는 산업이다. 가짜뉴스란 단지 정치적으로 편향된 뉴스가 아니라 명백히 거짓인 뉴스다. 가짜뉴스가 존재하는가 여부는 문제가 아니다. 가짜뉴스는 거의 의심의 여지 없이 존재한다. 문제는 가짜뉴스가 우리의 정치적 견해에 얼마나 큰 영향을 미치는가 하는 것이다. 우리는 탈진실 세계에서 살고 있을까?

- 현재 구글, 페이스북, 트위터가 사용하는 알고리즘들의 가장 큰 한계는 우리가 주고받는 정보의 의미를 제대로 이해하지 못한다는 점이다. ... 결국 회사들은 우리의 게시물을 감시하면서 게시물의 참된 의미에 대한 이해에 기초하여 그것들을 공유하는 것이 적절한지 또 누구에게 전달해야 할지를 자동으로 판단할 수 있는 알고리즘을 보유하기를 원할 것이다.

Session 3. 우리처럼 되는 알고리즘

Chapter 14. 성차별주의 학습

- 우리의 직장을 살펴보면 다양한 인종집단과 남녀 사이에 상당한 불평등이 존재한다. 그 불평등의 부분적인 원인은 우리의 평가가 편파적인 것에 있다. 우리는 우리와 가치관을 공유한 사람들을 선호하는 경향이 있고, 그런 사람들은 우리와 유사한 특징들을 지닌 경향이 있다. 경영자는 인종과 성별이 자신과 같은 직원을 우호적으로 평가할 개연성 이 더 높다. ... 우리는 흔히 우리 자신의 편견을 알아채지 못한다. 그래서 심리학자들은 우리의 무의식적 생각을 들춰내는 교묘한 방법들을 개발했다. '암묵적 연상 검사 implicit association test'

- 글로브를 분석하고 조앤나 브라이슨과 동료들의 논문을 읽음으로써 나는 단어 유추 알고리즘들이 여전히 우리의 통제 아래 놓여 있다는 사실을 알게 되었다. 그 알고리즘들이 우리의 데이터만 보고 자율적으로 학습했을지라도, 우리가 그것들의 내부에서 일어나는 일을 알아내고 그것들이 생산하는 결과를 바꿀 수 있다는 사실이 밝혀졌다. 나의 뇌 속 연결들과 달리 - 그 연결들에서는 단어에 대한 나의 암묵적 반응이 나의 유년기, 성장환경, 직업 경험 등과 얽혀 있다 - 알고리즘의 성차별주의를 유발하는 연결들은 풀어헤치고 수정할 수 있다. 그러므로 알고리즘이 성차별주의적이라고 말하는 것은 부적절하다. 오히려 알고리즘들을 분석하는 작업은 우리 자신의 암묵적 성차별주의를 더 잘 이해하게 해준다. 그 작업은 우리 문화 안에서 정형화가 얼마나 뿌리 깊게 작동하는지 드러낸다.

Chapter 15. 숫자들에 깃든 유일한 생각

- 상향식 봇들은 아직 서비스에 투입될 수준에 이르지 못했다. 사용자들에게 무의미한 정보를 요구하기도 하고 대화를 쳇바퀴 돌리기로 만들기도 한다. 신경망이 약간의 개성을 지닐 수도 있겠지만, 우리 대다수는 온라인 상태에서 구체적인 질문들에 관한 직접적인 도움을 원한다. 우리가 정보를 원할 때 가장 유효한 것은 선택형 질문과 정형화된 하향식 대답이다.

- 순환 신경망의 내부를 더 깊이 들여다보면, 순환 신경망의 한계의 배후에 놓인 이유들도 알 수 있다. 순환 신경망의 이해에 한계가 있는 이유는, 그 신경망이 한 번에 약 25개의 단어들만 받아들일 수 있기 때문이다. 우리가 더 많은 단어들을 입력하여 신경망을 훈련시키려 하면, 신경망의 개념적 이해는 부서지기 시작한다. 신경망은 단 한문장으로 설명할 수 있는 개념은 보유하고 전달할 수 있어도, 두 문장 이상을 사용해야만 설명할 수 있는 개념은 보유하고 전달할 수 없다.

Chapter 16. <스페이스 인베이더> 에서 너를 확실히 밟아주겠어

- 해법에서 중요한 부분 하나는 '곱말기 (합성곱) convolution' 라는 수학적 기법의 사용이었다. 영어에서는 convoluted (대단히 난해한 설명) 이라는 표현에서 쓰인다. 이 표현은 길고 상세하지만 이해하기 어려운 설명을 뜻한다. 그러나 신경망 용어로서의 '곱말기' 에서 두루마리처럼 말리는 것은 게임의 장면이다. <스페이스 인베이더>를 할 때 신경망이 받는 압력은 아타리 2600의 210 X 160 픽셀 스크린 장면이다. 원래 장면은 신경망의 첫째 숨은 층에서 일련의 작은 그림들로 분산되어 숨은 뉴런들에 입력된다. 그 결과로 나오는 이미지들에 이 과정이 (둘째 숨은 층과 셋째 숨은 층에서) 거듭 적용되고, 그 결과로 더 깊게 숨은 뉴런들에서 더 작은 이미지들이 산출된다.

- 온갖 과장과 호들갑에도 불구하고 내가 원하는 답의 큰 부분은 벌써 구글의 검색에서 발견된다. 곱말기 신경망은 <미즈 팩맨> 의 참을성을 필요로 하는 측면들을 전혀 다루지 못한다. 그 알고리즘은 오직 자기 앞에 직접 놓인 것에만 반응할 수 있다. 예컨대 사격 대상인 외계인들, 때려야 할 권투선수, 뛰어올라야 할 정육면체들에만 반응할 수 있다. 곱말기 신경망은 계획할 줄 모른다. 아주 가까운 미래조차도 계획할 수 없다. 그 알고리즘은 계획이 약간이라도 필요한 모든 아타리 게임에서 초라한 성적을 낸다.

Chapter 17. 박테리아 뇌

- 다수는 자기네가 우리를 이른바 특이점으로 점점 더 가까이 데려가는 중이라고 믿는다. 이때 특이점이란 컴퓨터가 우리만큼 영리해지는 시점을 말한다. 특이점 가설에 따르면, 이 특이점이 도래하면, 바꿔 말해 컴퓨터가 다른 지적인 기계를 설계하고 자기 자신을 체계적으로 개량할 수 있게 되면, 우리의 사회는 극적이며 영구적으로 변화할 것이다. 심지어 기계들이 우리를 불필요한 잉여로 간주하게 될지도 모른다.

- 지금 범용 인공지능에 대비해야 한다는 과도한 주장에 맞선 나의 반론은, 그 위험은 우리가 모르는 미래의 온갖 위험들 중 하나에 불과하다는 것이다. 우리는 여전히 지구온난화로 고심하고 있다. 우리는 선전포고 후 몇 시간 내에 핵전쟁이 시작될 수 있는 시대에 산다. 100년 앞을 내다본다면, 지구가 큰 유성과 충돌하거나 대규모 태양 폭발의 피해를 입는 것, 초대형 화산 분출로 몇 년 동안 하늘이 어두워지는 것, 심각한 빙하기가 도래하는 것은 현실적인 가능성이다. 이것들은 모두 우리가 알뿐더러 대비할 필요가 있는 위험이다.

- 우리가 이 책에서 살펴본 알고리즘들을 이용하여 경이로운 상품과 서비스를 개발할 가능성은 열려 있다. 그 알고리즘들은 계속해서 우리의 가정과 일터, 여행 방식을 변화시킬 테지만 범용 인공지능으로부터 멀리 떨어져 있다. 기술은 우리의 토스터, 가정용 음향기기, 사무실, 자동차에 일종의 박테리아 지능을 제공하고 있다. 그 알고리즘들은 우리가 해야 하는 하찮은 일들을 줄여줄 잠재력을 지녔지만 인간과 유사한 행동은 하지 못할 것이다.

Chapter 18. 다시 현실로

- 알고리즘을 이해하면 미래의 시나리오들을 조금 더 잘 이해할 수 있다. 오늘날 알고리즘이 어떻게 작동하는지 알면, 어떤 시나리오가 현실적이고 어떤 시나리오가 비현실적인지 판단하기가 더 쉬워진다. 내가 알고리즘을 연구하면서 발견한 가장 큰 위험은, 우리가 알고리즘의 영향력을 합리적으로 평가하지 못할 때, 우리가 과학 허구 시나리오들에 휘둘릴 때 들이닥친다.

우리 문화는 문제들을 해결하기 위하여 다양한 형태의 수학적 '인공' 지능을 수천 년에 걸쳐 생산해왔다. 고대 바빌로니아와 이집트의 기하학에서부터, 뉴턴과 라이프니츠의 미적분학 개발을 거치고, 계산을 더 빨리 할 수 있게 해주는 휴대용 계산기를 거쳐, 현대적인 컴퓨터, 연결 사회 connected society, 오늘날의 알고리즘 세계에 이르기까지 말이다. 우리는 수학적 모형들의 도움으로 점점 더 똑똑해지고 있고, 모형들은 우리가 발전시키기 때문에 더 좋아지고 있다. 알고리즘은 우리의 문화유산이다. 우리는 알고리즘의 일부고, 알고리즘은 우리의 일부다.

데이비트 섬프터는 이 책을 통해 우리가 상호교감하고 매일마다 사용하는 인터넷을 이용한 우리 주변에 적용되는 알고리즘들을 샅샅이 훑어보며, 그 힘의 정체를 밝히고자 애써왔다. 이미 알고리즘을 이용한 연산과 대량의 데이터를 처리하는 방법에 대한 우수성은 증명이 되어왔다. 하지만 그 알고리즘 또한 우리 인간들이 만들었고, 알고리즘의 논리는 우리의 현실을 대변하기에 우리 현실의 모순 또한 내포되어 있음을 짚으며, 그 자체가 인간을 대체할 수 없음을 경고한다. 반면에 알고리즘 자체는 인간의 역사상 지금까지 만들어온 문화를 대표하는 유용한 도구이며, 전적으로 의지하지 않는다면 옆에서 생활을 풍요롭게 만드는 훌륭한 조력자가 될 수 있음을 동시에 이야기한다. 인공지능과 우리의 미래 산업에 관심 많은 분들에게 권유할 수 있는 깊이있는 훌륭한 사회과학 책을 만난것 같아 기분이 좋다.