[해나무서포터즈] 알고리즘이 지배한다는 착각 (데이비드 섬프터, 해나무)

알고리즘이 지배한다는 착각 - 수학으로 밝혀낸 빅데이터의 진실
데이비드 섬프터 지음, 전대호 옮김 / 해나무 / 2022년 2월

#알고리즘이지배한다는착각 #데이비드섬프터 #해나무 #해나무서포터즈 #과학텔러서평단 #과학도서 #책추천

■ 알고리즘의 사용이 우리가 사랑하는 대상들의 해부와 우리의 개인적 진정성의 상실을 의미한다면, 우리는 정말로 세계를 더 잘 이해하고 싶을까? 우리가 개발하는 알고리즘들은 사회가 원하는 일을 하고 있을까, 아니면 단지 소수의 괴짜들과 다국적 회사들의 이익에 기여할 따름일까? 우리가 점점 더 나은 인공지능을 개발하면, 알고리즘들이 지배권을 쥐기 시작할 위험도 있을까? 수학이 우리를 대신해서 결정을 내리기 시작할까?

자. 이 문제에 대한 대답을 해볼까요?

■ 현실 세계는 현실적인 문제들을 지녔고, 우리의 임무는 현실적인 해답들을 찾아내는 것입니다. 어떤 문제든지 단지 계산만으로는 해결할 수 없는 엄청난 복잡성을 지녔죠.

브렉시트와 트럼프에 관한 통계 모형들이 둘 다 틀린 것으로 판명되면서 수학자들의 예측 능력마저도 의문시되었습니다. 우리도 대선 전 마지막으로 했던 여론조사와 대선 득표율의 차이를 보아 알고 있습니다.

예측대상이 범죄 위험이 높은 인물인지 여부라면 알고리즘의 분석 결과가 미치는 악영향은 더 구체적으로 다가올 것입니다. 미국 사법 시스템이 널리 사용하는 알고리즘 중 하나가 아프리카계 미국인에게 적대적인 편향을 지녔음을 비영리 탐사보도매체 '프로퍼블리카'의 일원이 밝혀낸 바 있죠.

이런 유형의 차별은 사법 시스템에 국한되지 않습니다. 알고리즘을 분석하는 활동가들이 자발적으로 연구하고 제공하는 결과들을 눈여겨 볼 필요성이 있을 것 같습니다.

요즘 들어 유행하고 있는 MBTI를 통해 우리는 우리도 몰랐던 자신의 행동을 분석하기까지 합니다. 구글과 페이스북이 분석할 수 있는 자료는 그보다 훨씬 더 많겠죠. 페이스북이 수십억 개의 게시물로 무엇을 할 수 있을지 상상하면 무서워집니다.

여론조사에서의 활용. 재범가능성 판단. 직업에 대한 관심도를 이유로 한 광고 노출 및 차단. 차단되는 것이 일자리에 대한 것이라면 누군가는 구인 사실 자체를 알지 못하고 지나갈 수 있다는 것. 즉, 공정성 문제가 야기됩니다. 알고리즘에만 의존할 수 없는 이유.

이 책에서는 공정성에 대해 다음과 같이 언급합니다. "우리가 사는 세계가 가능한 모든 면에서 공정하지 않다면, 우리는 알고리즘이 완벽하게 공정하기를 바랄 수 없다. 공정성의 공식은 존재하지 않는다. 공정성은 인간적인 무언가. 우리가 느끼는 무언가다."

그리고 덧붙입니다. "우리는 최선을 다할 수는 있지만, 우리가 옳은 행동을 하는지 여부를 정말로 확실히 알 길은 결코 없다."

사람에 의한 영향을 받지 않은 것은 불가능합니다. 

"실은 알고리즘이 영리한 것이 아니다. 영리함은 데이터 연금술사들에게서 나온다. 그들은 데이터를 고객에 대한 자기네의 지식과 결합한다."

알고리즘에 대한 편견이 있었는데 이 책을 읽다보니 깨어지네요. 

"우리의 행동을 분석하는 능력에 관한 한, 우리가 이제껏 살펴본 알고리즘들은 기껐해야 인간들과 대등하다."

■ 이 책을 읽으면서 꼭 읽고 싶은? 알고 싶은 내용의 책이 생겼습니다. 바로 대선 당일 방송 3사의 출구조사 예측에 관한 책. 

출간만 된다면 아마도 많이 팔리지 않을까? 사전투표 보정 그리고 당일 출구조사 합산. 알고리즘에 의한 예측이었을까 표본을 놓고 사람이 판단한 결과였을까? 

이 점은 방송 3사와 JTBC에서 내놓은 출구조사의 결과가 달라진 이유를 분석하는 것으로 차이를 판단하면 좋을 듯 합니다.

■ 책을 읽으면서 소름이 돋는 경험을 했어요. 

바로 2부의 마지막 문단 중 "모든 회사들은 우리의 말을 이해하는 알고리즘을 개발하는 중이다. 목표는 인간 관리자에 대한 의존을 줄이는 것이다. 이를 위해 구글, 마이크로소프트, 페이스북은 미래의 알고리즘이 우리와 더 비슷해지기를 바란다."는 부분.

인간과 비슷해지는 알고리즘.

지금은 정책 결정자들이 데이터를 익숙하게 다루고 스스로 해법을 찾아내기를 원하는 수준. 적어도 지금은 알고리즘이 우리를 통제하는 것이 아니라 우리가 알고리즘을 통제하고 있다지만 인공지능과 결합했을 땐 어떤 일이 벌어질까요? 아직 괜챃다고 하는데 살 날이 많이 남아서인지 그게 더 무서움;;

이 책의 장르는 분명 과학도서인데, 왜인지  자꾸만 공상과학소설 쪽으로 상상의 나래를. 

그만큼 흥미로운 책이라는 뜻으로 선해해주면 좋을 듯!

※ 이 글은 출판사로부터 책을 제공받아 읽은 후 주관적인 의견이나 느낌을 적었습니다.