[해나무서포터즈] 알고리즘이 지배한다는 착각 (데이비드 섬프터, 해나무)

알고리즘이 지배한다는 착각 - 수학으로 밝혀낸 빅데이터의 진실
데이비드 섬프터 지음, 전대호 옮김 / 해나무 / 2022년 2월

#알고리즘이지배한다는착각 #데이비드섬프터 #해나무 #해나무서포터즈 #과학텔러서평단 #과학도서 #책추천

■ 알고리즘의 사용이 우리가 사랑하는 대상들의 해부와 우리의 개인적 진정성의 상실을 의미한다면, 우리는 정말로 세계를 더 잘 이해하고 싶을까? 우리가 개발하는 알고리즘들은 사회가 원하는 일을 하고 있을까, 아니면 단지 소수의 괴짜들과 다국적 회사들의 이익에 기여할 따름일까? 우리가 점점 더 나은 인공지능을 개발하면, 알고리즘들이 지배권을 쥐기 시작할 위험도 있을까? 수학이 우리를 대신해서 결정을 내리기 시작할까?

자. 이 문제에 대한 대답을 해볼까요?

■ 현실 세계는 현실적인 문제들을 지녔고, 우리의 임무는 현실적인 해답들을 찾아내는 것입니다. 어떤 문제든지 단지 계산만으로는 해결할 수 없는 엄청난 복잡성을 지녔죠.

브렉시트와 트럼프에 관한 통계 모형들이 둘 다 틀린 것으로 판명되면서 수학자들의 예측 능력마저도 의문시되었습니다. 우리도 대선 전 마지막으로 했던 여론조사와 대선 득표율의 차이를 보아 알고 있습니다.

예측대상이 범죄 위험이 높은 인물인지 여부라면 알고리즘의 분석 결과가 미치는 악영향은 더 구체적으로 다가올 것입니다. 미국 사법 시스템이 널리 사용하는 알고리즘 중 하나가 아프리카계 미국인에게 적대적인 편향을 지녔음을 비영리 탐사보도매체 '프로퍼블리카'의 일원이 밝혀낸 바 있죠.

이런 유형의 차별은 사법 시스템에 국한되지 않습니다. 알고리즘을 분석하는 활동가들이 자발적으로 연구하고 제공하는 결과들을 눈여겨 볼 필요성이 있을 것 같습니다.

요즘 들어 유행하고 있는 MBTI를 통해 우리는 우리도 몰랐던 자신의 행동을 분석하기까지 합니다. 구글과 페이스북이 분석할 수 있는 자료는 그보다 훨씬 더 많겠죠. 페이스북이 수십억 개의 게시물로 무엇을 할 수 있을지 상상하면 무서워집니다.

여론조사에서의 활용. 재범가능성 판단. 직업에 대한 관심도를 이유로 한 광고 노출 및 차단. 차단되는 것이 일자리에 대한 것이라면 누군가는 구인 사실 자체를 알지 못하고 지나갈 수 있다는 것. 즉, 공정성 문제가 야기됩니다. 알고리즘에만 의존할 수 없는 이유.

이 책에서는 공정성에 대해 다음과 같이 언급합니다. "우리가 사는 세계가 가능한 모든 면에서 공정하지 않다면, 우리는 알고리즘이 완벽하게 공정하기를 바랄 수 없다. 공정성의 공식은 존재하지 않는다. 공정성은 인간적인 무언가. 우리가 느끼는 무언가다."

그리고 덧붙입니다. "우리는 최선을 다할 수는 있지만, 우리가 옳은 행동을 하는지 여부를 정말로 확실히 알 길은 결코 없다."

사람에 의한 영향을 받지 않은 것은 불가능합니다. 

"실은 알고리즘이 영리한 것이 아니다. 영리함은 데이터 연금술사들에게서 나온다. 그들은 데이터를 고객에 대한 자기네의 지식과 결합한다."

알고리즘에 대한 편견이 있었는데 이 책을 읽다보니 깨어지네요. 

"우리의 행동을 분석하는 능력에 관한 한, 우리가 이제껏 살펴본 알고리즘들은 기껐해야 인간들과 대등하다."

■ 이 책을 읽으면서 꼭 읽고 싶은? 알고 싶은 내용의 책이 생겼습니다. 바로 대선 당일 방송 3사의 출구조사 예측에 관한 책. 

출간만 된다면 아마도 많이 팔리지 않을까? 사전투표 보정 그리고 당일 출구조사 합산. 알고리즘에 의한 예측이었을까 표본을 놓고 사람이 판단한 결과였을까? 

이 점은 방송 3사와 JTBC에서 내놓은 출구조사의 결과가 달라진 이유를 분석하는 것으로 차이를 판단하면 좋을 듯 합니다.

■ 책을 읽으면서 소름이 돋는 경험을 했어요. 

바로 2부의 마지막 문단 중 "모든 회사들은 우리의 말을 이해하는 알고리즘을 개발하는 중이다. 목표는 인간 관리자에 대한 의존을 줄이는 것이다. 이를 위해 구글, 마이크로소프트, 페이스북은 미래의 알고리즘이 우리와 더 비슷해지기를 바란다."는 부분.

인간과 비슷해지는 알고리즘.

지금은 정책 결정자들이 데이터를 익숙하게 다루고 스스로 해법을 찾아내기를 원하는 수준. 적어도 지금은 알고리즘이 우리를 통제하는 것이 아니라 우리가 알고리즘을 통제하고 있다지만 인공지능과 결합했을 땐 어떤 일이 벌어질까요? 아직 괜챃다고 하는데 살 날이 많이 남아서인지 그게 더 무서움;;

이 책의 장르는 분명 과학도서인데, 왜인지  자꾸만 공상과학소설 쪽으로 상상의 나래를. 

그만큼 흥미로운 책이라는 뜻으로 선해해주면 좋을 듯!

※ 이 글은 출판사로부터 책을 제공받아 읽은 후 주관적인 의견이나 느낌을 적었습니다.

스타일리쉬한 범죄소설 - 그랜드 캉티뉴쓰 호텔 (리보칭, 비채)

그랜드 캉티뉴쓰 호텔
리보칭 지음, 허유영 옮김 / 비채 / 2022년 3월

여기 눈물 없이는 볼 수 없는 치정 살인극이 있다. 아니, 이건 탐정물인가? 아님 케이퍼 무비? 추리극???

여러 개의 장르가 혼합되어 있어 읽는 재미가 있는 이 소설.

타이완 소설은 처음 접했는데, 번역이 잘 되어서인지 구강액션이 살아있다.

음. 분명 영화로 만들어질 것 같은 예감이!

연출은 <범죄의 재구성>, <타짜>를 찍을 때의 최동훈 감독님. <도둑들>과 유사하지만 이 때는 너무 때깔이 좋아서;; 탈락!!

각본은 <스무살>의 이병헌 감독님. <극한 직업>에서는 너무 노골적이라;; 제외!!

살아 있는 캐릭터의 향연.

혹자는 인텔 선생의 정체가 의외였다고 언급하지만, 왕쥔잉(AKA 인텔 선생, 마이관제) 검사의 순간적인 판단력과 사건장악력이 손꼽히는 인물이라 생각한다. 그가 운동을 그만 두지 않았다면 사건의 양상이 달라졌을 듯.

그리고 뤄밍싱. 이 분은 조진웅 배우가 작정하고 연기하면 어떨까. 몸이 불어서 둔해졌으나 두뇌회전이 빠른 뇌섹남. 후배 경찰에게 퇴물 취급당하는 것이 억울할 법도 한데 온갖 수모를 겪어가면서도 사건의 진상에 가장 가까이 다가가는 전직 경찰.

푸얼타이 선생. 조류학자인데 탐정 겸업. 왕쥔잉 검사가 알박기 하듯 수사에 끼워넣은 인물인데, 체스 판의 말 마냥 타인의 의사대로 움직여 줄 의사는 없더란 말이지. 그의 출중한 능력 자체가 변수였음이 밝혀진다.

그리고 의외로 허당인 줄 알았던 차이궈안 형사. 확증편향에 빠져 뤄밍싱을 범인으로 몰고 가는 줄 알았는데, 계산에 선 행동이었단 말이지. 알고보니... 김선아 배우 주연 영화 <잠복근무>에 출연했던 슬림하고 날카로운 인상의 '하정우' 배우가 한다면 어울리지 않을까.

피해자이자 사건의 최초 설계자인 바이웨이둬 사장. 선과 악이 공존하는 그의 눈빛. 청년인 듯 선량해보이는 반면 음흉스런 눈빛이 언뜻 스치는 그의 모습이 궁금해진다.

여장부 캐릭터들의 향연. 강단있는 여성 캐릭터들의 등장.

바이웨이더의 외도를 알면서도 그와의 이별은 원치 않았던 그랜드 캉티뉴쓰 호텔 총지배인 란니, 목숨을 건 추격전 중에도 뤄밍싱에게 사건의 단서가 될 유품을 남긴 샤오쉐리, 사건의 퍼즐을 맞춰나가는 뤄밍싱의 전처이자 변호사인 거레이, 바이웨이터의 외도 상대 장커커.

밀실의 역할을 했던 산책로 설정, 그리고 저격 장소가 된 절벽. 그랜드 캉티뉴스 호텔의 탄생에 얽힌 원한 관계. 그리고 한 사람만 알아주길 원했던 한 남자의 순정. 결혼식 피로연을 마친 다음날 벌어진 총격전, 신부의 아버지가 오랫동안 숨겨왔던 신분 등등

그랜드 캉티뉴쓰 호텔에 벌어진 사건과 그 전말에 대하여!!

이거 영상화하면 대박난다!! 잘 읽었습니다.

※ 이 글은 비채 출판사로부터 책을 제공받아 읽은 후 주관적인 느낌이나 의견을 적었습니다.

현대판 노아의 방주 - 시드볼트(이상용 등 저, 시월)

시드볼트 - 지구의 재앙을 대비하는 공간과 사람들
시드볼트운영센터.산림생물자원보전실 생물자원조사팀.야생식물종자연구실 지음 / 시월 / 2022년 3월

시드볼트!!? 저는 이 책을 통해 처음 알게 되었어요.

시드볼트는 씨앗을 뜻하는 Seed와 금고를 뜻하는 Vault를 더한 단어로 종자를 저장하는 일종의 '금고'라고 합니다.

자생력을 잃어가는 식물이나 기후 변화, 전쟁, 핵폭발 등 지구 차원의 대재앙에 대비해 야생식물의 멸종을 막기 위한 목적으로 지어져서 '현대판 노아의 방주'라고도 불린다고 합니다. '노아의 방주'!라니. 와닿는 비유네요.

국립백두대간수목원 내에 전 세계에 단 두 곳 밖에 없는 시드볼트가 자리하고 있다는 사실. 알고 계셨나요?

우리나라 국립백두대간수목원 내에 한 곳. 노르웨이의 스발바르 글로벌 스트볼트가 나머지 한 곳.

오지 않았으면 하는 그 날을 대비하기 위해 여러 관계자들이 야생식물 종자를 수집하고, 연구하고, 기록하고, 데이터를 만들고, 확인하고 입고하는 과정을 거치면서 표나지 않는 일을 하고 있습니다.

이 책이 나오기까지 걸린 시간. 대략 300일.

국가보안시설, 지하 수십 미터 깊이, 3중 철판구조 건물, 영하 20도의 환경. 13만 7천여점의 야생식물 종자.

그리고 그 안에서 근무하는 사람들.

기후 변화에 대한 대비. 우리 시야에는 보이지 않는 곳에서 이미 이루어지고 있었네요.

기온 상승으로 인한 급격한 변화 중 하나는 빠른 속도로 멸종되어 가는 식물입니다. 복잡하게 연결되어 있는 생태계. 가장 기본이 되는 아래쪽엔 식물이 있고, 식물이 사라지면 동물 역시 생존할 수 없고 결국엔 생태계 자체의 파괴를 불러옵니다.

수목원은 식물 보존을 위한 연구, 사람과의 연관성 규명과 활용방안 연구, 인간에게 미칠 수 있는 연구를 수행합니다.

조사팀은 보통 월요일에는 행정업무로 내근, 화요일부터 금요일까지는 수집을 위해 산행을 한다고 하네요. 산행은 짧게는 당일치기, 길게는 일주일 넘게. 안전상 문제로 팀으로 이동. 와, 이건 군대있을 때 사전답사 후 훈련 진행했던 기억이 떠오르네요.

보통은 봄여름에 다니면서 띠를 묶어 놓은 식물들 추적, 관찰. 11월 막바지 작업.

이렇게 1년이 지나갑니다.

연구실에서는 실험 결과를 각 부서와 공유, 시트뱅크, 시드볼트 혹은 중복행을 정하는데, 중복보존이 일반적이라고 하네요.

많은 사람들이 보이지 않는 곳에서 수고를 하고 있는 이유. 특히 야생식물이 중요한 이유가 뭘까요?

재배식물의 시작점이기 때문입니다. 처음부터 재배식물인 것은 아니니까요.

중요성에 대해 공감하는 사람들이 점점 늘어나서 이제는 이 분야를 전공하는 교수들은 물론이고 학생들도 종자 연구라는 분야에 관심을 갖고 공부하고 있어요.

시간과 자료가 쌓이면 쌓일수록 더 많은 것을 이루어 낼 것입니다. 이것은 희망이고, 염원이자, 동시에 확신입니다.

(너무 멋진 말이네요. 늘 그렇듯 우리는 해답을 찾아낼 것입니다!)

자. 시드볼트에서 종사하시는 분들은 나름의 임무를 수행 중에 있습니다. 우리는 기후 변화를 위해 어떤 일을 할 수 있을까요? 어찌되었든 대선국면을 통해 기후변화에 대한 이슈가 부각되었습니다. 제 인친 분 중에는 일찌기 환경에 대해 고민하고 실생활 속에서 실천하고 계시는 분도 계세요. 전문적인 분야가 아니더라도 생활 속에서 실천해보기! 이 책이 우리에게 건내는 주제인 것 같아요.

※ 이 글은 출판사 시월로부터 제공받아 읽은 후 주관적인 의견이나 느낌을 적었습니다.

피해자를 피해자라 부르지 못했던 날들에 대한 고백 - 나는 피해호소인이 아닙니다(김잔디)

나는 피해호소인이 아닙니다 - 박원순 성폭력 사건 피해자가 살아낸, 끝날 수 없는 생존의 기록
김잔디 지음 / 천년의상상 / 2022년 1월

피해호소인.

전에 들어보지 못했던 용어. 단언컨대 '피해호소인'이라는 단어는 인권을 10년 정도는 후퇴시켰다.

이 현상을 어떻게 보아야 할까. 적어도 호칭에 대한 문제가 논란이 될 줄은 몰랐었다.

제3자가 이럴진대, 당사자는 어떤 심정이었을까.

피해자가 "도와달라"며 지르는 비명은 어느순간 음소거가 되었다.

그렇게 될 줄 알았다. 훗날 역사적인 사건으로 평가받는 대부분의 사건들의 시작이 이와 같다.

"가해자의 죽음". 사람들의 관심이 커져갔다.

그를 추모하는 사람들은 혹시 알까? 피해자 역시 그의 죽음이 믿기지 않아했다는 것을. 그의 죽음을 추모하는 글을 남겼다는 것을.

피해자가 여성단체를 찾아갔을 때, 피해사실을 들었던 관계자들은 분노했다. 대한민국은 서지현 검사의 미투 이후 변화의 바람이 불고 있었다. 안 전 지사에게 김지은씨가 분노했던 것과 같은 지점. 미투 이후 내가 너에게 잘못을 한 것 같다는 반성의 말을 했음에도 다시 범한 것. 잘못을 반성했어야 할 계기가 주어진 이후에도 같은 잘못을 반복했다는 것이다.

김잔디씨는 <김지은입니다>를 3개월에 걸쳐 읽었다고 한다. 한문장 한문장이 자신의 심정과 너무도 같아서, 미리 이 책을 읽었다면 본인의 선택이 달라졌을지 모른다는 후회가 밀려와서.

그렇다. 둘은 닮았다. 이 책에서 둘이 만나는 장면이 등장한다.

어느순간 진실은 중요하지 않아졌다. 아니 무시되었다. 그는 세상에 없으나 남은 이들은 여전히 그를 놓지 못했다.

권력. 그것이 뭐길래. 그가 생전에 가졌던 그것의 후광이나마 놓지 않으려 안간힘을 쓰는 쪽의 힘과 의지는 너무 강했다. <백래시>는 이럴 때 쓰는 말이 아니던가.

피해자가 선택한 가명(성범죄 사건의 경우 '가명'을 쓰는 것이 보편화되어 있다. 공소장, 판결문에도 '가명'이 기재된다. 김잔디는 피해자가 주변사람들에게 피해를 주지 않기 위해 드라마 속 인물의 이름을 선택한 것이라 한다. 그것도 나중에 알고보니 '김잔디'가 아니라 '금잔디'였다고 한다.)은 그가 오랜만에 본인의 의지로 선택한 것이란 점에 의미가 있다.

알고 있잖은가. 피해를 입기 전, 아니 피해를 당했음에도 그들이 업무에 충실하고자 했던 평소의 행동들이 사건 이후에 어떻게 재구성되었는지. 맡은 일에 성실하고자 했던 그들의 마음가짐이 어떻게 매도되었는지.

그녀들이 채워넣은 이력서의 경력들이 열심히 살아온 것으로 평가되는 것이 아니라 출세지향적 성격을 나타내는 것으로 둔갑되는 것을 이미 봐왔다. 충분히 알고 있다. 알고 있을 것이다. 그럼에도 왜?!!

오래 전에 JMS 관련된 시사고발 프로를 본 적이 있다. 모자이크 처리되어 뒷모습만 등장한 피해자가 변조된 음성으로 고백하는 그 말이 오래도록 뇌리에 남아 있다. "주님. 저는 주님을 믿어서 행복해야 하는데, 왜 저는 그럴 수 없을까요. 왜 제가 이렇게 버거울까요." 울면서 했던 뉘앙스의 말.

피해자들에게 일상의 회복이란 어떤 의미일까? 김잔디 씨는 밝은 성격이었던 것 같다. 그가 언론에 발표한 성명문을 봐도 알 수 있다. 상대에 대한 인간적인 존중을 놓지 않고 있는 글.

이 책을 읽어야 하는 이유는 같은 잘못을 반복하지 않기 위해서다.

그것은 누군가를 비난하는 것과 동일한 차원이 아니다. 그에 대한 추모는 이 책을 읽고나서야 비로서 가능하다고 생각된다.

끝으로 이 책을 내기까지 많은 날들을 지새웠을 김잔디님에게 "목소리 내줘서 고맙습니다. 이 책을 내주어서 고맙습니다. 살아있어줘서 고맙습니다." 라고 말해주고 싶다.

생각은 어떻게 행동이 되는가 (데이비드 바드르, 해나무)

생각은 어떻게 행동이 되는가 - 목표를 세우고 성취하는 인지조절의 뇌과학
데이비드 바드르 지음, 김한영 옮김 / 해나무 / 2022년 2월

#생각은어떻게행동이되는가 #데이비드바드르 #해나무 #과학텔러서평단 #서포터즈 #과학도서 #인지조절 #뇌과학 #책추천 

생각은 어떻게 행동이 되는가.

자. 여러분이 이 책의 제목을 접한 후 어떤 내용이 등장할 것이라 예상하는가?

생각이 먼저, 행동이 나중? 그 사이에 작동하는 단계?

주어진 상황이나 정보를 통해 결정하는 과정을 생각이라 부르고, 실제로 몸을 움직이는 것을 행동이라 부른다면 그 일련의 과정을 어떻게 추적할 것인가?

당신이 생각하는 내용에 플러스 알파가 없다면 이 책을 읽을 이유는 없을 것이다.

그러나 단언컨대, 당신이 생각하는 내용의 플러스 알파가 등장한다.

뇌는 계획을 세우고, 그 계획을 계속 추적하고, 여러 단계의 뇌 상태에 영향을 미쳐 우리의 목표를 정확한 행동과 일치시키는데, 이를 위해서는 정교하교 빼어난 신경 메커니즘이 필요하다. 과학자들은 이 매커니즘과 그 지원 아래서 이루어지는 과정들을 인지조절 또는 집행기능이라 부른다. 14쪽

그 인지조절에 대해 알아보자.

1. 인지조절은 앎이나 행동과 분리된 실재의 기능이며, 뇌의 자체 시스템으로 유지된다.

2. 인지조절 체계가 고장 나면 실질적인 손실이 발생한다. 어떤 일을 해내기가 어려워진다.

3. 안다는 것만으로는 적절한 행동을 하기에 부족하다. 행동 규칙에 대한 명확한 인식, 결과를 얻으려는 절박한 욕구가 있을지라도, 뇌는 그렇게 알고 있는 것을 실행할 방법을 알아야 한다.

4. 인지조절 덕분에 우리는 생산적으로 과제를 수행한다. 한 번도 해 본 적이 없고, 진화적으로 내장된 프로그램이 없는 과제들도 상상하고 실행할 수 있다.

5. 조절 덕분에 우리는 계획을 세우는 데 드는 비용을 상쇄할 수 있고, 더 정교한 계획을 효과적이고 능률적으로 실행할 수 있다.

6. 안정성과 유연성 사이에는 기본적인 맞거래가 있으며, 그에 따라 인지조절 체계는 안정적이어야 할 때인지 유연해야 할 때인지를 결정해야 하는 딜레마에 직면한다.

7. 행동 조절은 어떤 방식으로든 행동의 위계적 성격에 신경을 쓴다. 인간의 인지조절은 행동을 순간적으로 조직할 뿐 아니라, 긴 시간과 다양한 추상적 차원에 걸쳐 조직하는 일에도 숙련되어 있다.

8. 우리는 복잡한 환경에서 우리의 행동 조절을 체계화하기 위해 자연스럽게 위계적 규칙을 만들어낸다. 서로 경쟁할 가능성이 있는 사건, 규칙, 과제 들을 떨어뜨려놓기 때문이다. 또한 어려운 문제를 해결할 수 있는 규칙들을 효율적으로 저장하게 한다. 그리고 규칙 구조에 더 추상적인 고차의 맥락을 추가함으로써, 우리는 한 과제의 전체 구조를 바꾸지 않은 상태에서 더 낮은 위치의 가지들을 재조합하고 교체하고 제거할 수 있다.

9. 우리는 멀티태스킹에 서툴다는 것, 동시에 몇 가지 일을 하지 말아야 한다는 것, 그런데도 다들 기회만 있으면 멀티태스킹을 하려 한다는 것을 알게 되었다. 그 이유는 멀티태스킹을 할 때 우리의 인지와 정신이 막다른 골목에 부딪히기 때문이다.

멀티태스킹 비용을 줄이려면 중복을 줄여 다른 과제의 간섭을 줄이는 것이 가장 좋다.

10. 정지 체계를 통한 억제는 지연을 강요하고 그렇게 해서 결정에 필요한 증거의 역치를 높여 의사 결정에 영향을 미친다.

11. 우리가 어떤 행동을 하는 건 단지 습관이나 게이팅 메커니즘이나 자극-반응 연합 때문이 아니다. 우리는 종종 어떤 것이 하고 싶기 때문에 그것을 한다. 인지조절은 동기에 의존한다.

12. 인출 후 관찰과 선택이 어떤 형태로든 거의 항상 필요하다. 우리가 기억된 지식에 따라 행동하기로 결정할 때마다 인출 후 조절이 필요할 것이다. 그 행동은 반응일 수 있고, 추가 인출일 수 있고, 인출된 지식을 작업기억에 붙잡아놓는 것일 수 있다.

13. 인지조절을 제대로 이해하려면 인지조절을 고정된 능력이 아닌 역동적인 기능으로 봐야 한다.

우리는 행위자로서 우리를 끊임없이 변하게 하고 상황에 적응하게 하는 체계를 갖추고 있다. 저자는 인지 개입을 통해 사람들이 평생 자기 삶에 대한 주도성을 잃지 않고 살아가게 할 수 있다고 믿는다.

자. 여기까지 숨 가쁘게 달려왔다. 그렇다면 우리는 왜 인지조절에 관심을 기울여야 하는가.

인지조절은 우리에게 항상 선택권이 있음을 의미한다. 인간은 놀랍고 멋진 미래를 꿈꾼다. 또한 우리 사회가 지키면 좋을 규범이나 규칙 체계를 거의 무한대로 생각해낸다.

우리에게 닥친 위기가 있다면 이 위기를 벗어나기 위해 우리가 해야 할 일에 대해 생각해내고 이를 실행해나갈 것이다. 예를 들면 기후위기 같은 것. 후기의 이 말을 하기 위해 작가는 이 많은 분량의 책을 내었나보다.

※ 이 글을 출판사로부터 책을 제공받아 읽은 후 주관적인 느낌이나 의견을 적었습니다.