[출판사에서 도서를 제공받아 작성한 리뷰입니다]
우리를 둘러싼 수많은 의사결정은 데이터로 이루어진다해도 과언이 아닌 시대에 살고있다.
각종 데이터를 둘러싼 의혹,조작,정보의 출처 등 다양한 주제로 혼돈을 야기하고 넘쳐나는 정보 속에서 올바른 의사결정을 하기 위해 나름대로 기준을 세우고 옳고 그름을 판단하기도 한다.
이 책은 그런 인간에 의한 욕망과 그 욕망이 둘러싸인 데이터에 관한 진실을 서술하고 있는 책이다.
단편적인 결과물로만 접하는 우리는 결과물을 도출해내기까지 어떤 데이터가 조합되어 탈락되고 선출되었는지 알지 못한다.
그렇기에 이 책을 통해 어떻게 데이터가 창조되었고, 현대사회를 이해하는 열쇠로 작동하는지, 권력과의 관계는 어떻게 되는지 다양한 방면으로 알게 될 것이다.
데이터는 권력으로서 작동하며 경고를 남겼다.
2000년대 이후 인터넷 만능주의가 도래하며 사회과학자들의 데이터 대중화에 대한 우려를 표하며 내용이 서술된다.
여기서 강조하는 이야기는 대규모 검색 데이터가 더 나은 삶을 가져다 주느냐, 아니면 그런 다량의 데이터가 사생활 침해와 원치않는 공격적 마케팅 방식을 가져다 주느냐에 대한 비판적인 목소리를 남기며 경고하는 것이었다.
그렇게 비판적 우려로 IT기업들은 하나 둘 사내 자체 AI 윤리 규정을 마련하며 공정성을 갖췄다.
하지만 단편적으로 보면 안 될 것이 유례 없는 속도로 발전하는 기술이 우리도 모르는 체계적인 불평등을 너무나 쉽게 재생산하기에 데이터를 사용하는 기술은 허울 뿐만 아니라 불가피한 자동화된 블랙박스를 만들어 낸다고 한다.
하지만 데이터의 발달로 다양한 성공을 이루기도 했다.
데이터의 발전은 마냥 나쁜 것만은 아니었다.
6번째 챕터에선 전쟁과 데이터에 관한 이야기를 서술하는데,
미국 안보국 NSA는 수십 년 전에 빅데이터가 유행하기도 전에 데이터 수집, 알고리즘 및 분석 기법을 제도화 해놓았다고 한다.
왜 그랬을까?
제2차 세계대전 동안 다량의 데이터 흐름을 파악해 특수한 계산 장치를 제작했고, 그 기계는 영화화 되기도 했던
에니그마 기계였으며 이 기계를 해독하기 위함이었다고 한다.
매일 독일군이 사용하는 전용 언어에 관한 추측과 휴리스틱을 바탕으로 계산을 해내었던 것이다.
여기선 성공을 이끈 인물보다 이 기계의 작업으로 데이터 분석을 산업적인 것으로
높은 수준의 교육을 받지 않은 이들도 수많은 데이터 항목을 빠르게 적용할 수 있던 시스템을 만들어 냈던
결과물을 길게 서술한다.
결국 이 시작은 우리가 아는 빅데이터, 인공지능 에게까지 닿게 해주었던 것이다.
그래 발전은 우리가 할께, 윤리는 누가 지킬래?
수많은 SF 작품들은 윤리가 작품의 소재가 될 만큼 흔한 소재가 되었다.
국가와 기업들은 앞다투어 윤리성을 강조, 또 강조한다.
우리가 만든 데이터에 우리가 잠식 될 순 없는법.
마지막장에서는 데이터는 권력이 될 수 있기에
반드시 윤리성이 포함된 데이터를 생산,배포 해야 한다고 이야기한다.
일례로, 2014년 페이스북의 사례로 윤리적인 알고리즘을 강조하는데
내용은 사용자들에게 일부로 슬픈 감정을 조장하는 미디어를 노출시켜 언론의 부정적 반응이
거세게 일렁였고. 결국 CEO였던 마크는 선제적으로 연구 윤리를 도입하게 되었다.
페이스북은 시작일뿐, 이 계기로 IRB(기관검토위원회)과정을 진화시켰고,
1970년대에 벨몬트 보고서로 응용윤리를 정의하며 윤리적 알고리즘의 기반을 다졌다.
그럼 벨몬트 보고서에 꽤 중요한 내용이 담겨있을텐데
여기서 보고서의 <3가지 원칙>을 제시한다.
1.개성 존중: 개인의 자율성은 존중되어야 한다고 생각
2.선행: 개인에 대한 피해의 위험을 최소화하고 공공적 혜택을 극대화하기
3.정의: 위험과 혜택의 공적한 분배
1. 알고리즘 윤리에 기반, 사회 전반에 혜택을 극대화하고 피해를 최소화
2. 상동
3.공정성의 규범을 강조, 평등한 처우 뿐만 아니라 어떠한 계층에도 동일하게 보호할 것
이라고 약술할 수 있을 것 같다.
미래를 지향하는 우리가 가져야할 데이터를 바라보는 시각
어느 권력이던 치우치지 않기 위해
데이터가 이바지해야한다고 한다.
그렇게 된다면 시민은 유능해지고 정의가 향상되어 권력의 양극화를 고착화 시키지 않고 극복하는데 도움이 될 것이라고 한다.
기업들은 내·외부적으로 기업윤리를 제정하고
국가는 데이터로 독점 규제(소설 1984의 빅브라더스 이야기인듯)를 하지 않아야 하며
시민들은 개인에게 즉 우리에게 AI를 둘러싼 모든 사안들에데 대해 국가와 기업의 문제라며 방관하지 않고 스스로의
문제로서 인식해야 한다고 한다.
우리는 각 종 사이트, 어플을 이용할 때 개인정보를 입력하지 않고는
완벽히 사용하지 못하는 인터넷 세계에 살고있다.
이미 수 많은 데이터가 되어 떠돌고 있을 신상정보
중요한 내용이 담긴 데이터
빅브라더스에게 잠식 되지 않기 위해
어떠한 눈으로 데이터를 보아야할 지 시사점을 안겨준 책이다.
내용은 어려워 재독이 필요할 것이지만
두고두고 읽고싶은 책이다.
[본 포스팅은 출판사로부터 도서를 제공받아 주관적으로 작성한 리뷰입니다]
