빅테크 시대의 윤리학

시스템 에러 - 빅테크 시대의 윤리학
롭 라이히.메흐란 사하미.제러미 M. 와인스타인 지음, 이영래 옮김 / 어크로스 / 2022년 4월

빅테크에 따르는 여러가지 문제들, 단순히 기술발전에 대한 이야기 말고 발전에 상충하는 가치에 대한 토론이 궁금해서 선택한 책이었다.

기술이 발달을 긍정적인 시각으로 바라 볼때가 있었다면 이제는 쌓아온 탑을 촘촘히 살펴볼 기간이라는 생각을 갖게 했던 문제들이 많았는데, 소이렌트의 개발을 주목하며 기술 전문가들의 가치 최적화 사고 방식에 대한 이야기가 첫번째였다. 여러 기술을 발전시키는 엔지니어들의 사고 방식에는 최적화 사고 방식이란게 존재하며 19세기부터 급격하게 늘어났고 일터에 과학적 관리로써 접목하게 되었다고 했다. 최적화는 여러 방식에서 눈에 띄게 작용했는데, 이것에도 한가지 문제가 있다고 했다. 목표보다 방법에 집중하게 되는것, 해결해야하는 문제가 무조건 최적화에만 집중한다면 결과 값을 중요시 할 수 밖에 없고 다른 중요한 가치를 져버릴 수 있는 결과가 나타날 수 있다는것이었다. 이외에도 목표가 정해지지 않는 문제에 대해서는 결과 값이 달라질 수 있으므로 군사적사용이나 무기 개발과 같은 곳에서는 제한 체계가 반듯이 필요하다는 내용이었다. 기술의 발달로 커진 대형 회사들은 그만큼 큰 권력을 쥔 사람이 되었고, 기술과 자본 그리고 정치적 영향력이 증가하는 그들에게 최적화 사고방식에 대한 고찰은 계속 되어야 한다고 설명하고 있었다.

두번째로 관심 갖게 된 주제는 알고리즘에 관한 이야기였는데, 아마존을 예를 들며 세계 최대의 온라인 서점이라는 정체성을 넘어서 모든것을 파는 상점이라는 비전으로 커진 아마존은 현재 시가총액 2조달러가 넘는 미국에서 손꼽히는 기업이 되었고 이곳에서 인재 채용의 기준으로 알고리즘을 선택하게 되면서 일어나는 일에 대한 이야기였다. 결론적으론 실패로 끝났는데, 알고리즘은 사람이 만들어놓은 프로그램일 수 있지만, 결국엔 사람이 설정해놓은 한계점에서도 불평등이 일어날 수 있으며 그 피해자는 누구든 될 수 있다는 이야기였다.
인간적 편견을 피하기위한 기계의 활용이 결국엔 인간의 불평등을 가져다 줄 수 있으며, 그것이 가진것 없는 사람들이 피해를 줄 수 있는 일이 될 수 있음에 집중되어 있었다. 공정성에 대한 이야기와 알고리즘을 어떻게 통제 할 수 있는가는 앞으로도 우리에게 주어진 큰 과제가 아닐까 여러 생각을 갖게하는 주제였다.

세번째는 개인정보에 대한 이야기였는데, 테일러 스위프트의 스토커를 찾기위한 콘서트에서의 안면인식 기술을 사용한 이야기와 코로나 방역 시스템으로 개인의 정보를 활용했던 국가적 이야기, 우리가 읽어보기 귀찮음을 알고서도 활용한 많은 어플과 사이트들에서 무분별하게 수집한 개인정보들의 이야기를 다루고 있었다.
인터넷을 해보지 않았으면 모를까 인터넷을 한번이라도 접속해본 사람은 개인정보를 노출하지 않을 수 없는 세상에 살고 있는데, 우리의 정보들은 누군가에겐 꼭 필요한 데이터가되어 상품화되고 있다는점을 다루고 있었다. 클릭한번으로 많은것이 포기되고 동의되고 있는 현실과 개인정보를 보호하기위한 상품의 개발, 그리고 차등정보보호를 위한 노력 등에 대해 살펴보며 심각하고 중요하게 생각해야할 상황임을 인식할 수 있었다.

기술의 발전을 혜택으로만 생각하고 살아왔다. 문명을 누리기만 할 시기는 지났다는걸 책에서는 분명이 명시하고 있었던게 기억에 남는다. 달려오기만한 과거였다면 한번쯤 숨쉬고 뒤를 돌아보며 소외되고 같이 성장하지 못한것들에 대한 시선이 필요하다는걸 깨닫게 되었다.
인간을 위한 시선, 가치 우선적 판단에 대해 여러 주제들로 많은 질문을 던졌고, 생각할 시간을 만들어준 책이었다. 기술과 민주주의에 대한 생각은 한번도 해본적없는데 이부분도 이 책을 통해 새로운 시선을 갖게 된것 같아 꽤 만족스러운 부분이었다.