시스템 에러

시스템 에러 - 빅테크 시대의 윤리학
롭 라이히.메흐란 사하미.제러미 M. 와인스타인 지음, 이영래 옮김 / 어크로스 / 2022년 4월

《시스템 에러》는 기술 혁신이 우리에게 미치는 영향이 무엇인가를 보여주는 책이에요.

인터넷, 소셜미디어 네트워크는 우리 일상에 스며들어 있어서 대부분 수동적으로 받아들이는 경우가 많을 거예요. 그러나 한편에서는 스마트 머신 시대의 자동화 가속, 소셜미디어 플랫폼의 역정보와 허위정보 등에 대한 비판의 목소리도 나오고 있어요. 이제는 기술의 혜택을 이용하면서 동시에 기술이 개인과 사회에 미치는 명백한 피해를 인지하고 줄여나가는 방법을 찾아나가야 해요.

이 책의 저자들은 기술의 영향은 피할 수 없는 운명이 아니며, 기술을 지배하는 규칙을 설정하는 것이 더 이상 해커나 기업들만의 일이 아닌 새로운 시대에 접어들었다고 이야기하고 있어요. 기술의 영향은 우리가 새로운 기술을 어떻게 설계하고 상호작용하며, 기술을 지배하기 위해 어떤 규칙을 마련하느냐에 달려 있다고 보고 있어요. 우리 모두는 기술이 우리 사회를 어떻게 바꾸어야 하는지에 관한 결정권을 가져야 하며, 이는 21세기를 살고 있는 사람들에겐 가장 중요한 과제라고 할 수 있어요. 우리 스스로 책임지고 결정하지 않는다면 기술의 미래, 우리의 운명을 엔지니어, 벤처투자가, 정치인들에게 내맡기는 것이므로 최악의 상황이 될 거예요.

이 책에서는 최적화를 추구하는 사람들에게 책임을 맡기는 일이 얼마나 위험한지를 보여주고 있어요. 자율규제의 시대는 끝났어요. 디지털 플랫폼이 콘텐츠에 대한 통제권을 쥐고 있는 한 기업의 반독점 조치를 규제할 수 있는 건 법적 장치뿐이에요. 알고리즘 의사결정 시스템에 관한 문제 역시 기업과 정부 기관의 선한 의지에만 맡길 수는 없어요. 알고리즘 책임성이 요구되어야 해요. 우리는 감시 사회에 살고 있어요. 매일 사용하는 디지털 도구의 놀라운 기술 덕분에 정부와 기업은 우리가 무엇을 원하는지, 무엇을 하는지, 어떤 생각을 하는지 그 어느 때보다 많이 알고 있어요. 따라서 사생활권을 명확하게 규정하고, 그것을 보호할 힘과 권위를 갖춘 기관을 만들기 전까지는 법의 공백기에 놓여 있어요.

빅테크 기업들은 세상을 더 나은 곳으로 만들겠다는 원대한 비전을 내세우고 있지만 양극화, 역정보, 혐오발언의 문제들을 제대로 해결하진 못했어요. 정보 생태계 오염의 문제는 표현의 자유와 민주주의 사이에서 균형을 잡아야 해결할 수 있어요. 우리가 할 수 있는 일은 정보 생태계의 건전성을 보호하는 데 관심을 갖는 것이 시작이라고 할 수 있어요.

세 명의 저자는 새로운 기술이 야기한 긴장과 균형에 우리 모두가 참여할 수 있는 대안적 미래를 창출하기 위해서는 세 영역의 진전이 필요하다고 강조하네요. 첫째, 기술자들의 윤리적 문제에 대한 인식과 이해를 높일 것. 둘째, 기업의 힘을 억제할 것. 셋째, 기술과 기술자들이 우리를 지배하게 놓아두는 수동적 자세를 버리고 시민과 민주주의 제도에 기술을 관리할 수 있는 권한을 부여할 것. (385p)

결국 기술이 우리를 지배하기 전에 시스템 에러를 없애는 노력을 해야 해요. 그건 바로 시스템 리부팅, 우리 모두가 나서야 할 때인 거죠.