시스템 에러 - 빅테크 시대의 윤리학
롭 라이히.메흐란 사하미.제러미 M. 와인스타인 지음, 이영래 옮김 / 어크로스 / 2022년 4월
평점 :
장바구니담기


얼마 전 ChatGPT라는 대화형 인공지능 서비스가 나오면서 많은 사람들에게 큰 충격을 주었다. 마치 사람처럼 대화를 할 수 있을뿐더러, 전 세계에 흩어져 있는 엄청난 자료를 거의 즉각적으로 찾아서 신문기사든, 논문이든, 에세이든 바로 만들어준다니 그럴 만도 하다.


하지만 우리가 이런 기술발전으로부터 놀라는 건 이번이 처음은 아니었다. 몇 해 전 알파고는 그 수가 너무나 복잡해서 인간을 이기기 어려울 거라는 전망도 있었던 바둑으로 이세돌 기사에게 거푸 승리를 거두며 세상을 놀래켰고, 그 와중에 이세돌이 한 판을 승리한 것이 도리어 역사적인 일이 되어버리기도 했으니까.






오늘날 과학기술의 발전은 더 이상 평범한 사람들이 따라갈 수 있는 수준을 넘어버렸다. 대부분은 그 정확한 매커니즘을 이해하기 보다는 그 결과를 일방적으로 받아들일 수밖에 없게 되었다. 문제는 이 과정에서 그 기술을 이용해 엄청난 힘을 획득한 사람들/조직(기업)이 생겨났다는 점이고, 그들은 제대로 된 견제 없이 자신의 힘을 키워가기 위한 움직임을 계속하고 있다는 점이다.


문제는 이 과정에서 다양한 종류의 개인적 권리와 사생활 침해가 광범위하게 일어나고 있다는 점인데, 기업들은 이런 정보를 더 많은 이윤을 얻는 데 사용하고 있다. 책에서는 특정한 콘텐츠나 상품을 우리 눈앞에 들이미는 알고리즘의 구조 문제, 그리고 눈에 잘 띠지 않게 우리의 권리를 포기하거나 기업에 양도하게 만드는 약관 동의 버튼, 자동화 기계의 확산으로 인한 실업문제, 표현의 자유라는 명분으로 민주주의를 파괴할 지도 모르는 사상과 발언들의 확산을 방조하는 문제 등이 지적된다.


사실 배경이 달라졌을 뿐이지, 이 상황에서 문제가 되는 것 자체는 오랫동안 논의되어 왔던 것들이다. 개인정보의 소유권, 민주주의 사회에서의 개인의 권리, 인간 생명의 중요성, 모든 사람들이 받아야 할 공정한 대우, 또 인간적인 삶을 지탱시켜주는 사회의 책임 같은 주제들이 그것이다. 다만 과학기술의 발전으로 이런 것들을 보장하기 위한 상황이 크게 변했고, 달라진 상황에서 어떻게 인간다움을 보전할 수 있을까에 관한 새로운 고민이 필요하다는 게 저자들의 주장이다.


하지만 결국 이런 상황을 통제하기 위해서는 정부의 규제가 필요한데, 여기에도 문제가 있다. 앞서 말한 것처럼 오늘날 기술발전의 속도가 너무 빠르고 전문적이어서, 입법을 담당하는 의원들조차 문제가 무엇인지 정확히 파악하기 어려워졌기 때문이다. 또, 규제에 대한 노이로제적 반응을 보이는 반규제맹신도들도 적잖게 보이고.





문제가 복잡할 때는 가장 기본적인 사항을 확인하는 것으로 시작하는 게 한 방법이다. 처음으로 돌아가는, 이른바 실마리 찾기다. 저자들은 이 실마리를 민주주의라는 가치에서 찾는다. 우리가 교과서에서 배우기는 했지만, 평소에는 잘 꺼내지 않는 케케묵은 개념쯤으로 여기는 그것 말이다.


민주주의는 어쩌면 오늘날 극단으로 치닫고 있는 시장(만능)주의나 자본주의의 폐해를 줄이고, 복잡한 사항들 사이에서 균형을 잡는 일종의 추로 작용할 수도 있다. 이 책에서는 크게 세 가지 의제를 제안하는데, 첫 번째는 개인정보의 통제권에 있어서 기업과 소비자 사이에 존재하는 거대한 권력의 불균형을 해결해야 한다는 것이고(기업에서 소비자 쪽으로), 두 번째는 기술변화로 인해 피해를 입을 사람들에게 좀 더 큰 목소리를 낼 기회를 주어야 한다는 것이다. 예컨대 단지 주주들의 목소리가 가장 중요한 것으로 여겨지는 사회와는 다른 사회를 우리는 구성해 낼 수 있다. 그리고 세 번째는 대형 기술기업의 시장지배력을 억제하기 위한 적극적인 반독점 노력이 필요하다는 것.





최첨단을 달리고 있는 기술발전계에 윤리라는 (오래된) 잣대를 가져다 대는 게 가능할까 싶기도 하지만, 결국 윤리라는 건 사람들이 함께 살아가기 위해 정해둔 최소한의 기준이다. 이 기준이 무너진다는 건, 더 이상 사람들이 살아갈 수 없게 된다는 뜻인데, 기술발전의 목표가 사람의 안녕에 있지 않다면, 우리는 굳이 그렇게 빠른 발전을 해야 할 이유도(그리고 거기에 많은 사람들의 자산으로부터 나온 세금이나 인프라적 지원을 할 필요도) 없을 것이다.


우리의 빅테크 기업들로 하여금 이런 윤리적 기준을 받아들이도록 만들어야 한다. 온갖 로비를 뚫고, 특정한 경제이론만이 절대진리라고 믿는 변종 광신자들의 반대를 넘는 일이 쉽지만은 않겠지만.


댓글(0) 먼댓글(0) 좋아요(10)
좋아요
북마크하기찜하기 thankstoThanksTo