시스템 에러

시스템 에러 - 빅테크 시대의 윤리학
롭 라이히.메흐란 사하미.제러미 M. 와인스타인 지음, 이영래 옮김 / 어크로스 / 2022년 4월

사람이 술을 마시는 게 아니라 술이 사람을 마신다는 말이나, 사람이 돈을 부리는 게 아니라 돈이 사람을 부린다는 말 등이 있다. 이런 말들은 모두 주객이 전도된 모순된 상황을 빗대어 표현하는 것들이다. 우리 시대는 이렇게 사람이 사람으로서의 본분을 잊고서 목적과 수단이 전도된 것들을 오히려 추구하는 듯한 이상한 가치관에 물들어 있는 것 같다. 그렇다면 술이나 돈 못지않게 수단이 목적이 되는 대표적인 것에 무엇이 있을까? 바로 ‘기술’이다. 삶을 더 풍요롭고 의미 있는 것으로 만들어주어야 할 기술이 오히려 삶을 얽매는 것으로 변질된 사례를 우리는 여러 곳에서 목격한다.

우리 시대를 규정짓는 단 하나의 단어가 있다면 그것은 링크, 혹은 네트워크라고 할 수 있다. 특히 인터넷 기술의 발달로 온 세상이 효율적으로 연결되어 있다. 덕분에 우리는 물적, 정신적으로 모두 바쁘고 신경이 예민해진 시대에 살게 되었다. 그 정점에 코로나19가 있다. 긴밀히 연결될 만큼 빠른 확산이 가능한 속성은 쓰레기 정보와 바이러스를 가리지 않는다. 이 네트워크는 하나의 시스템이다. 시스템은 항상 안전하게 유지될 필요가 있다. 하지만 어딘가 문제가 발생해도 완전히 붕괴되는 것은 아니기에, 이것을 악용하는 무리가 항상 존재한다. 심지어 본인이 악이라고 생각하지 않는 경우도 있다.

이 책의 핵심은 기술과 기술의 사용이라는 주제를 구분하고 있다는 점이다. 기술 그 자체는 좋거나 나쁘다고 말할 수 있는 성질의 것이 아니다. 가치중립적이라는 것이다. 하지만 그것을 사용하는 문제는 복잡하다. 가치판단이 개입되기 때문이다. 가치판단이 개입된다는 것은 여러 사람의 이해관계가 복잡하게 얽히는 것을 의미한다. 이때 다툼이 일어나며, 주도권을 잡기 위한 여러 시도들이 행해진다. 이렇게 보면 기술은 꼭 칼이나 펜과 같다. 사용하기에 따라 사람을 살리기도 하고 죽이기도 하는 것이다.

기술만능주의가 만연하는 가운데 돈이 가장 큰 가치판단의 기준이 되었다. 돈이 될 수만 있으면 그 기술이 사회에 어떤 영향을 끼치는지는 중요한 고려 대상이 아니어도 무관하다는 분위기다. 때문에 어떤 기술이 상업적으로 성공하게 되면 미디어나 대중의 관심은 그것이 일으키는 부의 증진이나 쾌락의 증대 같은 것에만 관심을 기울인다. 그것이 인간성에 어떤 변화를 일으키는지에 대해서는 입을 다문다. 그 결과는 사회가 각종 병폐로 물들고 악화되는 악순환이다. 그 가운데서 기술 주권을 가진 이들은 도덕심이 상실된 듯 부를 축적한다.

인공지능 기술이 발전하면서 더불어 주목받고 활발하게 논의되고 있는 것이 인공지능 윤리 문제다. 인공지능은 빅데이터 기술의 발전으로 비로소 빛을 보고 있는 영역인데, 이 빅데이터를 처리하는 알고리즘 기술에 기반한 인공지능의 발전에 사람들은 중립성이 있다고 기대했고, 궁극적으로 민주주의 발전에 크게 기여할 것이라 믿었다. 하지만 이러한 최신 디지털 기술에조차 인간의 편견이 작용한다는 사실이 밝혀지면서 윤리 문제는 결코 도외시할 수 없다는 것을 확인하기에 이르렀다.

우리는 이 책을 통해 기술 시대를 살아가는 모든 인류가 표면적인 기술의 발전에 환호하거나 좌절하거나 무관심할 것이 아니라, 이성적으로, 합리적으로 기술의 문제를 바라봐야 할 이유를 확인하게 될 것이다. 세 명의 저자는 기술에 대한 사람들의 인식에 인문학적 논점의 불을 지피기 위해 이 책을 썼다고 밝히고 있다. 기술 시대의 인문학 혹은 기술 시대의 윤리학이라는 책의 일관된 흐름 속에서 더 이상 기술이 사람을 쥐고 흔드는 시대가 아니라, 사람을 널리 이롭게 하는 기술이 되게 만드는, 다시 말해 사람이 기술을 현명하게 사용하고 비평할 수 있는 사회가 건강한 사회라는 사실을 생각해볼 수 있었던 소중한 기회였다.

* 네이버 「리앤프리 책카페」 카페 이벤트를 통해 출판사로부터 책을 무상으로 제공받아 읽고 쓴 서평입니다.