그럼에도 21세기에 나타난 감시에는 세 가지 새로운 양상이 있다. 첫째는 모니터링되는 수준이 매우 심각하다는 것이고, 둘째는 다지털 기술 때문에 사생활 침해가 우려스러운 수준에 도달했다는 것이며, 셋째는 의사결정 권력이 지나치게 기계에 이양되었다는 점이다. 여기서도 문제는 역시 규모다. 옥스퍼드대 정치학자 이반 마노카Ivan Manohka가 썼듯 "예전에는 작업장 감시가 신중하게 이루어졌고 감독자의 시선은 제한적이었으며 그 범위도 작업장에 국한되었다." 하지만 지금은 "직원의 성과에 대한 디지털 정보를 전자 기기와 센서가쉬지 않고 실시간으로 수집·처리하며, 그 범위가 (그리고 종종) 작업장밖으로까지 확장된다. "
상시적인 감시 아래에서 우리는 그 어느 때보다 기계적인 방식으로 감시된다. 갈수록 솔직해지지 못하고 동료와 마음을 터놓고 대화하지도 못한다. 우리는 남에게 불신받는다고 느낄수록 우리 주변을 더더욱 경계하고, 자신을 검열하며, 움츠러들고, 진정한 자아를 드러내기 두려워한다. 결과적으로 우리는 외로워질 뿐만 아니라 우리의 고용주, 우리의 일, 우리의 주변 사람과 단절된 느낌을 받게 된다. - P253
하심이 낮은 평점을 받고 우버에서 쫓겨날 것이 두려워 장시간아무 말도 못 하는 환경에서 일한다는 사실은 상당히 안타깝다. 이러한 사실은 평가 구조에 큰 문제가 도사리고 있음을 보여준다. 우리가 누군가를 숫자 하나로 축소해버릴 때 그들은 스스로를 검열하고, 스스로에게 침묵을 강요하며, 높은 점수를 받기 위해 굽실거리는 와중에 진정한 자아로부터 소외된 기분을 느낄 위험이 있다. 그뿐만 아니라 이 수치에는 맥락에 대한 이해가 조금도 들어 있지 않다. 실제로 형편없는 서비스에 매겨진 ‘2점‘은 고객이 기분이 좋지 않아서 준 ‘2점‘이나 어느 인종차별주의 손님이 단순히 피부색 때문에 준 ‘2점‘과 동일한 결과를 낳는다. - P257
더욱이 인간과 로봇의 대화는 아직 인간과 인간의대화만큼 유려하거나 유창하지 않으며, 로봇의 인터페이스도 점점개선되고는 있지만 여전히 투박하다. 그러니 로봇이 우리와 맺을 수있는 ‘우정‘은 아직까지는 다소 제한적이다.
하지만 이것은 분명히 거스를 수 없는 흐름이며, 기술의 진보에서 흔히 그렇듯이 섹스가 이 흐름을 선도하고 있다. 적어도 엔지니어의 관점에서 보면 최고급 섹스로봇은 가장 발전된 형태의 소셜 로봇이며, 특히 최근 출시된 섹스로봇은 역시나 아직은 인간에 가깝다고하기는 어렵지만 상당히 주목할 만하다. - P303
어떤 사람은 이런 사건들은 피해자 없는 범죄라고 주장할지 모른다. 알렉사에게 언어폭력을 가하는 것은 고장 난 자동차에 욕을 퍼붓는 것과 다르지 않고, 페퍼를 발로 차는 것은 문짝에 발길질하는 것과 다르지 않다고 말이다. 그러나 여기에는 중대한 차이가 있다. 우리가사물에 인간적 특징을 부여했으면 최소한만이라도 예의를 갖추어 그사물을 대해야 한다. 그렇게 하지 않으면 그런 행동이 괜찮은 것이 되고 급기야는 우리가 다른 사람과 상호작용하는 방식에도 서서히 스며들 위험이 있다. 섹스로봇을 때리는 남자는 자신의 데이트 상대에게 폭력적이 될 것이다. 가상 비서에게 공격적으로 또는 무례하게 말하고도 아무런 제재를 받지 않는 데 익숙해진 아이들은 교사나 점원, 서로에게 똑같이 굴기 시작할 것이다. 그래서 그들이 알렉사로부터 배우게 될 ‘기술‘은 불친절이 될 것이다. - P309
한편 유엔은 2019년에 발표한 146쪽짜리 보고서에서 "여성화된 디지털 비서가 실제 여성과 융합되면서 잘못된 젠더 고정관념이 퍼질 위험성이 있다"면서 "여성과의 관계에서일방적인 명령조의 언어 표현이 일반적인 것이 되고 "86 적대적인 행동, 심지어 괴롭힘에도 순종적이고 회피적이며 심지어 애교스러운반응을 보이는 "유순하고 남을 기쁘게 하고 싶어 안달하는 도우미"라는 여성에 대한 고정관념을 강화할 위험성이 있다고 경고했다. 이 유엔 보고서는 "너는 난잡해You‘re a slut"라는 말에 대한 시리의 디폴트반응 가운데 하나인 "할 수만 있다면 얼굴을 붉혔을 거예요‘‘I‘d Blush If I Could‘를 제목으로 달았다.
더욱이 범죄학에서 수십 년간 진행된 연구에 따르면 섹스 인형이환상을 지우기보다는 오히려 ‘증폭시키며‘, 사용자가 현실 세계에서상대방의 ‘노‘라는 대답을 진심으로 받아들이지 않게 만들 가능성이 크다. "성인용품과는 다른 문제다. 실물 같은 로봇인데 ‘노‘라고할 줄 모르고, 신체를 훼손하거나 학대해도 아무런 처벌을 받지 않는다는 사실은 일부 남성에게 그릇된 환상을 심어줄 것"이라고 범죄학자 산테 말렛은 썼다. - P311
그리고 사회 전체 차원에서 우리가 남을 돌보는 행위를 더는 하지 않으면 우리는 근본적인 뭔가를 상실하게 된다. 우리가 서로에게필요하지 않다면 무엇 때문에 서로의 요구나 권리나 욕구를 존중하겠는가? 기계가 보살핌의 영역에서 인간을 대체하고 돌보미의 역할을 자처하는 세계는 포용적 민주주의, 호혜성, 연민, 돌봄과 같은 토대와 근본적으로 양립할 수 없는 세계다.
21세기에 점차 확대되어가는 외로움 위기에 기술이 줄 수 있는답은 제한적이다. 그리고 여기에도 다양한 위험이 수반된다. 가상 비서, 소셜 로봇, 심지어 섹스로봇도 개인적 차원에서의 외로움 완화에는 긍정적인 역할을 할 수 있지만 이러한 기술이 (그에 따른 이득이 경제적인 것이든 다른 어떤 것이든) 인간 사이의 접촉, 인간의 우정과 돌봄을희생하면서까지 도입되어서도 안 된다. 잠재적인 사회적 여파가 지나치게 심각하기 때문이다. 이것은 교실 현장에서 스크린이 아이들의 교육에 일익이 될 수는 있지만 결코 인간 교사를 대체해서는 안 된다는 주장과 맥을 같이한다.
오히려 우리는 로봇공학, AI, 감성 AI의 발전을 우리 각자에 대한도전으로 여겨야 한다. 그것은 우리 각자가 스스로에 대한 기대치를높이고, 주변 사람을 더 잘 돌보고, 서로를 조금 더 보살피고, 남에게더 공감적이고 이타적이 되기 위한 도전, 언제나 로봇보다 더 인간적이기 위해 자기 자신의 한계를 밀어붙이는 도전, 그리고 어쩌면 더 나은 인간이 되기 위해 로봇으로부터도 배우는 도전이 될 것이다. - P319
|