벌써 다 읽어야 하는 책이었지만, 컨디션이 엉망이 되어 집중이 잘 안되고 여러가지 이유로 책을 다 읽지 못하고 있는 책이에요.
《감사지본주의 시대》책이 다른 AI 책과 다른 이유는 이제부터라고 보고 있어요. 지금까지는 다른 책에서도 다 언급한 AI가 어떤 나쁜 짓을 했는지를 하나하나 조목조목 설명하는 부분이었어요. 물론 제가 생각하는 나쁜 짓의 범위보다 조금 좁은 범위로 나쁜 짓을 결정하였지만요. 그리고 이 다음을 설명하기 위해서 회사가 언급한 AI의 결과를 바탕으로 소개하였어요. AI의 결과는 회사가 소개한 결과를 다시 전문가들이 평가하면 보통 더 낮은 결과를 가져오고 있어요. 그러나 저자의 논리에서는 AI가 더 위력적이라고 해 두는 것이 뒤쪽에서 설명할 때 더 좋으니까 이런 부분을 그대로 그냥 인정한 것 같아요.
저는 주로 그런 저조한 성과를 위해서 우리의 개인정보를 마구 사용하는 것은 무의미하다는 주장을 했지만, 이 저자는 AI회사들이 그렇게 결과를 주장하니까, 그 결과 수치는 인정하겠지만, AI 사업 자체에서 반민주주의적이고 인간의 기본권에 문제가 있으므로 그래서 하면 안된다는 논리전개를 하고 있어요.
저 역시 AI를 위해서 필요한 데이터 수집등에 인간의 기본권에 문제가 있는데 결과마저 그것을 상쇄할만한 결과를 못내므로 해서는 안된다는 주장과는 조금 논리전개가 달라요. 물론 어떤 결과가 나오더라도 기본권보다 우선될 수는 없다는 것이 제 생각이지만, 기본권을 침해하고도 고작 그 결과라면 안하는 것이 맞다라고 논리전개를 하여요.
여기에서 중요한 것은 우리의 기본권을 사적 이익을 위해서 사용될 수 없다는 것이에요. 이 부분에서는 저자와 똑같은 인식을 하고 있고 반민주주의적이라는 부분도 같아요.
인공지능이 비판받는 가장 큰 이유중에 하나는 《1984》의 소설속에 나오는 '빅브라더'가 국민들에게 한 행동과 현재의 AI 기술은 너무나 같다는 것이지요.
국민들을 감시하는 것을 기술적으로 할 수 있고 국민들의 생각을 조정하는 것은 고문과 세뇌등을 이용한 《1984》인데, 국민을 감시하는 비밀경찰들과 고문과 세뇌, 처벌과 학살등에 대해서 비밀경찰을 사람이 아닌 기술적인 도구로 사용했다는 것이 《1984》가 디스토피아 소설로의 특징이에요. 요즘 읽는 독자들은 그것이 CCTV와 IoT제품으로 생각할 거에요. 그런 제품이 전혀 없던 1948년에 나온 책이란 것을 생각하면 대단하거죠. 혹은 《1984》때문에 그런 제품이 나왔을지도 모르겠지만요. 그 후 고문과 세뇌를 하는 과정까지는 《1984》소설에 등장하여요. 그러나 자료 수집 이후에는 저는 조금 다르게 보고 있어요. 보통사람들은 여기까지로 '빅브라더'를 인용하겠지만 저는 여기서 자료 수집한 결과를 통해서 국민을 평가할 때 AI는 너무나 오류가 많아서 정확히 평가 못한다는 거에요. (검색엔진의 편향성 높은 검색결과와 50% 수준의 챗gpt 정답률을 생각해보세요)그러나 그 결과값만으로 판정하면서 더욱 많은 문제가 발생할 거에요. 우리는 그렇게 나온 결과를 확인할 수도 없으며(간접적으로 광고에 뭐가 뜨는지로 우리를 어떻게 판단하고 있는지를 슬쩍 알 수 있지만요) 그것을 우리가 바꿀 수도 없고 수집된 데이터를 지울 수도 없어요. 우리를 제대로 판단도 못하는 ai로 우리를 판단하고 차별하고 있는 거에요. 그래서 2차적인 문제가 발생하여요.
그러나 많은 사람들은 이 과정으로 《1984》가 전체주의 국가를 비판하고 있는데, 현재 AI 기술로 국민을 감시하는 비밀 경찰 역할까지는 같다고 느끼지만, 전체주의 국가와 완벽히 똑같은 것은 아니에요. 너무나 쉽게 발각되는 전체주의 국가의 만행을 똑같이 하진 않겠지요. 많은 사람들을 정치범으로 만들고, 처형하고 감옥에 가두는 일을 21세기에 하기 어려워요.
제가 여기에서 이 부분이 변형되었다고 보는데 이 부분에서 권력자가 자기 마음대로 하기 위해서 '무의사 결정'을 하고 있다고 생각하고 있어요. ① 폭력 동원 ② 적응적 흡수 ③ 절차의 재구성 ④ 그 시대의 지배적인 편견등을 동원 을 통해서 엘리트들이 그들에 반대하는 의견을 저지하는 방법이라고 행정학에서 배우는 것들이에요. 여기서 ①은 아무래도 하기 힘든데 없는 것은 아니겠지만요. ②번은 자주하는 듯 하여요. 이것은 돈으로 매수하거나 패널티를 부여하는 거에요. 이것은 이미 이 책에서도 작성되어 있어요. ③번은 실질적 다당제가 되어서 많은 정당들이 의회를 구성하게 되면 어느정도 해결될 수 있어요. 절차등을 바꾸어서 반대의견을 말하지도 못하게 하는 거에요. ④번은 인터넷에서 자주 일어나는 일이에요^^. 10년전만 해도 뭔 말만해도 공산주의자냐? 같은 대댓글이 달리기 일수였고, 지금은 인신공격을 많이 하는 것 같아요^^. 이 책에서 AI의 문제점에서 ④도 앞쪽에서 설명되어 있어요. 모아온 데이터로 앨리트들이 그들의 권력을 유지하고 그들의 마음대로 하기 위해서 무의사결정을 하고 있는 거에요. 책에서도 앞쪽의 AI의 문제점으로 ②,④를 제시하고 있어요.
전체주의 국가와 AI는 매우 유사한 형태를 보이는데, 단지 그 폭력성이 줄어든 조금 세련된 형태의 권력을 유지하는 형태로 보고 있어요.
단지, 여기까지는 제 생각이에요.
저자는 지금까지 없던 독재 수단으로서 AI 회사를 언급하고 있어요. 그러므로 지금까지 설명한 방법으로 AI 회사를 설명하려고 해서는 문제가 해결되지 않는다고 하며, 전체주의가 아닌 도구주의라는 새로운 이름을 써야 하고 그것이 어떤 특징이 있는지에 대해서 설명하려는 부분을 읽고 있어요.
물론 이것은 이 책의 머릿말에서 저자가 말한 것처럼 "위로부터의 쿠테타에 상응하는 중대한 인권 박탈, 즉 국민주권의 전복" 이라고 이미 작성된 부분과 연결될 것이므로 AI가 왜 쿠테타와 같은지가 뒤에 나올 것이고 그것에 가기 위해서 도구주의로 새롭게 명명한 단어로서 논리 전개를 해 나갈 것으로 보고 있어요.
전 AI 산업이 이미 전체주의라고 보고 있고 많은 사람들이 AI 산업을 말하며 '빅브라더'라고 말하는 상황에서 오히려 AI 산업이 쿠테타와 같으며 전체주의 국가로의 이행으로 (완벽히 같진 않지만) 이미 많은 사람들의 경계심을 가진 상황이라면 굳이 도구주의라고 말하지 않아도 될 것 같은데, 일단 이 저자의 내용을 보고 싶네요. 이 책의 중심적인 내용은 이제야 본론에 들어섰다고 봐요. 오늘은 꼭 완독해보려고요. 사실 너무 많이 미뤘어요^^.
날씨가 미친것 같아요. 도저히 집중할수가 없네요. 그래도 좀 더 빨리 책을 읽어야 하는데, 너무 많이 나태해졌어요.
오늘은 완독해야죠^^.
그림 내 폰트 출처: 고양체