오늘 주제를 이야기하전에 세상에는 너무 많은 신념들이 있어요. 여러가지 지식들과 자신의 생각이 겹쳐져서 많은 신념들이 있고, 이러한 부분에서 사람들은 일관성을 가질 것 같지만 실제로는 일관성을 가지지 않은 경우가 많지요. 사회과학책을 읽으면서 그제서야 이 신념이 이렇게 위험했던 거에요? 라는 것을 알게 될때도 있어요.
《감시자본주의 시대》를 읽고 있는데 읽을수록 AI를 이용한 전체주의 국가의 시도라는 점의 제 생각은 더 강해지는데, 문제는 폭력의 이용을 엘리트론에 의해서 엘리트들이 자신의 이익을 위해서 무의사결정이라는 것을 사용한다로 바뀌었을 뿐 다른 점은 없어요.
그런데 오늘 이유는, AI를 개발하면서 우리의 사생활 정보를 마구 수집해서 활용하는 사람들의 그들의 신념을 알게 되면서 깜짝 놀랐던 것은 저도 그 신념에 약간을 발을 들여 놓았다는 거에요. 다행스럽게 일관성은 다른 신념에 의해서 만들어져 있고 그들의 신념을 단지 가정으로 약간의 가능성 쯤으로 인식하고 있어서 다행이에요. 사람들이 일관성이라는 것이 완벽하게 적용되지 않으며 이런 부분에서 새로운 것이 만들어지기도 하여요.
즉, 우리의 DNA가 외부 환경의 변화에 대해서 어떠한 반응을 하게 되는지 결정되어 있다면 그 반응에 의해서 우리는 본능으로 반응하게 되며, 이런 본능에 의해서 우리의 미래는 사실 결정되어 있는 것 아닐까? 라는 거에요. 단지 그 조건들이 너무 많아서 우리가 알 수 없을 뿐이고요. 이 내용을 다른 블로그 쓸 때 살짝 작성한 적이 있는데, 그러나 이것은 어디까지나 가정이고, 우리가 알고 있는 지식이 부족하니까 인간은 모두 다르다라는 가정. DNA도 다르고요. 여기에 사람들은 모두 자신이 원하는 것을 주장할 수 있어야 한다라고 생각하고 있어요. 그렇지만 다행스럽게 저는 DNA가 결정하는 부분은 아주 적은 부분일 뿐이며, 또한 자신이 스스로 자신의 미래를 결정할 수 있는, DNA의 본능을 이길 수 있는 능력도 가지고 있다고 보고 있어요. 그러나 이런 운명설은 행동 경제학으로 이어지고 행동주의로 이어져 있으며 여기에서 AI까지 이어져 있다는 것이 충격적이에요.(어제 책리뷰에서도 있었듯이 사람의 행동이 랜덤이면 인공지능은 불가능합니다. 이런 생각으로 사람의 행동이 어떤 인과관계의 결과로 보는 것이 인공지능 개발자들이 가지는 생각일 수 밖에 없어요.)
하지만 이 미래가 정해져 있느냐? 없느냐? 하는 것을 신념으로 가지는 것이 얼마나 심각한 문제인지를 알았어요. 우리의 미래가 정해져 있는 것이라면, 특히 유전자에 의해서 결정되어 있는 것이라면 효율성과 합리성을 위해서 개인의 자유의지는 조작되어져도 되며 효율성과 합리성을 위해서 개인의 자유는 포기되어야 하고 개인의 자유를 말살할 수 있다는 것이 되며, 이것이 AI 개발자가 가지는 신념이라는 것이에요. 반민주주의적이라는 것에 대한 학문적 추적을 이렇게 제시하더라고요.
1948년은 무척이나 특이한 해였는데 디스토피아 소설. 그것도 현재 일어나고 있는 AI등으로 인한 반민주주의적 속성과 감시사회를 예측한 것 같은 유명한 소설이 2개가 나왔어요. 하나는 모두가 알고 있는 《1984》에요. 저의 인생책이기도 하지요. 또하나는 《월든 투》에요. 이 두 디스토피아 소설은 모두 전체주의를 비판한 책으로 분류되긴 하는데, 약간 다른 점은 《월든 투》는 독자에게는 디스토피아 소설이지만, 저자와 행동주의 사상가들에게는 유토피아 소설이라는 거에요. 그들이 바라는 미래를 작성한 것이 《월든 투》이고 독자들은 반어법으로 해석해서 전체주의를 비판한 책으로 봤던 것이지요. 물론 《월든 투》는 훗날 시간이 많이 흘러서 인기를 얻게 되었어요. 이 소설의 저자인 스키너는 이후에 문제가 되는 책들로, 그리고 연구등으로 행동주의를 옹호하여요. 물론 저자는 도구주의라는 용어를 사용하게 됩니다.
지금 AI를 개발하는 사람들의 신념은 스키너로 부터 왔다고 하더라고요. 그래서 이 책 《월든 투》를 읽어봐야 할 것 같아요.
그런데 이런 행동주의의 문제는 사람이 유전자로 반응하게 되므로 우리가 어떤 생각을 가지거나 어떤 내면의 이유로 행동하는 모든 것은 의미가 없고, 사람을 단순히 동물처럼 하나의 유기체가 되므로 동물과 사람의 차이는 없으므로 사람을 실험체로 사용할 수 있게 되어요. 그러므로 사생활 수집에서 기존의 법과 관습, 사회적 함의는 모두 무시할 수 있다는 입장이에요.
그리고 사람의 미래는 결정되어 있으므로 그들은 그 미래를 더 효율적이고 합리적으로 만들기 위해서 법과 민주주의같은 체제도 모두 무시할 수 있는 것이지요. 그래서 그들은 시도때도 없이 미래를 아주 낙관적으로 묘사하고 있고 과도한 신기술 낙관주의를 말하지만 그건 1948년 《월든 투》를 읽은 사람들처럼 디스토피아에요.
우리가 하는 행동중에서 자유롭게 행동하는 것은 무지에서 비롯된 것이므로 우리의 사생활 정보를 모아서 우리의 행정을 교정시키면 합리적인 사회가 된다는 거에요.
그리고 그러한 혜택에는 우리의 아이디어, 연구물, 저작물도 모두 포함되겠지요. 그러한 것을 마구 사용할 수 있다는 신념을 주게 되어요.
그런데 이렇게 만들어진 효율성의 결과는 누가 가질까요? 실험체인 우리는 아닐 거에요. 우리의 아이디어, 연구물, 저작물이더라도요. 그 이익은 이런 사회적 체계를 만든 사람에게 돌아가고 사회를 조작해서 그들의 이익을 더하고 그들을 위한 사회가 되는 것이겠죠. 그들은 민주주의마저 사회의 합리성을 방해한다면 그것은 무지에서 비롯되었다고 보고 있어요. 즉 인간의 유전자적 본능에 대해서 모르기 때문이라고 보는 것이지요.
그리고 이것은 결국 우리가 기계의 한 부속품으로 되고, 사람으로 살아가는 것은 행동주의자들이자 행동주의자를 위한 사회 시스템을 만든 사람들이고, 이들이 개인정보를 훔치고 악용하고 판매하는 체계를 만든 사람들이라는 거에요. 그들만이 행동주의로 이루어진 이익을 차지할 사람들인 것이지요.
이렇게 이어지는 신념 체계를 보면 이게 전체주의가 아니면 뭘까? 라는 생각이 들긴 하네요. 자자는 전체주의가 아닌 도구주의라고 주장하지만요.
이것을 막을 방법은 규제와 강력한 규제를 실천한 의지가 필요해요. 그렇지 않다면 우리 미래 세대들은 민주주의가 아닌 전체주의 국가에서 살게 될 것이며, 기계의 부속품처럼 살아가게 될거에요. 그리고 우리는 부끄러운 세대로 남을 것입니다.
과도한 신기술 낙관주의부터 끊어내야 하여요. 기술의 의도를 정확히 보고 우리의 권리를 포기하는 일이 없어야 할 거에요.
일요일에 2권을 읽으려고 했는데 실패했네요. 오늘 어떻게든 2권을 읽어보려고요^^. 감시자본주의 시대의 내용을 곰곰히 생각해보다가 늦었어요. 좋은 책은 책을 읽으면서 생각할 것들이 많아지기 때문에 그런 생각을 할때는 책을 덮고 생각해보고 생각이 정리되면 다시 읽는 그런 타입이라서 빨리 읽지는 못하고 있네요. 너무 충격적이에요^^. 지금까지 저는 AI 개발자들이 비윤리적이라서 그런 것을 하고 있다고 생각했어요. 근데 그들의 신념을 보니까 이건 제빨리 규제하지 않으면 심각한 문제가 발생할 가능성이 생길 것 같네요. 민주주의가 무너질 수 있다고 많은 사람들이 경고한 내용에서 제가 생각한 것 이상으로, 민주주의에 위협이 된다고 주장하는 분들은 이미 그런 생각으로 주장하셨겠지만, 저 역시 더 크게 민주주의 위협이 되고 있다고 동의하고 있어요.
월요일은 주간 결산에 의해서 포스팅 1개 이외의 다른 모든 블로그내 활동은 하지 못해요^^. 즉 책리뷰나 다른 블로그 방문등은 못하는 날이에요^^.
그림 내 폰트 출처: 고양체