권력과 진보 기술과 번영을 둘러싼 천년의 쟁투(S2-49번째 책리뷰)

권력과 진보 - 기술과 번영을 둘러싼 천년의 쟁투, 2024 노벨경제학상 수상작가
대런 애쓰모글루.사이먼 존슨 지음, 김승진 옮김 / 생각의힘 / 2023년 6월

권력과 진보 기술과 번영을 둘러싼 천년의 쟁투는, 1장에서 책의 내용을 요약하고 그 다음 과거의 기술 발전에 의한 혜택이 자연스럽게 모든 국민에게 돌아간 것이 아니며 현재의 AI기술에 대해서 그 혜택이 있다면(저는 없다는 쪽) 그 혜택이 그냥 국민들에게 돌아가는 것은 아니라는 입장을 취해요. 과거의 사례를 확인한 뒤 모든 국민에게 그 혜택이 돌아갈 수 있도록 하는 자신의 생각을 주장하여요. 여기에서 기술에 대해서 가치 중립이냐? 아니면 가치를 생각해야 하는냐? 에서 연구 윤리등 가치를 부여할 수 있다는 쪽이기 때문에 저와 생각이 좀 다른 면이 있었어요. 즉, 결론에는 모두 동의하지는 못했지만(비교적 동의한 부분이 많았지만요), 결론보다 원리가 더 중요한 책이라고 보여지네요. 여기에서 저자의 통찰력이 뛰어났다고 보아요. 그래서 이 책에 대한 저의 평가는 뛰어난 통찰력으로 경제에 대한 새로운 아이디어를 제시하는 책으로 결정했어요. 저는 1판 4쇄를 읽었습니다.

● 새로운 경제학 이론을 제시하여요.

경제학자들이 가만히 두어도 시장이 알아서 할 것이라고 생각하지만, 역사를 돌아보면 시장은 완벽하지 않아서 여러가지 문제를 일으켰어요. 이것을 시장실패라고 하며 경제학과 행정학등에서 배워요.

그런면에서 시장 실패에 대해서 연구한 자료를 소개하는 책으로 생각하여도 되어요.

경제학에서 말하는 노동자의 임금은 노동의 한계 생산성이에요. 그러나 기술이 발전하면서 생산성이 증가했는데 노동자들의 임금은 오르지 못하는 상황을 보게 되어요. 내 급료 빼곤 다 올랐다고 주장하는 한국인들을 아주 오래전부터 많았지요. 이 경제학 이론이 왜 틀렸는지를 잘 설명해주어요.

● 경제사를 통해서 경제 발전에 대한 여러가지 요소를 저자의 통찰력으로 찾아내 잘 전달하여요.

경제사를 통해서 과거를 돌아보면서 기술발전의 혜택이 잘 돌아가지 않고 소수의 사람들에게만 집중되는 현상을 소개하며, 혁신이 일어나는 조건, 그리고 그 혜택이 모든 사람에게 돌아가는 조건등을 저자의 통찰력으로 찾아내서 전달하여요.

이러한 부분은 이 책의 주제에 포함되는 AI가 생산성을 증가시킨다면 어떻게 국민들에게 이 혜택이 골고루 돌아가도록 할 것인지에 대한 저자의 의견이 결말로 이어지게 되어요.

단 여기에서 1장은 책을 쓴 이유로 경제학 지식이 많이 들어가서 직접적으로 이해가 어렵다면 2장부터 끝까지 읽은 다음에 다시 1장을 읽는 것을 추천드려요^^. 경제학 원론을 봤다면 1장은 쉽게 이해할 수 있겠지만요.

이에 대한 부분에서 노조에 대해서 잘못된 생각등에 대해서 어떻게 형성되고 이것이 어떤 잘못된 결말로 이어졌는지등에 대해서 잘 설명하여요.

● 디지털 테크놀로지(AI포함)의 생산성 향상속도가 미미하다는 것을 전달하여요.

총요소 생산성등으로 디지털이 이용되어 만들어진 생산성의 향상속도는 오히려 이 전 시대보다 못하다고 하여요. 이러한 부분은 그저그런 생산성 향상이라고 말하기도 하여요. 이런 이유도 잘 설명하여요.

● AI의 문제점도 잘 전달하여요. (단, 다른 AI 비판 책에 비해서는 좀 적은 부분이 있어요.)

자연과학에 종사하는 분들이 쓰는 AI 비판책은 주로 기술적인 문제를 주로 다루고 사회에 영향에 대해서는 단편적으로 쓰는 편이에요. 사회과학에 종사하는 분들이 쓰는 AI 비판책은 기술적인 부분에서 문제는 거의 다루지 못하고 사회에 영향에 대해서는 아주 깊게 들어가는 경향이 있어요. 이 책은 그 중간정도에요^^. 사회과학에 종사하는 분들이 쓴 AI비판 책들에 비해서는 AI의 기술적 부분에 대한 문제는 더 잘 제시했지만 자연과학에 종사하는 분들에 비해서는 부족한 편이에요. AI가 사회에 영향을 주는 부분의 문제점도 다른 사회과학에 종사하는 분들에 비해서는 약했지만, 세부적인 부분. 즉 노동을 대체할 것인과 노동을 보조할 것인가? 라는 부분에서는 좋은 의견을 제시했다고 생각되어요. 하지만 AI 자체의 문제점에 대해서는 살짝 부족한 감이 있어요. 특히 민주주의 파괴 부분에서는 더 많은 문제점들이 있는데 이 부분이 부족했어요. 즉, 이 책은 AI의 특정 문제에 대한 스페셜리스트 책이라고 볼 수 있어요^^. 즉 노동과 AI의 문제이지요.

하지만 데이터가 문제라는 부분은 잘 본 거에요. 대부분 이 데이터 부분의 문제가 AI는 어차피 안되겠지만, AI가 되냐? 안되냐? 보다 더 큰 문제이고 여기서 사생활 침해, 개임정보보호 문제와 연결되어서 감시등의 문제로 발전하고 문제가 되어요.

그리고 AI 사용자들의 마음을 잘 표현한 내용이 있어요^^. "고객이 아주 기다란 메뉴를 거친 후에 결국 인간 상담사가 문제 해결을 위해 개입하야 하는데, 이 시점이면 고객은 화가 나 있다" 이 점은 우리가 AI 사용한 뒤에 느끼는 감정과 같아요. AI는 오답자판기이니까요. 이 오답률은 0%가 될 수 없어요. B2C서비스가 안되는 이유에요. 사람은 공감을 얻어서 이렇게 화가나는 상황까지 오지 않지만, 기계(AI)는 사람을 화나게 하는 특별한 재주가 있는 것 같아요^^. 그리고 AI가 오답자판기라서 답을 얻지 못하니까 항상 인간 상담사가 개입해야 되어요. 책은 이러한 부분에서 화가 난 고객에게 인간 상담사가 얻을 수 있는 정보가 부족해서 상담에 실패하고 이 결과가 기업운영을 하는 임원들은 사람도 해결할 수 없는 문제로 보고 AI를 더 보급하게 된다고 하여요. 결국 일반 사용자들은 이미 인공지능에 실망해서 떠났고, 회사 임원이 노동자에게 AI를 쓰게하면 근로자들이 오답이 많이 나오는 AI에 화나게 되고, 회사 임원이 모든 직원을 해고하고 AI를 쓰면 회사 임원이 화가 나는 상황이 될거에요. 그때서야 회사들은 AI가 얼마나 엉망인지 알겠지요. 사람이 실수를 해서 AI를 써야 한다고 하는데 AI는 더 많은 실수를 한다는 것을 알거에요.

이 책이 책의 주제에 관한 AI 문제점은 잘 전달하였어요. 제가 말하고자 하는 것은 이 책에 나오는 정도의 AI 문제가 있는 것이 아니라 심각한 더 많은 문제가 있다는 거에요. 그런 부분은 다른 AI 비판 책을 참고하는 것이 좋아요. 그래서 이 책에서는 넷플릭스를 옹호하지만 넷플릭스가 쓰는 AI도 문제가 있으며 그걸 분석한 책도 있어요. AI 기술은 어딜가도 환영받지 못하는 것 같아요.

● 행동주의자들의 신념도 일부 전달하여요.

행동주의자들은 기술을 최고로 보며, 행복은 효율성이라는 전제로 활동하며(마치 세상을 꿀벌이나 개미의 생태계처럼 만들려고 하는 듯 보여요), 민주주의를 반대하여요. 이런 사람들은 위험하다는 것이 저의 생각이며 이것은 《감시 자본주의 시대》라는 책에서도 잘 다루고 있어요. 행동주의자들이 AI 개발자의 신념이에요. (정작 AI는 누구나 만들 수 있을 정도로 매우 쉬워요. 대학교 수학 정도의 수학 실력 + 프로그래밍 능력만 있으면 누구나 다 해요. 단지 해도 이득이 없거나 비윤리적이여서 안하는 거죠.)

이런 행동주의자들의 신념으로 책에서 제시한 것은 AI 개발자들은 자신들은 뛰어이고, 자신들이 다른 사람을 도와야 한다고 생각하여요. 그러나 실질적으로 이들은 기부 이외에는 하는 것이 없으며, 이 책에서는 없지만, 우리의 개인정보를 팔아서 수익을 내거나 우리를 감시하고 우리의 정보로 연구하는 등 비윤리적인 행동을 하는데, 그들은 자신들의 개인정보는 절대적으로 보호하려고 하여요. 우리나라도 정치인 사찰은 막을려고 하는데 우리들, 국민들의 사생활정보는 보호하려 하지 않아요. 개인정보보호법이 있지만, 기업에게 합법적으로 개인정보를 얻는 가이드같은 수준이에요. 미국에서도 빅테크의 오너들의 사생활은 절대적으로 보호하려 하지요. X를 인수한뒤 자신의 전용기 위치 추적 앱을 서비스 종료시킨 머스크와, 다른 빅테크 회사의 오너들의 개인정보를 수집해야 한다고 하면서도 자신의 개인정보는 철저히 보하한 사례가 아주 많이 알려졌어요. 그들은 자신도 공개하면 안된다는 것을 아는 개인정보를 우리에게는 마구잡이로 획득해서 사용해도 괜찮다는 생각이에요. 이런 행동주의자들은 자신의 부를 위해서 뭐든 해도 괜찮다는 생각이지요. 그들은 효율성이 행복이고 이 효율성 마저도 자신에게 효율적인 일인가봐요. 이런 문제들에 대해서 약간 다루어요.

● 개인정보보호에 대해서 이중적인 입장을 취하여요.

개인정보보호에 대해서 할 필요가 없다는 내용이 잠깐 나왔다가 뒤에는 모두 보호해야 된다고 나와요. 그 앞에도 보호해야 된다고 나오고요. 이 점은 민주주의를 위해서도 꼭 필요한 부분이에요. 앞서 말했듯이 행동주의자들은 민주주의를 반대하여요. 하지만 우리에겐 민주주의가 필요하고 이 책도 민주주의가 중요하다고 말해요. 그래서 중간에 잠깐 나온 개인정보보호를 안해도 된다고 서술한 부분에 대해서, 번역 오류인지? 아니면 저자가 논리전개에서 기술의 가치 중립성을 이야기하다가 논리전개를 잘못한 것인지? 잘 모르겠어요. 어쨌든 그 단락은 논리전개를 잘못했거나 번역오류에요. 그 단락의 논리로는 맞지만 책 전체의 문맥적인 부분을 생각한 전체적인 구성에서 논리전개를 잘못한 것으로 보여요. 그리고 저의 생각을 추가한다면 기술은 가치 중립적이라고 보기 어려워요. 연구 윤리를 지켜야 하고요. 그리고 개인정보를 무작위로 사용하는 것 역시 이루어져서는 안되며 이러한 연구는 사법적으로 처벌해야 된다고 생각하여요. 물론 개인정보 뿐만 아니라 인간 유전자 실험등에 대해서도요. 이 부분은 연구 윤리에는 포함되어 있으며, 이를 어긴 중국의 연구자가 실형을 받았어요. 유전자를 조작해서 출산시켰기에요. 이와 같은 조건이 개인정보에도 적용해야 된다고 보아요.

● 우리에게 희망을 전달하여요.

저의 개인적인 견해는 이대로 AI를 할경우 AI에 대한 기술적 효과는 미미하겠지만, 우리의 개인정보등으로 민주주의의 위협과 독재의 출현을 걱정하여요. 책에서도 많은 독재자들이 AI를 사용하고 있다고 하고 하고 있어요.

그러나 "추가적인 독려를 받은 학생들은 서구 매체에 관심을 가졌고, 한 번 접하기 시작하자, 지속적으로 해외 매체에서 뉴스를 보았다. ~(중략)~ 자신의 정치적 견해를 바꾸었다. 또한 중국 정부에 더 비판적이 되었고 민주적 제도를 더 옹호하게 된 것으로 나타났다."

AI로 우리를 감시하고 정보 획득을 막아도 결국 이것은 그 독재를 끝나게 될 수 있는 희망일 거에요. 이것은 중국을 이야기하는 것이 아니라 우리도 걱정해야 될 부분이에요. 하지만 AI를 통해서 독재를 하더라도 진실을 감출 수 없고, 진실이 나오게 되면 독재 권력은 끝이 나게 될거에요. 그러므로 AI를 통한 독재가 영원히 가능한 독재로 생각해서는 안될 것이라고 독재자가 되고픈 분들께 전달할께요. 한국의 정치인들중에 혹은 정치인이 아니라도 사업가나 그 밖의 직업에 독재자가 있다는 것은 아니에요. 단지 그럴 마음이 있는 분들께 전달한 거에요.

결말이 아니라 다른 부분에서 희망이라고 말한 것이지만, 저는 이부분에서 희망을 본 책이에요. 독재가 이루어지기 전에 독재가 어떻게 풀리게 되는지 전달된다면 독재가 이루어지지 않을 것이니까요. AI에 대한 과도한 낙관주의와 AI에 대한 더 많은 문제점에 대한 부분은 다른 책을 통해서 확인하면 이 부분에서 더 많은 정보를 얻을 수 있을 거에요.

전반적으로 AI의 문제점등 노동문제와 경제 문제에 대해서 경제학자인 저자가 최근 연구자료로 잘 작성한 책이에요. 저는 이 책도 AI문제를 알기 위해서 꼭 읽어야 할 책으로 말하고 싶네요. 하지만 AI의 문제의 작은 부분이므로 다른 책에서 더 많은 부분을 읽어서 우리나라가 AI로 민주주의가 파괴되는 일이 없길 바라고 있어요. 또한 AI를 정확히 알고 AI에 대한 과도한 낙관주의를 갖는 일도 일어나지 않고 자원낭비를 덜하고 이 시기를 넘어가길 바라고 있어요.

그림 내 폰트 출처: 고양체

감시자본주의 시대 (354번째 책리뷰)

감시 자본주의 시대 - 권력의 새로운 개척지에서 벌어지는 인류의 미래를 위한 투쟁
쇼샤나 주보프 지음, 김보영 옮김, 노동욱 감수 / 문학사상사 / 2021년 4월

[책을 읽은 동기 / 읽은 후 느낌] 이 책은 AI를 비판하는 책 중에 하나에요. 이런 책들은 저자가 사회과학자이냐? 자연과학자이냐? 에 따라서 초점이 달라지는 것 같아요. 자연과학자쪽은 AI의 근본적인 원리에 결함이 있다에 초점을 맞추고 사회과학자들은 AI가 사회에 미치는 악영향에 대해서 자주 언급하는 방향으로 책이 만들어져요.

여기서 AI에 어떤 문제점을 있는지 알기 위해서 책을 읽다보면 자연과학자들 책에서는 AI의 근본 결함으로 세상을 못바꾼다 혹은 효과가 거의 없다라고 하는 부분을 원리와 결과로 제시하는 책을 읽다가(최근 MIT 보고서도 AI로 매출 증가한 기업은 5%뿐이라고 결과가 나오더라고요. 아마 앞으로 AI 비판책에 포함될 거에요) 사회과학자들이 AI의 결과값을 AI 기업이 발표한 결과로 매우 뛰어나지만 사회에 악영향을 준다는 책을 읽으면 혼동스러울수도 있어요. 양쪽 책에서 어디에 초점을 두었는지 확인하고 자연과학자 책에서는 원리와 원리적용, 사회과학자 책에서는 사회와의 연결된 작용에 초점을 두어서 읽어야 할 거에요. 사회과학자들이 근거로 삼을 수 있는 것은 어쩔 수 없이 회사가 발표한 자료가 될 수 밖에 없어서 그런 것 같아요.

이 책은 사회과학자이고 논리적으로 딱 맞추어져서 AI가 사회에 악영향을 주며 심지어, 쿠테타와 동급이라고 말하는데, 보통 AI에 대해서 비판할 때 AI가 결국 전체주의와 같다라고 보는 시각이 많아요. 그러나 이 저자는 새로운 것은 새롭게 분석해야 한다고 하며 전체주의와 다르게 생각하며 도구주의라는 용어를 제시합니다.

이와 같은 부분에서 논리를 전개할 때, 그 근거가 스키너의 '극단적 행동주의'에서 근거를 가져와서 스키너와 현재의 AI 개발자들의 고리를 잇는 추가근거를 제시하고 이것이 AI 개발자들의 신념이며 생각이고, 그 결과로 전체주의와 다르며 도구주의라는 부분을 보여줍니다.

이 책에서 AI 문제점에 대한 팩트가 초반 350페이지까지 나와요. 이 부분은 다른 AI 책에서도 다 이야기하는 것들이니까 여기까지는 다른 AI 반대쪽 진영 책들과 크게 다르진 않아요. 그러나 그 이후에 AI개발자들의 신념, 그리고 저자가 말하는 도구주의 특징등은 매우 독창적이며 논리적이에요.

그럼에도 저는 AI가 전체주의와 같다고 생각하는데, 이 부분은 책을 읽으며 더 생각해볼 문제에서 추가로 언급해보고, 이 책의 장점은 바로 AI 개발자들이 무슨 생각으로 개발하고 있는지 그들의 신념을 분석한 부분이에요. 제가 AI에 대해서 공부하고 직접 만들어보려고 하다가 그만둔 것은 AI 개발과정이 너무나 비윤리적이었기 때문인데, 이러한 부분을 죄책감없이 할 수 있는 그들의 신념이 스키너의 '극단적 행동주의'였다는 것에서, 그리고 인터넷에서 '극단적 행동주의'를 신념으로 받아들인 분들의 AI 관련 뉴스나 영상등에서 간혹 경험한 그들의 생각을 들어본 것을 생각해보면 이러한 부분에 고개를 끄덕여지게 되네요. 일반인들은 죄책감 없이 AI 개발자가 될 수 없는데 왜 할 수 있는지 알게 된 점이 이 책의 최대 장점이에요.

단지 저는 도구주의에는 설득되지 않았고, AI가 전체주의와 같다라는 부분임에도. 즉 책에 설득되지 않았지만 ★5개인 이유는 도구주의의 부분에서도 논리적으로 문제가 없고 근거가 타당하며, 이 저자가 도구주의라고 부르는 것도 저역시 AI로 변형된 전체주의라고 생각하는데 이 부분을 저자가 도구주의라고 부르기 때문이에요. 단지 이 책은 기업중심으로 기업이 AI를 사용할때는 타당하나 정부가 AI를 사용할때는 타당하지 않을 수 있으며 변형된 전체주의라고 더 폭을 넓힌 이유는 정부부분 때문이에요. (더 생각해볼 문제에서 언급할께요.)

AI에 대해서 우리가 어떻게 이 분야를 바라보고 규제를 어떻게 만들어야 할지에 대해서 많은 도움이 될 책이라고 생각되네요. 매우 만족한 책이에요.

[책의 특징 / 장점] 제가 구분하는 책의 내용은 '감시 자본주의의 탄생(개인화, 2차현대성, 전체주의) - 3차현대성(사생활침해, 약관강요) -기술적 제도적 감시자본주의 요건과 미래의 희망(잊힐권리) - 감시자본주의 형성과정(구글 페이스북 광고) - 규제회피(구글의 규제전 정부기업 공동감시체계) - 감시확장(구글스트리트뷰, 구글글래스, 모바일, 페이스북 패턴및 좋아요 버튼, 마이크로소프트 OS, 통신업체, SaaS), - 정보 분업과 악용 - 현실감시(IoT, 웨어러블, 스마트시티) - 감시영역(신체, 성격과 감정, 행동수정) - 미래 - 전체주의와 도구주의 - 정부권력과 결탁한 도구주의 - 도구주의가 바라는 미래 - 도구주의와 사회 및 집단 - 중독, 비교 정신건강 - 성역과 빅아더 - 감시자본주의 쿠테타와 민주주의를 키지기 위한 저항' 으로 구성되어 있어요.

감시 영역까지는 AI가 어떤 분야에 악영향을 주는지 예시를 서브로 표시했는데, 이 부분은 어떤 특징이 있는지 말한 후에 뒤에 감시자본주의의 여러 주장의 근거로 사용합니다. 어떤 분야에 악영향이 있는지 표시함으로서 우리가 쓰는 제품이나 행동중에서 AI로 인해서 얼마나 많은 위험이 있는 제품이나 서비스 사용 혹은 우리가 위험한 행동을 무심코 했는지 알리기 위해서 이 부분을 예시로 작성하였어요.

글의 특징은 우리가 잘 알고 있는 단어가 아니라, AI나 정보 수집으로 이루어지는 현상은 과거에 없는 현상이므로 저자가 직접 단어를 만들어서 그 단어를 이용한다는 특징이 있어요. 그래서 우리가 잘 알고 있는 과거의 특징이 비슷한 전체주의 등으로 AI를 비판하는데 이러한 것에 비해서는 조금 낯설게 보이는 현상이 나타나는 것 같아요.

그러나 이 책은 앞에서 근거로서 AI 혹은 개인정보 수집으로 이루어지는 기술들의 문제점을 말하고 행동주의와 결합하여 미래를 예측하며 대안을 제시하는 책으로서 구조로 논리적으로 문제없이 구성되어 있습니다.

책의 장점은 다음과 같습니다.

① 인공지능의 근본 목적을 잘 설명해줍니다.

"다른 사람들이 우리를 더 잘 통제할 수 있도록 우리의 삶을 행동 데이터로 만드는 것이 착취의 본질이라는 점이 핵심" p144

이 책의 앞부분은 AI나 데이터 수집으로 이루어지는 기술의 문제점을 다루게 되는데, 이 부분은 다른 책과 크게 다르지는 않아요. 350페이지까지 계속 이어지는데, 그만큼 문제가 많으니까요. 뒤에 행동주의를 통해서 이 부분이 왜 근본 목적인지까지 AI문제점과 결합하여 알 수 있어요.

② AI기업들의 책임회피를 확인할 수 있어요.

행동주의가 문제가 많지만 AI 기업들이 어떻게 이러한 책임에서 회피하고 있는지를 잘 설명해줍니다.(p157등) 이러한 주로 말장난등으로 손실이 소비자나 국민에게 있음에도 마치 정상적인 것처럼 말하면서 책임회피를 하는 방법을 알게 된다면 더 잘 이문제를 이해할 수 있을 거에요.

③ AI 기업들이 포획을 하는 방법을 말해주어요.

"구글 또한 기업로비 단체인 ALEC의 회원임을 순순히 인정했다. ALEC는 총기규제와 온실가스 배출 규제를 반대하고 투표억제, 담배산업 감세등 극우파의 주장을 옹호하는 것으로 알려져 있다. 한편 2014년 구글 정책 펠로우의 명단에는 구글에 정보와 권력이 집중되는데 앞장서서 사울 것 같은 민주주의와 기술센터Center for Democracy and Technology, 전자 프런티어 재단Electronic Frontier Foundation, 프라이버시 미래 포럼Future of Privacy Forum, 전국 소비자 연맹 National Consumers League, 시티즌 랩Citizen Lab, 시민의 권리 협회Association por los Derechos Civiles등의 비영리 조직 사람들이 대거 포함되었다." P185

이건 신념과 관련없는 거에요. 구글은 민주당 당선을 위해서 행동조작을 하기도 했어요. 이들은 자신의 이익을 위해서 포획을 하기 위해서는 수단과 방법을 가리지 않아요. 이렇게 포획을 당한 단체, 개인들 중에서는 우리의 권리를 보호하는 단체도 포함된다는 거에요.

우리가 AI의 문제점에 대해서 언급하는 사람들과 그렇게 할 듯한 사람이 문제점을 말하지 않거나 오히려 옹호하는 경우, 이들이 포획을 당한 사람인지 아닌지 구분해야 하는 더큰 문제가 생긴거에요.

이들의 포획은 생각이상인데, 이는 더 생각해볼 문제와 연결되므로 그때 다시 언급할께요.

또한 이런 포획으로 규제가 적절하지 않았기 때문에 AI 기업들은 규제를 회피하면서 마음껏 국민과 소비자들에게 손해를 끼치고 기본권을 침해하는 등의 활동을 하게 되는데(p210등) 포획에 대한 2차 피해에 관한 부분도 잘 나타나 있어요.

④ AI 기술의 문제점과 그 기술을 이용한 횡포를 잘 알려줍니다.

필요하지 않은 기능을 덧붙여서 개인정보를 수집한다든지(p310등), 내 돈 내고 스스로 감시를 당하는 현실(p331등) 다양한 개인정보 수집 상술들을 소개합니다. 특히 저도 내 돈 내고 나를 감시하는 도구를 살 수는 없다라고 하고 있어요. 특히 저는 감시도구를 넣기 위해서 고의적 진부화를 하는 기업도 알고 있는데 문제가 심각해요. 진부화란 고장이 나지 않았음에도 고장난듯 작동하는 기기를 의미하는데 이런 기업 두곳을 알고 있어요. 한곳은 불매중이고 다른 한곳은 사용중인데 교체할까? 생각중이에요. 근데 교체해도 다른 곳은 이미 감시도구로 서비스중이라서 고민중이에요. 그냥 지금 사용하는 감시안당하는 도구를 사용하면 되잖아~! 진부화해도 안바꾸니까 이젠 진부화를 안하고 있기도 하고요. 진부화를 하면 그 기업의 기술력의 의문을 사람들이 제기할 거에요. 일부는 서비스에서 이탈하겠죠.

이 부분 역시 책의 앞의 대부분인데 다 소개 못하는 점 아쉬워요^^. 얼마나 많은 위험이 있는지를 책을 통해서 아셨으면 좋겠네요.

⑤ 재식별 기술을 소개합니다.

저자는 비식별 데이터가 재식별 됨을 소개합니다.(p337) 이것이 중요한 것은 우리나라 비식별 데이터가 동의없이 수집, 활용, 판매될 수 있다는 규제답지도 않은 규제를 가지고 있기 때문이에요. 미국 사정과 다른 국가에서, 특히 한국에서 비식별 데이터로 인한 사생활 침해가 문제가 많은데 정부는 규제할 생각을 하지 않아요. 이런 부분의 정보가 필요한데 이 책에서는 나오고 있어요. 특히 한국에서는 비식별 데이터에 태그를 달 수 있어서 식별 데이터랑 차이도 없어요. 그럼에도 동의 없이 수집, 활용, 판매가 가능해요. 왜 규제하지 않을까요?

⑥ AI 기술이 행동주의와 연관을 가지고 있으며 저자가 만든 새로운 단어인 도구주의를 잘 설명하고 있어요.

AI는 동기에 관심이 없으며(p489등), 개인의 자유등을 빼앗으며(p508등), 민주주의를 파괴하고 반대하며(p515등), 누군가가 정한 특별한 좋은 행동을 강화하기 위해서 행동강화를 하며(p525등) 반대로 나쁜 행동은 억제하기 우해서 부정적 행동강화(p528등)를 한다는 거에요. p528페이지 문장은 더 생각해볼 문제에서 인용하도록 할께요.

여기에서 부정적 행동강화를 제외하고는 행동주의 신념이에요. 이 것은 《월든 투》를 읽으보면 똑같은데 《월든 투》가 행동주의자들의 이상향을 그린 유토피아 소설이에요. 독자들은 전체주의를 비판한 디스토피아 소설로 이해하지만요. 단지 월든 투에서도 수 많은 규제가 있는데, 부정적 행동강화를 하면서도 스스로는 안한다고 하여요. 이것은 그들의 연구가 비윤리적인데 이 비윤리적 연구를 하기 위해서 그들만 규제를 안받는 거에요. 이러한 이유는 행동주의자들은 사람이지만 그 밖의 사람들은 실험실의 동물이나 다름없기 때문에 어떠한 권리도 인정받지 않아요. 그들은 우리를 실험물로 보고 있으며, 그들이 원하는 좋은 행동도 집단적 효율성이며 행복의 정의도 잘못 내려서 우리를 불행하게 만들며, 심지어 이 사상을 만든 스키너는 인간을 '고급 기계'라고 하기도 하였어요. 이것이 현재 일어나고 있는 일의 현실이에요. 심지어 행동주의자들은 민주주의도 부정합니다.

⑦ 규제의 필요성을 잘 말해 주어요.

행동주의와 결합한 인공지능에 대해서 규제의 필요성을 잘 말해줍니다. (p461, p691등)

[책의 단점] 한국인이라면 속아넘어가지 않을 부분이었는데 저자는 무료 소프트웨어 부분에서 AI 기업의 속임수 부분에 넘어갔어요.

① 한국에는 넥슨이 있어요. 무료 소프트웨어와 부분유료 개념을 발전시킨 세계 최초의 기업이지요.

저자는 무료 소프트웨어를 미끼로 개인정보 수집으로 수익을 내는 상황에 대해서 우리가 개인정보를 판다고 생각하는데(P295) 이 부분은 분명히 말하고 넘어갈 필요가 있어요.

무료 소프트웨어. 쉐어웨어를 제외하고 무료소프트웨어를 팔고 그 안에서 프리미엄 서비스를 작게 나누어 돈을 내고 구매하는 서비스는 한국에서 시작되었어요.

이 서비스는 왜 시작되었을까요? 한번에 파는 것보다 더 많은 수익을 낼 수 있어서 이렇게 시작된 거에요. 회사가 손해보는 사업모델을 시작할까요?

넥슨은 게임업체에요. 그들은 독과점을 이룰 수 없어요. 경쟁적 독점 시장에서도 무료 소프트웨어, 한국에서는 부분유료라고 불리는 판매 형태가 유료 소프트웨어보다 더 많은 수익을 내기 때문에 시작한 거에요.

심지어 게임업체들은 대부분 이러한 과금체계를 유료+무료와 섞어서 대부분의 업체들이 현재 사용하고 있어요. 그들도 한번에 파는 것보다 수익이 적었다면 시작하지 않았겠지요. 이것은 그들의 수익 때문이지 개인정보와는 전혀 관련이 없는 일이에요.

넥슨이 ai에 관심을 보인것은 부분유료 게임을 판매하고 10년 이상 지난 이후에 관심을 보였어요.

무료 소프트웨어라고 우리에게 개인정보를 요구하거나 가져갈 권리는 없어요. 그들이 더 수익내기 위해서 그들 스스로 선택한 거이며, 오히려 소비자들의 반대에도 불구하고 시작했던 거에요. 소비자들은 부분유료 게임에 대해서 반대했었어요. 특히 랜덤박스에 대해서는 매우 불만이 많았지요.

그러나 심지어 유료 소프트웨어, 유료 서비스, 유료 제품들도 우리들의 개인정보를 수집하는 것이 현실이기도 하지요.

[책에서 틀린 부분] 이 책은 사회학자의 책이므로 AI의 근본원리에서 자연과학자만큼 이해도가 높지는 못한 부분은 분명히 생각해 두어야 할거에요^^. 또한 자연과학자쪽은 AI와 사회와의 관계에 대해서 깊게 생각하지 못하지요. 이 책은 행동주의가 AI 개발자의 신념이라는 부분을 제시한 것이 매우 큰 장점이지만 역시 AI의 근본적인 원리에 대한 이해는 살짝 부족했어요. 이런 부분은 자연과학자들의 AI 비판 책에서 추가하여야 해요.

① 정확도 부분의 내용은 틀렸어요.

데이터가 많아질수록 더 정확해진다는 부분(p145)는 일반적으로 AI 개발자가 말하는 부분이지만 틀렸어요. 인공지능의 정확도는 데이터의 양 보다 우리가 알고 싶은 결과값이 얼마나 전체값에서 비율적으로 큰가? 부분이에요. 결과값이 매우 작은 부분으로 들어갈수록 AI는 결과값이 오류가 많아지고 심지어 100%에 가까운 오답률로 답할수도 있어요.

https://blog.aladin.co.kr/firefox/16571583

근거는 내용이 길기 때문에 다른 포스팅으로 대체합니다.

[책을 읽으며 더 생각해볼 문제] AI에 대해서 우리는 전체주의를 많이 떠 올려요. 그래서 우리는 《1984》를 생각하면서 "Big Brother is watching you" 혹은 "Big Brother"을 말하기도 하지요. 이러한 부분에 대해서 전체주의가 맞을지 이 저자의 도구주의가 맞을지를 살펴보도록 할께요.

① 저는 전체주의라고 언급해야 할 것 같아요.

"명단에 있는 사람들은 항공편, 고속철도를 이용할 수 없으며 일반열차라도 일등석이나 비즈니스 등급 승차권을 살 수 없다. 주택을 매매하거나 건축할 수 없고, 자녀를 수업료가 비싼 학교에 입학시킬수도 없다. 당이나 군대에 들어가거나 거기서 높은 자리에 오르거나 훈장, 학위를 받는 데에도 제한이 따른다. 불이행자가 회사인 경우, 주식이나 채권을 발행할 수 없고, 외국인 투자를 받거나 정부 사업에 참여할 수도 없다." P528

행동주의자들은 부정적 행동강화에 대해서 반대합니다. 그러나 그것은 앞서 말했듯이 《월든 투》를 보면 자신들에 대한 처벌 뿐이에요. 그들은 다른 사람의 행동조작을 하기 위해서 다른 사람들에게는 규제를 매우 세세한 부분까지 가하고 있으며 사람들을 차별하고 있어요. 위의 예는 실제로 AI를 통해서 이루어진 부분이에요. 위의 예는 중국이지만, 그 밖의 국가들도 AI를 통해서 입사등 많은 부분에서 차별이 이루어지고 있는 점을 파악해 볼 수 있어요.

그럼 행동주의자들은 처벌과 패널티를 하고 있으며 이러한 부분은 행동주의자들이 말하는 부분과 다르며, 이 부분을 무시할 수 없어요. 그러므로 자신의 이익을 위해서만 행동하여 도구주의로만 볼 수 없으며, 행동주의자들은 민주주의를 반대하며 엘리트론으로서 그들의 지배하는 세상을 만들려고 하는 전체주의자로 볼 수 있다고 생각됩니다.

우리는 행정학에서 엘리트론을 배울 수 있으며 행정학의 엘리트론의 무의사결정은 엘리트들이 자신이 반대하는 의견을 제거하거나 그들이 원하는 방법으로 세상을 끌고 가는 방법을 소개합니다. 그 방법은 다음과 같습니다.

ⅰ) 폭력의 동원: 정치 깡패 같은 것인데 이런 부분은 선진국에서는 적은 수에요.

ⅱ) 적응적 흡수: 위의 장점 ③부분의 포획처럼 매수하거나 혹은 더 생각해볼 문제처럼 패널티를 주어서 반대주장을 없애는 방식이에요.

ⅲ) 그 시대의 편견, 이데올로기등을 동원: 이것은 장점 ②부분처럼 이 시대의 편견등을 동원해서 그들의 책임에서 벗어나는 부분에서 나타나요.

ⅳ) 절차의 재구성: 절차를 바꾸어서 문제를 제기할 수 없게 하여요. 이 부분은 입법자들을 포획해서 할 수 있어요.

과거 전체주의는 국민을 감시하는 비밀 경찰과 이를 통해서 체제에 반대하는 사람들을 무력으로 처벌하거나 추방하는 방식을 취했어요.

그러나 지금의 AI를 위한 전체주의는 국민을 감시하는 것은 AI를 통해서 하고 있으며, 그 체제에 반대하는 사람들을 무의사결정을 통해서 통제하고 있어요.

저자는 이것이 도구주의에요 라고 할지는 모르겠어요. 그러나 저는 AI가 전체주의라는 주장을 굽힐 수가 없네요.

② 개인의 권리를 박탈했는데 AI 서비스를 받는 기업의 권리는 보호해 주나요?

이 책을 읽고 책리뷰를 쓰는 사이에, MIT 대학에서 AI를 도입한 회사들중에 단 5%만이 매출액이 올랐다는 연구결과를 발표했어요. AI 서비스를 받는 기업의 생산성이 증대되지 않는다는 것이 요즘 발표되고 있어요. 포획되지 않은 단체가 많다는 것은 희망적이에요.

그런데 AI 서비스를 받는 기업은 자신의 권리가 보호될 것으로 생각하고 AI 서비스를 받는 것인지 저는 궁금하더라고요.

AI 기업이 개인에 대해서 권리를 박탈하려는 행동주의자들로 구성되어 있는데 기업에 대해서 서비스할때는 기업에 대한 권리를 인정할까요? 저는 궁금해요^^.

[종합평가] 이 책은 AI에 대해서 이해하는 것에서 특히 AI 개발자들이 신념으로 삼는 행동주의와 연관해서 잘 설명한 책입니다. 여러분들이 AI에 대해서 이해하는데 AI문제점부터 시작해서 이 기술이 어떤 것을 목적으로 작동하는지 잘 알게 될거에요.

책 평점 - ★★★★★ (5/5) AI 개발자들의 신념에 대해서 다른 책에서 설명하지 않은 부분을 잘 설명한 책

책 평점 평균 - 3.06

책 평점 표준편차 - 1.08

책 평점별 권수 (디자인출처: Gap Charts V2)

★★★ ~ ★★★★★: 추천 책. ★ 4개 부터는 더 좋은 책을 의미합니다.

★★: 시간이 남는다면 볼만 한 책. 책에 일부 문제가 있는 내용이 있을 수 있습니다.

★: 비추천 책. 책에 심각한 문제가 있거나, 지식과 지혜를 얻을 수 없는 책을 의미합니다.

그림 내 폰트 출처: 고양체

다른 사람들이 우리를 더 잘 통제할 수 있도록 우리의 삶을 행동 데이터로 만드는 것이 착취의 본질이라는 점이 핵심 - P144

구글 또한 기업로비 단체인 ALEC의 회원임을 순순히 인정했다. ALEC는 총기규제와 온실가스 배출 규제를 반대하고 투표억제, 담배산업 감세등 극우파의 주장을 옹호하는 것으로 알려져 있다. 한편 2014년 구글 정책 펠로우의 명단에는 구글에 정보와 권력이 집중되는데 앞장서서 사울 것 같은 민주주의와 기술센터Center for Democracy and Technology, 전자 프런티어 재단Electronic Frontier Foundation, 프라이버시 미래 포럼Future of Privacy Forum, 전국 소비자 연맹 National Consumers League, 시티즌 랩Citizen Lab, 시민의 권리 협회Association por los Derechos Civiles등의 비영리 조직 사람들이 대거 포함되었다. - P185

명단에 있는 사람들은 항공편, 고속철도를 이용할 수 없으며 일반열차라도 일등석이나 비즈니스 등급 승차권을 살 수 없다. 주택을 매매하거나 건축할 수 없고, 자녀를 수업료가 비싼 학교에 입학시킬수도 없다. 당이나 군대에 들어가거나 거기서 높은 자리에 오르거나 훈장, 학위를 받는 데에도 제한이 따른다. 불이행자가 회사인 경우, 주식이나 채권을 발행할 수 없고, 외국인 투자를 받거나 정부 사업에 참여할 수도 없다. - P528