이제 컨디션이 정상으로 돌아오는 것 같아요. 그러나 어제까지 미뤄둔일 일을 오늘 다 처리해야 하니까 오늘은 조금 바쁠 것 같다라는 느낌이네요.
지금까지 AI의 작동원리. 정확히는 AI중에서 Symbolic AI가 아니라 머신러닝의 작동원리를 보면 생산성도 믿을 수 없고, 그 작동원리 자체가 매우 비윤리적이기 때문에, 제작 과정에서 다른 사람들의 권리를 빼앗지 않으면 작동할 수 없으므로, 이렇게 개발할 수 있는 개발자를 구하는 것이 쉽지 않을 것이라고 생각했어요. 저 역시 인공지능 개발이라는 부분에 관심이 없어졌고요. 머신러닝 자체는 오래전에 나온 상당히 쉬운 수학원리로 이루어졌어요. 다시 말해서 그 수학원리로 인공지능이 되었다면 수학자들이 먼저 인공지능을 만들어서 수학계에서 인공지능을 통해서 연구가 될 것이지만, 그런 일이 일어나지 않은 상태에서 인공지능이 된다는 것 자체가 말이 되지 않았거든요. 물론 그 과정에서 비윤리적인 부분 다른 사람의 권리를 빼았다는 것이 문제가 되겠지만요. 이 부분에서 수학자와 인공지능 개발자의 차이점을 이야기하면서 수학자이기 때문에 못만들었다고 하겠지만, 과거 수학자들은 수학만 안했어요. 수학자이자 철학자이자 과학자이기도 했지요. 과거엔 그랬어요. 수학자가 수학만 하는 경우는 최근의 일이기도 하지요. 미적분을 만든 뉴턴등을 생각해보세요.
만약 여기서 Symbolic AI는 왜 빼느냐? 한다면 이 책에서 Symbolic AI가 안되는 이유가 설명되어 있으니 여기서 확인하시면 되어요. Symbolic AI는 가능성이 있으나 여기는 데이터가 필요하지 않아요. Symbolic AI를 하려면 데이터 센터같은 것은 만들지 않아요. 머신러닝같은 귀납적 인공지능이 아니라 연역적 인공지능이거든요. 그러나 Symbolic AI는 1990년대에 바둑에서 인간에게 이길려면 100년쯤 걸린다고 했어요. 그러나 Symbolic AI가 바둑을 만들면 머신러닝으로 만든 바둑프로그램은 Symbolic AI를 못이겨요. 단지, 하드웨어 성능이 매우 뛰어나야 하는데, 이게 이루어지려면 100년쯤 기다려야 하니까 우리가 AI가 제대로 되는 시기를 경험하기 어려울 거에요. 100세 시대라고 하니까 지금 태어나는 애들이나 할아버지 할머니쯤 되면 보게 되겠지만요. 우리랑은 관련없어요. 그것도 바둑정도에서 효과가 나올때쯤이지만요. 연역과 귀납의 차이에요. 저는 이 문제에 관심이 많았기 때문에 그 이유를 찾아서 따로 포스팅으로 만들었는데, 관심이 있다면 다음 포스팅을 보세요.
https://blog.aladin.co.kr/firefox/16571583
귀납 자체의 문제도 이야기하는 포스팅이에요. 연역으로 AI를 만들지 않는한 AI가 되지 않을텐데, 물론 연역으로 만들어도 괴델의 불완전성 정리가 적용되므로 약간의 귀납이 포함되어야 하지만, 주된 부분이 연역이 아닌 이상. 머신러닝이 귀납을 주로 쓰는 이상 지금은 위의 오류가 반드시 인공지능에 포함되게 되고 이것은 결국 지금은 AI시대가 아니라 AI가 안된다는 것을 의미하는 거에요.
조금 더 AI에 대한 기술적인 문제점을 자세히 알고 싶다면 이 책도 괜찮아요. 자연과학자가 쓴 AI의 문제점 책인데, 꽤 자세히 설명한 책으로 어렵지 않게 작성한 책이에요. 자연과학자의 책답게 기술적 영역에서 문제점을 이야기하고 있으며, 쉽게 설명했으므로 현재 AI에 어떤 문제가 있는지 쉽게 알 수 있어요. 특히 AI가 짜깁기에 불과한 결과를 어떻게 창의적인 답인 것처럼 AI 사용자를 속이는 과정이 잘 설명되어 있어요.
기술적인 문제에 대해서는 여기까지 이야기하도록 하고 이번에 MIT 대학의 보고서에서 AI를 도입한 5% 기업만 매출액이 증가했다는 부분에 대해서 알아보도록 해 보죠. 이것은 앞서 이야기한 《감시자본주의 시대》의 내용이 근거가 될 거에요. 인공지능 개발자들은 왜 이렇게 비윤리적 개발과정에 대해서 찬성할 수 있을까? 에서 그들의 신념에 대해서 작성한 《감시자본주의 시대》의 내용은 제가 따로 행동주의를 더 조사해본 결과 설득력이 있었고 AI 개발과정을 보면 제가 아는 범위에서는 행동주의만이 그것을 악으로 규정하지 않기 때문이에요. 적어도 ai 개발자들이 공산주의자는 아니잖아요. 공산주의와 직접민주주의신념중 일부도 악으로 규정하지 않지만, 공산주의 신념은 아닐테고(공산주의는 저작권등 지적재산권이 없음) 그들이 생산한 것을 모든 사람들에게 똑같이 분배한 것도 아니므로, 자본주의를 가진다고 가정하고, 직접민주주의 같이 경우 국민의 사생활 보호 만큼은 더욱 강하게 권리 보호를 하고 저작권등은 약화되는 것을 주장하나, 사생활 보호에서 더 강화된 주장을 행동주의자들은 무시하고 있고, 국민의 참정권을 보장하지도 않아요. 행동주의는 전문가에 의한 지배(대리인이론으로 독재가 될 거에요. 전문가가 자신을 위해서 권력을 쓰면 행동주의자들이 주장하는 정치체제에서는 즉시 독재가 발현됩니다.)를 주장하므로 직접민주주의와는 또 같지 않아요. 직접민주주의자들은 정치적 보복을 받으면 안되므로 사생활 보호는 강조하고 직접 민주주의를 하기 위해서 국민들이 더 많은 지식을 얻어야 가능하므로 저작권등은 약화를 주장하는데 이와 다르지요. 그 안에서 제가 아는 다른 모든 신념은 행동주의자들의 데이터 수집을 악으로 규정하지만 오직 행동주의만은 악으로 규정하지 않았어요.
이러한 부분에서 이번 MIT 보고서는 생각보다 많은 내용을 함축하고 있어요.
5%만 매출액이 늘어났고 95%는 매출액이 늘어나지 않았다는 MIT 보고서의 결과는 두가지 상황에서 매우 긍정적인 효과에요. 물론 AI 개발자들에게는 매우 곤란한 결과이겠지만요.
① AI의 생산성은 허구다.
AI의 생산성은 다른 사람의 결과를 훔친 것에 불과했어요. 귀납의 문제에서 그들은 다른 사람이 권리를 훔쳐서 단지 살짝 바꾸는 정도로 출력하고서는 AI가 생산성을 가진다고 사람들을 현혹하였지요. 그리고 그 권리를 AI 개발자 혹은 AI 회사의 권리로 바꾸었어요.
이것은 결국 사회적인 생산성은 변함이 없어요. 단지 AI 개발자들이 다른 사람의 생산성을 훔친 것에 불과했기 때문에, 단지 다른 사람이 권리 A를 AI처리를 하면 AI 개발자의 권리 A로 바뀌고 다른 사람의 권리를 잃는 과정이 이어졌던 거에요.
그러한 과정을 하여도, AI의 처리 과정의 한계로 인해서 AI가 훔친것도 제대로 처리하지 못했다는 것을 의미하는 거에요.
흔히 하는 말. 쓰레기를 넣으면 쓰레기가 나온다라는 말이 데이터 처리 과정에서 쓰이는 말인데, 데이터가 정상적이면, 즉, 황금을 넣어도 공정 과정이 쓰레기면 결과는 쓰레기가 나온다가 지금 AI에 대해서 말할 수 있는 거에요.
제대로 데이터 처리도 못했다는 것이지요.
우리는 이 앞의 과정에 먼저 관심을 가져야 해요. 우리의 권리 A가 왜 갑자기 인공지능 기업 A의 권리로 바뀌는지에 대해서 의문을 표기해야 합니다. 우리의 황금이 왜 AI기업의 데이터가 되는 거죠? 라는 것이지요. 이것을 제대로 처리할 능력도 AI 기업에게는 없지만, 그 전에 우리의 황금을 왜 가져가서 소유권을 이전시키느냐? 하는 것에서 정부는 뭐하고 있어서 데이터 센터 짓는 것을 허락하고 우리의 권리를 무차별적으로 수집하는 것을 허락해 주고 있냐? 하는 거에요.
이번 정부는 무능력해서 이러한 문제를 해결할 능력이 없을 것입니다.
② 행동조작의 실패.★★★★★
이번에 매출액이 늘지 않은 것은 행동조작의 실패에요. 이것은 매우 중요한 결과에요.
우리의 사생활 데이터를 수집해서 다른 기업에게 팔면 기업은 이것 자체로 이익이에요. 그러다 보니 기업들은 우리의 사생활 데이터를 수집해서 팔수 있게 해달라고 정부에 요청하고 이번 정부도 행동주의 정부라서 이것을 수락한 것이나 다름 없어요. AI를 한다고 하고 실제로는 국민들의 권리를 팔아넘기는 것이지요.
그럼 우리의 데이터를 누군가는 사갔다는 것이지요. 그 사간 회사는 그 데이터로 무엇을 할까요? 그것은 우리의 행동조작을 하는 것이에요. 행동조작이라는 것은 우리의 다음 행동을 그들이 원하는 행동을 하는 것이에요.
예를들어서 특정 제품이나 서비스를 구매하거나 혹은 특정 정당에 투표하거나 하는 것을 의미하는 것이지요. 전자는 기업이 후자는 정치인이 바라는 결과일거에요. 그러나 양쪽 모두 소비자들이나 유권자는 행복하지 않아요. 결국 필요없는 물건이나 서비스를 구매했거나 혹은 자신이 원하지 않는 정책을 하겠다는 정당에 투표해서 결국 정책만족도가 낮아지며 제품이나 정치에 대한 만족도가 떨어지게 되어요.
그러나 이번 결과에서 무려 95% 기업이 행동조작에 실패했다는 것을 의미합니다. 행동조작이 성공했다면 대부분의 기업들의 매출액이 증가했다는 결과가 되는 거에요.
《당신은 데이터의 주인이 아니다》라는 책에서보면 행동조작은 실제로는 5%의 사람들 정도에게만 효과가 있다는 내용이 나와요. 행동조작의 결과는 저도 정확히는 알수가 없어요. 그건 제 분야를 벗어나기 때문이고 행동심리학, 행동경제학등의 영역이기 때문이에요. 저는 이론적인 부분으로 제 영역을 책을 읽으며 넓혀 가지만 아무래도 실험 결과에 의존하는 분야는 제 영역으로 넣기가 힘들어요. 하지만 이 결과들은 대부분 재실험이 불가능한 실험 형태로 결과가 발표되는데, 예를들어서 특정 플랫폼에서 실험한 것의 결과는 다른 사람들은 그 플랫폼에서 실험군과 대조군으로 실험할 수 없으므로 재실험이 불가능해요. 그러나 대부분의 AI 기업들의 실험결과를 과장하므로, 이러한 부분도 기업이 발표하는 부부은 과장되어 있다고 예측해 볼 수는 있어요. 그리고 그런 결과가 이번에 나온것이지요.
이번 결과는 그런 행동조작이 95%의 기업에서 실패했다는 결과이지요. 이런 행동조작도 비윤리적이기는 하여요.
게다가 이런 행동조작이 실패했다는 것에서 95%기업이 AI를 지속할 이유도, 95% 기업이 데이터를 구매할 가능성도 없어질 것으로 보고 있어요.
다시 말해서 우리의 정보를 수집해서 팔아서 수익내겠다는 업체들이 저 5%속에 포함되어 있고, AI 장비를 만들어서 파는 업체도 저 5%에 속해 있겠지만, 결국 성과는 없으며, 행동조작도 실패했으므로 이쪽 수익이 대폭 감소하게 될 것이며, 이래도 규제안할래요? 라고 정부에게 물어봐야 할 것 같아요.
행동조작자체도 비윤리적이지만, 이런 결과가 나온 것은 매우 희망적이기도 하여요. 우리가 꿀벌이나 개미같은 생태계가 되지 않을 것이라는 의미이니까요.
행동주의자들은 인간의 본능을 연구하는 분야라고 할 수도 있을 것 같아요. 그러나 우주에서 인간이 얼마나 뛰어난 종인지는 알수 없지만, 인간이 분류하는 하등동물은 본능에 의해서 살아가는 동물이고 고등동물은 본능을 이성으로 제어하는 동물을 의미하지요. 인간도 동물이므로 본능은 가지고 있겠지만 인간은 다양한 장소와 시간대에서 문화를 만들고 그 문화에 의해서 본능을 제어하고 있어요. 그리고 그것은 다양한 문화권에 있듯이 방법이 다양하지요.
본능을 연구한다고 해서 그 본능대로 사람들이 움직일 확률은 매우 적을 거에요. 그래서 5% 사람만이 행동조작에 걸리게 되는 것이지요. 이것이 행동주의자들의 실패라고 보고 있어요.
행동주의자들은 집단의 효율성만을 생각하는데 그 효율성도 단순히 현재 가장 좋은 방법을 찾는 것이지 미래에 대한 부분도 제대로 적용하지 못하고 있어요. 꿀벌이나 개미같은 생태계에서 모든 개체가 집단의 효율성을 위해서 최선을 다하는 그런 형태의 삶이 사람들을 행복하게 만들어줄수도 없어요. 인간은 본능에 따라서 행동하는 개체가 아니기 때문이지요. 또한 이런 사회는 발전도 없어요.
오히려 행정학의 연구에 의하면 많은 규칙을 가질수록 사람들의 창의성이 제한되어버리는 효과가 일어난다는 연구결과가 있는데, 이러한 행동주의자들이 하려는 많은 제한. 그들은 환경등을 조절해서 사람들이 하나의 행동을 하게 만들려는 것 역시도 보이지 않는 같은 조건이므로 사람의 창의성을 줄이게 되며 이러한 부분은 발전없이 계속 같은 일만 반복하는 개미나 꿀벌의 행태를 사람들이 하게 될 것이라고 보이게 되지요. 게다가 행동주의자들은 사람들을 고급 기계라고 하기도 하였어요.
이러한 과정에서 다른 사람들이 만든 여러가지 부분들을 제한없이 행동주의자들은 수집해도 되고 그것으로 우리의 행동을 조작해서 행동주의자들이 선거 혹은 경제적 이익에서 여왕벌이나 여왕개미처럼 될 수 있다고 생각하는 것은 무리에요. 이런 생각 자체가 용인되어서 안되어요.
인간의 삶은 제자리에서 머물러 있는 개미와 꿀벌과는 다르기 때문이기도 하고, 특정 누군가가 여왕벌, 여왕개미가 되는 것을 인정할수도 없어요. 우리는 독재를 용인할 정도로 어리석진 않잖아요.
그러나 이런 작은 이익에 눈이 멀어서 사람들의 권리를 빼앗으려고 하는 것과 그것을 허용하는 정치나 기업은 문제가 있어요.
우리나라는 앞으로 정체된 사회를 겪게 될 것으로 보고 있어요. 이미 행동주의자들이 우리나라의 정치에 너무 많아요. 게다가 기업들도 작은 이익에 눈이 먼 상황도 매우 우려스러워요. 게다가 95% 기업은 이번에 실체를 제대로 경험하기도 하였을 거에요.
우리를 본능대로 살아가는 존재로 인식하는 행동주의자들은 큰 실패를 할 거라고 보고 있어요.
이런 부분은 성숙효과를 극대화시키면 해결될 수도 있어요. 즉, 행동조작에 대한 정보를 많은 사람이 알면 알수록 행동조작의 결과도 줄어들게 될거에요. 이것만으로 인간은 본능에 따른 행동을 제어할 수 있는 존재에요. 사회학 실험에서 실험결과가 훼손되는 이유로 성숙효과가 있는 것처럼요.
이러한 행동주의자들은 우리의 권리를 포기하면 미래는 마치 희망찬 것처럼 말하더라도 결과는 5% 기업 이외에는 아무런 효과가 없었고, 그 5% 기업도 우리와 그 결과를 나누지 않았어요. 우리의 권리 포기가 그들의 권리 취득이고 그들의 수익 증대라는 점에서 이 허구가 언제까지 갈지 모르지만 행동주의자들이 아닌 국민을 위하는 정치인이 필요하고 우리가 가는 이 시행착오적 현상이 빨리 정상화되길 기대해보고 있어요.
어쨌든 한국은 최대 5년은 정체되고 망했네요. 이번 무능력한 정부가 더 한국을 망치지 않게 잘 감시해야 해요.
그림 내 폰트 출처: 고양체