10년 전쯤 알파고로 인해서 인공지능에 대해서 사람들이 관심을 가질 때, 물론 알파고 이후에 우리 생활에 아무것도 바뀌지 않은 수준이었지만, 인공지능에 대한 기대가 일시적으로 높아졌어요. 책에서도 이번에 다시 인공지능 이슈가 되었을 때 살짝 그런 컨텐츠를 미리 준비한 책들이 많이 나왔지만, 게임에서도 역시 그런 것이 보였어요. 게임 시나리오에 인공지능이 살짝 들어가 있는 게임. 물론 이런 경우는 메인 퀘스트가 아니라 서브 퀘스트에요. 게임의 배경이 되는 세계관에 인공지능이 나올 필요가 없는 게임에서 넣을려면 서브 퀘스트 밖에 없으니까요. 메인 퀘스트에 넣으면 지속적으로 넣어야 하기도 하고요.
그런데 이런 부분에서 이번에는 행동주의자들의 사상이 많이 반영되어 있더라고요. 인공지능에서 행동주의자들은 민주주의 반대, 사생활 보호 반대, 법률을 인정안함. 개인의 행복보다 집단의 행복만 중요시하고 집단의 행복을 효율성으로 규정하여요.
다시 말해서 인간의 육체는 문제가 많으니 기계의 몸을 가져야 한다고 행동주의자들을 생각할 수 있고, 인간의 몸에 각종 칩을 설치해야 한다고 생각하는데 개인의 행복은 무시되므로 우리의 선택이나 강제로 설치하면 안된다는 생각은 인류가 제대로 된 지식을 가지기 전에 결정된 것이므로 그런 벌률도 무시할 수 있는 것이 행동주의에요. 행동주의자들은 개인정보보호 법률도 무시하는 경우가 많고 우리를 감시해요.
그런데 행동주의자들의 지식은 인간의 내면은 조사할 수 없으므로...우리가 어떤 행동을 하는 동기에 대해서는 계량화할수 없으므로 무시하고 계량화가 가능한 행동의 결과를 모아서 연구하는데, 정확도가 낮아요. 60~80%정도 그렇게 행동하면 연구자들은 이 가설은 맞다 정도로 생각하는 것이지요. 그런 행동주의 연구가 흥미롭긴 하지만, 그렇게 행동안하는 사람들도 20~40%가 존재하므로 행동주의 연구가 잘 맞는 것은 아니에요. 그리고 앞서 말했듯이 그들은 지식만 중요하게 생각하므로 개인정보를 많이 수집해야 한다고 하는데, 이런 적중률을 보이는 결과를 얻기 위함이고 실제로는 잘 맞지 않는데, 우리는 그런 것을 위해서 우리의 권리를 잃고 있어요. 그리고 그 권리를 잃고 행동주의자들의 잘못된 연구 결과에 의해서 우리는 판단되지요. 우리가 20~40%에 포함되는 성격임에도 개발자는 60~80%에 포함되는 영역으로 활동할 것이라고 생각하는 거에요. 여기에 맞춤 추천, 맞춤 광고 등이 이런씩으로 작동하지요. 실제로 잘 안맞아요. 여러요소를 적용하면 0.6 × 0.6 × 0.6 × 0.6 이런씩으로 요소별로 정확도가 낮아져서 결국 정확도는 매우 낮아지거든요. 우리의 동기를 모르니까요.
사람은 동기나 계량화 할 수 없는 이유로 행동의 결과가 달라져요. 어제 어떤 일본 게임으로 보이는 게임을 했는데, 이번에도 일본의 이지메(따돌림) 문화에 대한 게임이에요. 학교 폭력으로 따돌림을 당하는 아이가 따돌림을 피하기 위해서 기도를 했든데 그 기도를 악마가 나쁜 쪽으로 해결해준다는 그런 게임이었고, 따돌림을 정당화하는 일본의 이지메 문화쪽 게임이었어요. 이런 게임을 하면 매우 어색한 느낌이 들긴 하여요. 이게 앞서 말한 다른 게임밸런스 안맞았던 일본의 유명 프로듀서가 만든 게임에서더 이지메 문화를 옹호하는 시나리오가 나와서 문제라고 앞서 포스팅에 작성하긴 했지만요. 우리나라는 집단주의가 조금 강한 나라이지만, 이지메 문화와는 반대로 학교 폭력에 대해서 강하게 처벌하고 학교 폭력을 일으킨 사람은 공인으로 활동도 못하게 되어요. 그만큼 사회에서 문제를 제기하고 아동성범죄급으로 취급을 하지요. 한국에서는 유투버가 과거 학생시절 학교폭력을 일으켰다는 사실때문에 유투버도 못하는 상황이 되기도 하여요. 학교 폭력 가해자는 TV등에 나오는 공인 활동을 못하고 유투버도 포함되어 버렸어요. 이와 같이 사람의 본성을 연구하고 동기를 무시하는 행동주의자들은 결국 매우 중요한 요소. 바로 옆나라인 한국과 일본이 문화적으로 이정도로 틀린데, 이런 요소를 무시했기 때문에 올바른 결과가 안나올거에요. 인간이 본성으로 활동한다면 일본과 한국은 같이 이지메를 배척하거나 옹호해야 하여요.
이런 부분이 게임시나리오에 많이 나오게 되지요. 지금 하는 게임. TCG+RPG 게임도 이 행동주의 시나리오가 나왔어요. 에리카라는 캐릭터를 이용해서 에리카가 인간의 몸은 문제점 투성이이고 기계의 몸을 해서 불로장생을 해야 한다고 주장하지요. 이것에 대해서 이 게임은 결말은 우리가 선택할 수 있어요. 에리카의 생각이 틀렸다고 하거나 에리카의 생각에 동의하는 것이지요.
게임시나리오는 허구라 상관은 없지만, 자국에서 서비스하다가 시간이 많이 흐른 뒤에 글로벌 서비시가 된 게임은 약간 게임이 오래되었고, 어김없이 AI 스토리가 나오는데, 여기에서 알파고때는 없던 게임에서 자주 이런 행동주의자들의 사상이 게임시나리오에 나올때가 있어요.
행동주의자들이 많아졌다는 것이 느껴지고 있어요. 우리나라도 좀 위험해 보이는 시점이에요.
이러한 부분에서 인간의 지능에 대해서 인공지능이 자기 수리가 가능하면 이것에 의해서 진화론적으로 발전한다는 것도 역시 행동주의자들이 주장하는 것인데, 진화론이 생물학에서는 맞는 말이지만, 다른 사상과 연결되면 위험해요.
사회학과 진화론이 붙으면 강한 국가는 살아남고 약한 국가는 사라져야 한다는 논리가 되어서 식민지배를 정당화하는 사상으로 되었어요.
이것이 AI쪽에 와서는 행동주의자들이 AI만능설을 들고 나오는 것이지요. 진화론으로 AI가 발전해서 사람을 앞도한다고 하지만 이미 2가지 명확한 결과가 있어요.
1. 수학으로 AI는 자기 수리가 불가능하다고 증명되었어요.
2. 인공지능은 새로운 것을 만드는 것이 아니라 기존의 것을 조합하는 것이고 그럼에도 그 조합과정에서 기존의 데이터가 소실되어 없어진다는 것이에요.
1번은 수학증명을 직접 보셔야 하고, 몇몇 책에서 쉽게 설명한 책들도 있으니 직접 찾아보셔야 해요. 이미 아주 오래전에 증명되어서 알파고시절에 나온 책에서 봤어요.
2번은 인공지능의 결과물을 학습했을 때 5세대쯤 지나면 사람을 그리라고 하면 달걀만 그리는 상황이라는 것을 아실거에요. 인공지능 원리를 알면 지금 인공지능이 뭔가 창작하고 있는 것이 아니라 인간의 결과물을 조합할 뿐이라는 것을 알 수 있어요. 처음부터 진화라는 것은 없고 오히려 데이터가 소실되면서 퇴화만 있어요.
진화론은 생물학에서만 보세요. 다른 사상과 연결되면 말도 안되는 논리로 발전하는 경우가 많아요. 그럴듯 하게 들리지만, 실제로는 매우 위험한 사상이고 이것을 전문적으로 사회학에서 AI관련되어 이런 사상을 가지는 사람들을 행동주의라고 부르는 거에요.
이번에도 인공지능은 세상을 못바꿀 것이고 조용히 지나가는 것 같아요. 그러나 우리 주변에 행동주의자들이 많고 그들의 위험한 사상이 얼마나 많이 퍼져있는지 확인하였어요. 알파고때는 행동주의자들의 사상이 잘 알려지지 않았지만 그후 10년 정도 흐른 지금은 AI나 다른 부분에서도 행동주의자들의 사상을 쉽게 만날 수 있어요.
게임시나리오등에서 인공지능을 언급할 때등 많은 사람들이 행동주의자들의 사상을 그대로 가져와서 만든 경우가 많았기 때문이에요. 행동주의자들이 얼마나 위험한 사람들이고 얼마나 위험한 사상인지에 대해서 경고는 잘 나오진 않았는데, 책으로는 행동주의자들의 위험성에 대한 논하는 책들이 좀 출판되었어요.
이런 행동주의 사상이 몰래 침투하고 있지만, 그럼에도 일반인들에게는 잘 먹히진 않았던 것 같아요. 분명하게 알파고때보다 AI에 대한 사람들의 관심은 크게 줄어들었어요.
10년 뒤에 또다시 인공지능은 되지도 않겠지만, 우리를 속일려고 나타날 거에요. 10년마다 돈이 떨어지면 주가를 올려서 자신이 그동안 받은 스톡옵션류의 주식을 팔아서 수익을 내겠다는 거에요. 그렇기에 10년정도 주기에 한번씩 인공지능은 되지도 않으면서 그럴듯 하게 되는 척 하는 일이 발생하여요. 10년 뒤에 살펴보면 되어요. 10년 뒤에는 속지 않으시길 바랍니다.
지금 하고 있는 게임. 에리카가 나오는 그 게임도 챗gpt로 한국어로 번역해서 게임을 하게 해주는 데 게임설명을 아무리 읽어도 이해가 안되어요. 게임시나로오도 너무 이상하고요. 대충 큰 흐름만 알겠다 정도이고 번역문제가 있는 게임이에요. 이런 부분에서도 AI 문제점을 잘 알려주어요.
그래서 에리카를 쓰냐고요? 행동주의 캐릭터 에리카의 경우, 초자연 종족 캐릭터인데, 초자연 캐릭터가 3개 밖에 없어요. 캐릭터 조합게임인데 캐릭터 부족에 시달리고 있어서(캐릭터가 너무 많아도 렙업시키기 힘들긴 한데 지금은 부족한 쪽이에요) 파견기능도 제도로 쓰기 어려워요. 지금 파견 기능 쓰려면 20캐릭터가 필요한데 현재 보유 캐릭터가 14개에요. 근데 그 초자연 캐릭터 3개가 모두 능력치가 어중간한데, 초공간에 좋은 카드 못넣게 하려는 개발자 의도로 보이는데, 캐릭터의 스킬 카드가 모두 고만고만하게 초공간 종족 캐릭터들이 스킬 카드 가지더라고요. 그중 에리카 스킬이 3캐릭터 중에서 초자연공간에 넣기 좋고, 3개 중 하나는 매우 허약해서 쓸 수 없어서, 즉, 캐릭터가 부족해서 쓸 수 밖에 없네요. 게임시나리오에서 에리카는 분명 배제하고픈 캐릭터이지만 초자연 종족을 써야 할때는 에리카가 들어갈 수 밖에 없어요.
그림 내 폰트 출처: 고양체
