● 블로그 쓸 때 대본은 없어요. 그래서 어제 빠뜨린 것 (경제위기에 관한 일상)
블로그 쓸 때 대본을 정해놓고 다듬어서 쓰는 것은 아니에요. 책리뷰도 마찬가지지만요. 유투브 방송에 관한 책을 읽을 때 많은 유투버들이 대본을 작성해놓고 방송하는데 자신은 그런 것 없이 하는데 다른 사람들도 그렇게 하는 줄 알았다고 한 책도 봤는데, 저도 그 전날 어떤 생각을 하거나 어떤 느낌을 받으면 그걸 기억했다가 그냥 블로그 쓸 때 써요. 책리뷰나 게임리뷰도 그렇고요. 그런데 이렇게 대본 없이 작성하다보면 가끔 써야 하는데 빠뜨리는 것이 뒤늦게 브라우저를 끄고 나서 생각날 때 있어요. 그전에 생각나면 글을 수정해서 바꾸면 되지만 그 후에 생각나면 나중에 비슷한 주제가 생각나면 작성할거야~! 하면서 그냥 넘어가긴 하여요. 근데 인과관계에서 빠뜨린 것이 있으면 살짝 그렇긴 하여요.
어제 경제위기가 있을 수 있다는 것은 과거 부동산으로 인한 경제위기가 일어날때 버블을 일으킨 투자금을 넘어선 금액이 AI에 투자되었는데, AI는 주택만큼 사용하지도 않고 수요도 그정도 없다는 거에요. 결국 경제위기가 발생할 만큼 에너지가 축적되었는데 언제 화학반응이 일어날지는 저도 몰라요. 하는 거에요. 곧~! 이라고 밖에 못말하겠네요^^. AI로 말단부 반도체까지 왔다면...어차피 B2C가 별 볼일 없어서 AI기업이 오르는 것이 아니라 소부장만 오르는데 시스템 반도체도 아니고 메모리 반도체까지 왔다면 시간문제인데 좀 급박한 시간 일지도...라는 생각이 드네요. 여기까지 오기 전에 터져야 하는 것이 맞을것 같거든요.
그러나 저의 매매법에서는 어제 포트폴리오 종목수 감소에서 포트폴리오 종목수 상승으로 바뀌었어요. 신규로 매수할 종목을 찾아야 하는 시기가 되었네요. 평소에 봐준 종목이 너무 많이 상승한 종목도 있어서, 작년 탑티어로 뽑아둔 종목은 다른 사람도 탑티어로 봤구나 하고 지나가긴 하였네요. AI와 관련된 종목은 아니었어요. 증권사 스몰캡 리포트로도 나왔고요. 좀 더 일찍 포트폴리오 종목수 증가로 바뀌었다면 매수했을지도 모르지만 포뮬러 플랜(적립식 매매)인지라 조금밖에 수익 못냈을 거에요^^. 다른 탑티어나 그 정도로 분류한 종목들을 매수하기로 했어요. 그러나 적립식 매매는 마켓타이밍을 안봐서 경제위기가 발생해도 적립을 하는 것 밖에 없긴 하여요. 하지만 이 방식이 저랑 가장 잘 맞는 것 같고요.
● 뉴스 읽기 4월 17일
뉴스주소: https://www.msn.com/ko-kr/news/other/ai%EA%B0%80-%EC%A0%84%EC%9F%81-%EA%B2%8C%EC%9E%84%EC%9D%84-%ED%96%88%EB%8D%94%EB%8B%88-%EB%AA%A8%EB%91%90%EC%97%90%EA%B2%8C-%ED%95%B5%EC%9D%84-%EC%8F%98%EC%95%98%EB%8B%A4/vi-AA20nfcT?ocid=socialshare
뉴스제목: AI가 전쟁 게임을 했더니 모두에게 핵을 쏘았다.
AI에 관련된 가짜뉴스급 기사와 유투브 동영상이 너무 많은 것 같아요. 어렇게까지 속여서라도 AI 팔고 싶냐? 라고 묻고 싶어요. 개발자와 AI판매 회사들은 너무 뻔뻔해요. 어차피 그래서 사용해보면 바로 엉망이라서 안쓰게 될 것이 뻔하지만요.
그래서 그나마 제대로 된 기사에서 가져왔는데 AI의 성격을 제대로 파악해 보도록 해봐요. 가짜 뉴스 기사를 가져올수는 없잖아요.
이 영상은 일주일 전쯤 나온 것 같은데, 저는 어제 봤기에...AI에 대해서 거짓말하는 영상은 아니에요. 그리고 저자는 AI에 대해서 어느정도 이해하고 있긴 하여요. 하지만 자신이 이해하고 있는 것과 시청자가 이해하고 있는 것이 다르다라는 것에 대해서 알려주는 내용이 적어서 제가 추가해보려고요.
일단, AI는 사람의 사고체계랑 틀려요. 이들은 전혀 다른 방법으로 연산의 결과로 의사결정을 하는거에요. 이거 어렵지 않아요. 앞의 제 포트폴리오의 종목수를 연산결과로 결정하듯이 그런 것인데 조금 더 복잡할 뿐이며, 이 과정에서 사람들이 과거에 했던 행동 결과를 가져와서 벡터값을 정해두고 같은 벡터값으로 치환해서 답을 찾는 것이 기본적인 방식이에요. 물론 여기에 데이터에 없는 값을 찾을려고 약간의 연역적 방법을 섞기도 하는데, 연역적 방법은 연산량이 너무 많아서 많이 섞진 못해요. 이 부분은 이해안된다면 인간과는 다르게 계산해서 결과를 낸다만 이해하고 넘어가시면 되어요. 뒤에 또 수학용어가 나오더라도 그냥 계산해서 답을 찾는다라고 치환해서 읽으시면 되어요.
영상은 현실을 단순화하였어요. 현실을 비디오 게임과 유사하게 만들고 30가지 행동을 할 수 있어요. 전략 게임과 유사한데 핵전쟁이 일어날수도 있고, 평화로울 수도 있어요. 이걸 상용화된 AI 3가지로 테스트 해봤더니 대부분의 경우 핵무기를 1회 이상 발사했고 핵전쟁으로 끝나는 시나리오가 많다는 거에요.
이 부분을 분석해보려고요.
① 군사작전과 외교에 관한 데이터는 한정적이고 적기 때문에 많은 할루미네이션이 발생해요.
아직 사람이 지능을 만든 것이 아니에요. AI의 행동은 과거에 사람이 한 행동이거나 혹은 할루미네이션이에요. 근접한 벡터값이 없기에 전혀 다른 벡터값에서 결과를 가져와서 엉뚱한 결과를 내는 거에요. 즉, 사람이 특정 상황에서 특정 행동을 했을 때 그 값을 저장시켜 두었다가(주로 감시해서 훔쳐감) 나중에 그와 비슷한 현재 상황을 벡터값으로 찾고 그 벡터값으로 정해둔 데이터를 찾아서 출력하는 거에요. 하지만 없을수도 있지요. 특히 군사작전과 외교에 관한 데이터는 한정적이에요. 또한 다 맞는 것도 아니며 여러가지 가치가 매우 충돌하는 지역이에요. 여기에서 결과가 핵전쟁이라는 것에서, 사람의 결과와 너무 다르지요. 사람은 아직까지 핵무기를 단 2회만 사용했어요. 거의 모든 결과가 핵전쟁이었으니까요.
이런 AI를 사용해서 기업을 경영하고 일을 맡길 수 있을까요? 사람과 유사하게 일을 처리할 것이라고 생각하지 마세요. 사고는 꼭 터져요. 이 게임에서 핵무기를 사용하는 경우가 거의 대부분이었다는 것처럼요.
또한 방위분야에서 AI를 너무 믿는 분들이 안나왔으면 하네요. AI결과값은 참고할 필요도 없어요.
② 실험실에서도 엉망이면 어떻하나요? 실험실 환경은 실제 환경과 달라요.
이 영상에서는 몇가지는 알수 있지만, 선택을 하기 위해서 어떤 자료를 주는지는 말하지 않아요. 하지만 실제 현실보다 정보의 양이 적을 거에요. 그리고 실제 선택지도 30가지 밖에 없어요. 현실에서는 훨씬 많은 선택지와 국방 문제는 국방 문제만이 아니라 다른 사회, 경제 문제등 많은 다른 문제와 얽혀 있는 문제에요.
이 정도로 단순화해서 결과는 엉망이에요.
보통 실험실에서 자율주행이 잘되었어요~! 하더라도 현실로 오면 바로 역주행이고 휴머노이드는 사망사고나 인간을 공격해요. 실험실 상황이 현실의 상황을 단순화시킨 곳이라서 그래요. 현실의 더 많은 변수와 더 많은 행동을 할 수 있을 때 올바른 판단을 하기 더 어려운 거에요.
그런데 실험실에서 이런 결과라면 이런 AI는 그냥 버리면 됩니다.
③ 추론이나 이유는 가져다 버리면 되어요. AI의 의사결정과 관련없어요.
이 부분은 영상 제작자가 알면서도 그냥 넣었는지 몰랐는지는 모르겠어요. AI는 인간처럼 생각하는 것이 아니에요. 그냥 연산 결과이며 인간의 과거 행동 참조이며, 인간이 만든 효율적 결정과정을 약간 연역적으로 추가시켜 줄 수 있는 수준에 불과해요. 사람은 그런 효율적 의사 결정 과정(예를 들어 경제학의 게임이론 혹은 앨리슨 모형)을 알아도 잘 사용하진 않아요.
이런 것은 튜링 테스트, 인간이 한것과 AI가 한것을 제 3자가 구분못하면 AI라고 AI개발자들이 이상한 주장을 하면서 시작된 거에요. 이때 AI가 인간의 한 결과물을 가져다가 보여주면 제 3자가 구분 못하겠죠. 실제로는 둘다 인간의 결과물이기 때문이에요. 단지 표절하는걸 들키면 안되겠지만요. 그래서 부분부분 나누어서 조금씩 이어붙이고 이어붙인 부분을 자연스럽게 만드는 것이 AI기술의 전부에요. 이건 AI가 아니라 인간이 한 데이터를 모아다가 참조하는 것 뿐이며 표절이에요. 지능을 만드는 것과는 거리가 있어요.
인간을 더 속이기 위해서 이유를 말해준다고 해도 별로 의미가 없어요. 이런것은 아주 쉽게 인간의 결과물로 이어붙여서 만들수 있어요.
예를들어서 의사결정은 의사결정대로 인간의 결과물을 벡터값에서 찾고, AI의 결과물을 추가적으로 벡터값에 넣어서, 소설, 영화, 에니메이션, 회의록, 책, 연설문, 뉴스에서 같은 벡터값을 찾아서 출력하면 되어요. 의사결정과 이유는 전혀 다른 이유가 붙을 수 있어요. 물론 겉보기에는 인과관계가 있어보이겠지만 그건 그렇게 보이는 과거 인간의 결과물을 가져왔을 뿐이에요. 또한 그렇게 만들어야 튜링 테스트를 통과하기 쉬워져요. 그러나 튜링 테스트를 통과했다고 지능을 만든것도 아니라는 거에요. 사람을 속였을 뿐이에요.
④ AI가 선택지 30개에서도 엉망인 이유는?
이 게임은 선택지가 30개 밖에 없어요. 바둑은 19 × 19 = 361 곳중에 한곳에 둬야 해요. 선택지가 확줄었죠? 그럼에도 AI 결과가 이래요. 더 간단한 룰임에도요. 사람을 모방할수 없어서에요. 하지만 현실은 더 많은 경우의 수와 더 복잡해요.
물론 이 말은 바둑이 간단한 룰과 경우의 수가 간단하다라고 생각할수도 있어요. 저는 바둑이 사랑받는 이유는 간단하고 경우의 수도 많지 않지만, 물론 361곳에 둘 수 있으므로 기보는 361! 정도 나올 거에요. 바둑돌을 따내는 경우도 있어서 다른 값이겠지만요. 하지만 바둑기사들은 이 간단한 룰이지만 극한의 능력을 보여주기 때문에 사랑받는다고 생각하여요. 바둑 자체는 간단한 룰이잖아요. 누구나 이해 할 수 있는 극한의 능력을 보여주는 것을 알 수도 있는 것도 간단한 룰 때문일 거에요. 바둑이나 체스가 사랑받는 이유이지요. 이 게임이 인간의 지적 능력을 넘가하느냐? 의 테스트가 아니라는 거에요.
그러나 다른 포스팅에서도 있듯이 그렇지 않은 경우, 보드 게임만 벗어나도 AI는 엄청난 오답률에 시달려요. 손이 여러개 달려 있는 그림. 손가락이 6개의 그림. 심지어 발이 사라지거나 그림자가 이상한 그림등. 그림만 이런 것이 아니라 다른 곳도 오답 투성이에요. 특정 지식을 물어보면 오답을 출력하는 사례는 너무 많아요. 의료 분야에서도 오답 투성이라는 것은 "실리콘 밸리 길들이기" 책에서 잘 다루고 있어요. 오답이 항상 나오는 것은 데이터를 참조하는 인공지능 방식에서는 고쳐질 수 없는 문제에요.
심지어 사람의 능력을 모방하기 어려운 분야는 선택지 30개 밖에 안되는 간단한 게임에서도 이런 지경이에요. AI가 세상을 바꾼다는 것은 인공지능 개발자들의 희망사항이고 B2C에서 인공지능이 전혀 힘을 못쓰는 상황은 이어질거에요. 물론 이래도 일부 CEO는 인공지능을 도입해서 이 게임에서 핵무기를 쏘는 행동과 같은 행동으로 회사를 위기에 빠뜨릴수도 있어요. 그게 좋으면 그렇게 하셔도 되어요.
이 영상의 의미를 잘 파악할 수 있었으면 하네요. 어차피 결말 중 일부에서 맥락을 이해하지 못한다라는 부분은 AI의 단점으로 항상 꼽히는 거에요. 맥락을 이해못하는 AI를 여러분이 사용한다면 여러분을 위험한 곳으로 잘 인도해줄거에요.
● 정동 심리학은 좀 어렵네요.
대학교 1학년 때 교양으로 전공과 관련없는 과목을 들어야 하는 것은 다 아실 거에요. 저의 사회과학 교양은 심리학이었어요. 교육학에 교육심리가 있어서 심리학을 보통 사범대에서는 1학년때 교양으로 안듣지만, 제 동아리 친구들이 이 과목을 같이 수강하지고 해서 들었던 과목이에요. 주로 행동심리학을 배웠어요.
그런데 이번에는 정동 심리학이라는 감정과 관련된 심리학과 관련된 정치학 책이에요. 책이 어렵다기 보다는 1장은 좀 모르는 지식의 책구조를 몰라서 늦게 읽었는데 2장부터는 이런 거구나~! 하면서 읽는것에서는 문제가 없었어요. 하지만 모르는 지식이다 보니 책을 읽다가 조금만 집중을 안해도 집중 안한 곳으로 다시 돌아가서 읽어야 하긴 하였어요^^. 보통 그렇게 지나가도 앞뒤 내용으로 그 단락은 어떤 내용이었겠다~! 가 되는 알고 있는 분야가 아니다 보니 집중이 조금만 떨어져도 시간이 조금 지체는 현상^^.
요즘은 잔잔한 노래를 켜두고 책을 읽는데, 노래를 듣는 것이 아니라 노래소리가 들리면 집중이 깨진 것이고, 노래소리가 안들리면 집중한 상태에요. 약간의 소음을 이렇게 사용하여요^^. 노래를 들으며 공부하는데 집중할 때 노래소리가 안들리는 것을 이용하는 거에요. 그런데 집중이 깨지면 다시 돌아가서 읽어야 하는 것 같아요.
하지만 오늘 이 책은 다 읽을 것 같네요. 1장 이후에 읽는 속도는 거의 회복했는데 본문만 500페이지에 가까울 정도의 볼륨 때문에 어제 다 못읽었어요. 내일은 책리뷰가 될 것 같아요.
그림 내 폰트 출처: 고양체
