확률과정 모델

queueing theory, stochastic model, Markov chain 이런 것들이 궁금해지기 시작하는데, 확률공부를 꼼꼼하게 한 적이 없어, 어떻게 할까하던 차에, 잘 정돈된 책이 생겼다. 이호우 의 <대기행렬이론>에 잘 정리되어 있었다.

궁금했던, 확률생성함수 도 잘 나와있고, 전체 1000페이지에서 확률부분이 300페이지가 넘으니까, 그동안 미뤄덨던 확률공부와 대기행렬 을 천천히 보면 될 듯 하다.

그리고 저자는 연습문제 풀이로 따로 책을 만들었다니까, 참조하면 좋겠다.

NLP 강의 듣기

NLP(Natural Language Process) 분야는 또 하나의 머신러닝의 장이다. 하지만, 일반적인 시각적 이미지를 대상으로 하는 것과 언어를 대상으로 하는 것에는 많은 차이가 존재한다. 이미지는 직관적으로 어떻게 분류할지를 알 수 있는 경우가 빈번하지만, 언어가 대상인 경우는 그렇게 직관적이지 않다.

그리고 그런 어려움이 있기 때문인지, 계속 변화하면서 발전하기 때문인지, 적당한 책을 찾기가 힘든 것 같다. 최근 NLP Deep Learning 과는 관련이 많지 않지만, NLP 의 다양한 영역을 소개하는 책은 아래 책이다.

언어학 지식과 NLP 의 다양한 지식이 잘 소개되어있다.

정보검색에 관한 책은 한권이 번역되어 있었다. 구입해놓고 아직 배송되지 않아 정확하지는 않지만, VSM(vector space model)을 이용해 정보검색을 구축하는 방법이 설명되어 있다고 한다.

지금은 거의 자동으로 전처리 과정을 거치고, 언어의 의미에 관한 표현을 학습시키고 좋은 결과물을 내는 것이 현재의 NLP Deep Learning 이다. VSM은 시작점에 불과하고, 일반적인 다층 layer deep learning 과도 조금은 다른, 자연언어의 의미를 포착하려는 미묘한 노력들이 계속 진행되고 있다.

머신러닝 책 을 보면서...

요새 관심이 머신러닝 쪽으로 기울고 있다. 여기 저기서 강의를 줏어 들어보기도 하고, 누구나 인정하지만 만만치 않은 몇몇 책돌도 구입해서 시간을 들이고 있다. 본 책 중에서는 Bishop책이 제일 좋았다. 물론 그래프 이론 쪽은 아직 감을 못 잡아서 뭐라 말할 정도는 아니지만.

확률이 통신쪽과는 또 다르게 얽겨 들어가 있어, 처음에 감이 잘 안왔다. 머신러닝 책들을 조금씩 훍어 보니까, 계속 이론이 발전되고 있어서 그런 건지, 이쪽 분야 성격이 좀 그런 것이지, 대체로 세부와 유기적으로 연결되는 큰 그림을 잘 제시하지 못하는 것 같다. 어느 특정한 면을 잘 설명하거나, 혹은 큰 그림만 내놓고 세부와의 유기성은 좀 떨어진다던지, 아니면 probabilistic graphical model 처럼 좀 추상적이라던지 그런거 같다. Bishop 의 책은 그 균형이 잘 잡혀 있다. 게다가 저자의 글쓰는 스타일이 가르치는 것을 좋아하는 성격인 것 같다. 게으른 학생에게 입에다 떠 먹여주기보다는, 부지런하고 열의있는 학생에게 계속해서 자극을 주고 동기를 부여하며, 잘 찾아보면 칭찬 비슷한 것이 느껴지는 그런 선생님 스타일이다.

어쨌든, 비슷비슷해보이는 개념과 수식들 사이에서 좀 헤매다 보니, 읽고 이해한 내용을 정리하는 것이 정말 중요함을 느끼게 되었다. 노트에 그대로 옮기기보다, 자신의 말로 음미하고 감상하면서 다시 represent 하는 것이 중요한 것 같다.

중국 현대사 들여다보기

도올의 강의 '차이나는 도올'을 몇번 재밌게 봤고, 그의 새 책 <도올, 시진핑을 말한다>를 한 번 봐야지하고, 보관함에만 계속 올려놓고 있었다. 그동안 현대 중국사를 다루는 책이 2권 생겨 빠르게 한번 씩 보았다.

스펜스의 책은 현대 중국을 찾기 위해서는 청나라부터 시작해야 한다고 놓고, 만주족이 명나라를 접수하기 시작하는 때부터, 특히 강희제, 옹정제, 건륭제 3대 130년간에 걸친 통치기가 특히 청나라와 근대중국의 운명을 좌우했다고 주장한다. 여러 타당한 주장과 증거를 제시하며 중국공산당 집권까지 계속 이어진다.

보겔의 책은, 주제가 정치적인 영역인 것을 감안해도, 등소평의 정치적 활약을 너무 중심에 놓고 집중적으로 700페이지 넘는 책의 많은 부분을 채웠기 때문에, 등소평이란 사람은 잘 눈에 들어오지 않았다. 오히려 분량은 적은 모택동에 대한 인물 묘사가 더 실감났다. 그리고 아무리 평전이지만 너무 다큐멘터리 느낌이 강해서, 지루한 감이 있었다. 보겔의 이 책을 읽은면서, 내내 중국저자의 고대시대, 중세시대 인물(진시황제, 당태종...)에 대한 평전과 대비되면서, 참 세상은 공평하구나 하는 생각이 계속 들었다. 중국저자의 평전들은 그 인물에 대한 거의 완벽한 문헌조사를 기반으로 하는 것 같다. 문헌에 담긴 내용을 잘 정리해서 평전을 쓴다. 어떤 면에서는 문헌으로 보는 그 인물에 대한 '고증학'이라는 생각이 들 정도다. 그런데, 그게 다다. 인류학이랄까 그런 측면에 대한 접근이 잘 보이지 않는다. 반면 스펜스의 책이 좀 덜하기는 하지만, 보겔의 책은 중국인들이 스스로 이해하는 방식으로 보는 등소평에 대한 접근이 잘 보이지 않는 것 같다. 등소평이나 중국인들을 움직이게 하는 중국문화의 방식 같은 것에 대한 이해가 잘 보이지 않는다. 그래서 중국저자와 다른 방식으로 지루함이 있다.

풍문으로 듣기에는, 도울의 책이 이런 서양인들의 현대중국에 대한 이해를 뛰어넘는 방식으로 시진핑을 잘 전달하고 있다는데, 과연 그럴지 읽어 볼 일이다. '차이나는 도올'을 흥미롭고 인상깊게 즐겼다. 인간 중국인들의 모습을 곳곳에서 확인했던 거 같았고, 시진핑과 현대 중국에 대한 충분한 워밍업이 되었다.

통계물리, 열역학 ...물리에서 counting

수학과 다른 물리적 의미 혹은 해석 은 낯설고 복잡한 물리 교과과정에서 중심을 잡을 수 있는 소중한 방향타다. 그렇지만, 요즘은 이 물리적 의미의 상당 부분이 counting 이 아닐까 하는 생각이 드는 중이다. '셀 수 있도록' 물리적 형식과 내용을 조성한 후에는 말그대로  해당 물리량을 세는 것이 다가 아닐까 하는 생각이 든다. 거꾸로 말하면 셀 수 있도록 자기 나름대로 소화할 수 있으면 어느 선은 물리 내용을 소화한 것이다.