수학과 역사, "우발과 패턴"을 읽고

우발과 패턴 - 복잡한 세상을 읽는 단순한 규칙의 발견
마크 뷰캐넌 지음, 김희봉 옮김 / 시공사 / 2014년 8월

수학과 복잡성 과학

복잡성 과학이 건드려 보는 여러 주제를 훑어 보면 세계의 심오한 단순함이 느껴진다. 입자든 지각과 맨틀이든 주식이든 인간관계든 간에, 그들을 관통하는 심플한 구조가 있다. 말하자면 이런 식이다. 수식으로 매우매우 간단하게 표현될 수 있는 비선형 방정식 하나가 발견되었다. 이 방정식은 나름 우주의 진리를 담고 있어서, 막 입자의 움직임에, 나비의 날개짓에, 구름의 움직임에, 경제학의 인플레이션이나 심지어 인간의 사회 내에서의 움직임에서도 관찰된다. 이 모든 것이 우연일 리는 없다. 그렇지 않은가? 언급된 모든 현상의 하부에는 우리가 미처 깨닫지 못한 플라톤적인 추상성이 도사리고 있음이 틀림없다.

아니 그런데, 복잡성 과학 이전에 수학이란 학문 자체가 그런 것 아닌가? 추상적 플라톤 세계에서 1과 1을 더하든, 전자현미경의 세계에서 원자 한 개와 원자 한 개를 결합해 헬륨원자를 만들든, 실제의 테이블 위에서 사과 한 개와 사과 한 개를 접시에 올려놓든 간에 이들 사이엔 역시 이것들을 관통하는 심플한 구조가 있기는 마찬가지이다. 그렇다면, 수학과 복잡성 과학의 차이는 무엇인가? 우리는 단지 세계가 복잡하다는 사실만 인지하고 있을 뿐이지 복잡함에 대한 설명을 하려 하지는 않는다. 그것은 수학자도 마찬가지이다. 수학은 실제 세계의 복잡함에 관심없다. 그들이 관심있어 하는 점은 단지 추상 세계의 복잡함 뿐이다. 복잡성 과학은 복잡함의 구조에 대해 납득 가능한 설명을 내놓으려 노력한다는 점이 수학과 다르다. 다만 복잡성 과학은 추상과 현실과의 끈을 이으려 언제나 노력하기 때문에 (물리학과 비슷한 이유로) 수학을 언어로써 사용하려 한다.

지수함수와 정규분포

이 책이 설명하는 어떤 수학에 대해 살펴 보자. 우리는 수학의 역사에서 가장 심플한 한 함수에 대해 증명한 적이 있다. 그것은 지수함수이다. 지수함수는 이렇게 생겼다. 

y=e^x

물론 우리의 직관으로는 이 함수의 심플함을 잘 알아채지 못할 것이다. 우리는 상수함수(y=1)나 일차함수(y=x)가 가장 단순하고 심플하다고 생각할 수 밖에 없다. 하지만 수학에 대해 조금이라도 공부해 본 사람은 (적어도 초월함수의 미적분까지 진도 나가본 사람을 말한다) 지수함수의 순수미를 어느 정도 느껴보았을 것이다. 이것이 내가 말하고 있는 ‘지수함수의 직관을 뛰어 넘는 심플함’이다.

지수함수의 심플함을 단적으로 나타내는 한 현상은 이것이 변환에 둔감하다는 것이다. 말하자면, 미분을 하든 적분을 하든 확대를 하든 축소를 하든 지수함수는 동일하다. 다른 함수를 살펴 보자면, 일차함수는 미분을 하면 상수함수가 된다. 상수함수는 적분을 하면 일차함수가 된다. (x축을) 축소나 확대를 일차함수는 계수가 변한다. 다항함수, 삼각함수, 로그함수 및 모든 복잡한 함수도 예외는 없다. 변환을 시키면 무엇이든간에 변한다. 그러나 지수함수는 이 모든 변환에 대해 불변이다.(적분이나 축소/확대의 +C에 대해선 조금의 양해를 구한다) 변한다는 것은 그 안에 그 만큼의 복잡한 구조를 내재하고 있다는 소리이며, 지수함수는 그 구조가 없다는 소리이다. 그만큼 심플하다고 할 수 있다.

아, 심플함의 대명사로 일컬어지는 또 하나의 함수가 하나 더 있다. 정규분포 또는 가우시안 분포라는 함수는 순수수학이 아닌, 통계 같은 응용 분야에서 매우 유명하다. 이 함수는 식으로 쓰면 엄청나게 복잡해 보이긴 한다. 그러나 이 함수는 이상하게도 일관적이지 않게 세계의 이곳저곳에 아무 때나 툭툭 출현한다. 사실상 심플이라기보단 빈번함 혹은 흔함 쪽에 가깝다. 이 함수의 심플함은 의미가 좀 다르다. 이  함수는 평균과 중간값, 최빈값이 동일하다. 어떤 함수들은 이 세 값이 다 다르고, 어떤 함수는 심지어 좌우대칭도 아니다. 세 값이 다르거나 좌우대칭이 아닌 함수가 얼마나 복잡한 양상을 띨지 상상해 보자. 정규분포는 정확한 좌우대칭과 더불어 관여하는 상수가 두 개밖에 안 된다는 점(평균=중간값=최빈값과 표준편차), 그리고 이곳저곳에 흔하게 발견된다는 사실로 인해 심플함의 범주에서 지수함수와 대결할 자격이 있다. (이쯤해서 ‘심플’의 절대적 정의가 필요할 듯 하지만)

두 함수 혹은 분포의 특성은 매우 다르다. 정규분포는 ‘안정’을 상징한다. 정규분포의 평균은 모든 개체들이 향해야 할 표준 혹은 모범으로 작동하며 표준편차는 개체들이 얼마나 모범에서 멀어져 있는지를 갈구는 채찍질로서 작용한다. (말하자면 그렇다는 것이고 ‘평균을 정상화하여 평균 아닌 모든 개체들을 비정상화하는 파시즘 같으니’ 같은 과한 의미부여는 삼가 주시길) 지수분포는 안정적이지 않다. 표준 혹은 모범이 없다. 평균이나 중간값은 있으나 그 자체에 커다란 의미가 있는 것이 아닌데, 왜냐하면 최빈값이 평균과 다르기 때문이다. 최빈값은 실질적으로 x=0이어야 일어난다. 즉 작으면 작을 수록 흔하다는 말이다. 모든 개체집단은 언제나 그보다 더 많은 집단에 의해 소외되며 가장 많은 개체 집단은 0이기 때문에 거의 의미가 없다.

또한 ‘거대 개체’에 있어서도 정규분포와 지수분포는 조금 다르다. 우리는 2미터나 2미터 30센티미터인 사람은 가끔 볼 수 있지만 10미터인 사람은 볼 수 없다. 이것이 정규분포의 특성이다. 앞서 언급한 확대/축소 불변성으로 인해 지수분포의 키를 가진 집단은 100미터의 사람도 흔하지 않지만 가끔 볼 수 있다. 

지수분포가 안정적이지 않다 했는데 실제로 지수분포의 특성을 보이는 현상은 ‘파괴’나 ‘혼돈’ 같은 부분에서 자주 출현한다. 예를 들면 지진 크기의 분포, 모래알이나 산사태 크기의 분포, 인간 역사 중 전쟁 크기의 분포와 같은 것이다. 그러니까, 물리적 파괴 뿐만 아니라 사회적, 인간 현상적인 파괴에도 동일한 지수분포가 나타난다. 이것은 진짜로 묘한 현상이다. 원자든 인간이든 간에 ‘파괴한다’는 행위에 특별한 수학적 의미라도 있는 것일까? 마치 슈뢰딩거의 방정식을 인간 관계의 상호작용과  같은 곳에 무차별적으로 적용해도 잘 들어맞는 것과 같은 느낌이다.

알고 보면 이런 것이다. 대량의 개체 간의 상호작용은 마찰력, 에너지를 담는 그릇, 혹은 그와 비슷한 심리·사회·역사적 특성에 의해) 쌓이다 일어나고, 쌓이다 일어나고를 반복한다. 마찰력의 에너지나 심리·사회·역사적인 스트레스 같은 것들이 풀리면서 일어나는 현상이 파괴이고, 그 파괴가 지수분포를 보이는 것이다. 이 현상은 실제 세계에서 파괴가 일어나는 메커니즘 어디에도 대입할 수 있다. 모래알 사태와 실제 산의 사태 뿐만이 아니다. 인간 전쟁도 말하자면 무언가 쌓이다 한꺼번에 와르르 풀리는 무언가가 있기 때문에 지수적인 특성을 보이는 것이다.

사실, 지수분포의 특성을 보이지만 파괴적이지는 않은 것들도 여러 가지가 있다. 도시의 크기 분포라던가, 주가 등락의 분포라던가. 실제로 파괴보다는 상위 개념으로 지수분포에 대해 접근해야 할 것 같다. 그것은 ‘자기조직화하는 임계상태’이다. 지속적으로, 그리고 저절로 자기조직화하는 집단은 끊임없이 임계상태를 만들어 낸다. 임계상태는 파괴적일 수도 아닐 수도 있지만, 불안정한 것이라고는 언제나 말할 수 있다. 그 지속적인 불안정성과 변화는 정규분포의 집단과 다르게 언제나 변화하고, 폭발하고, 무너지고, 성장하고, 주도권이 바뀌거나, 급격히 일어나는 특성을 보인다.

스티븐 핑커의 ‘우리 본성의 선한 천사’

최근에 번역된 스티븐 핑커의 1400페이지 짜리 역작, 우리 본성의 선한 천사에 나오는 전쟁 감소 가설은 이 지수함수에 대한 복잡성 과학 이론을 참조한 것임이 틀림없다. 문제는 복잡성 과학의 예측과 핑커의 전쟁 감소 가설(20세기 2차 세계대전 이후로 민주주의의 확산으로 인해 커다란 전쟁은 일어날 확률이 적다)이 상반된 주장을 하고 있다는 것이다. 복잡성 과학은 이렇게 설명한다. 만약 자기조직화하는 임계상태를 인위적으로 막기 위해 노력한다면, 언젠가는 지수분포가 예측하는 것보다도 커다란 대규모의 재앙이 일어날 것이다. 왜냐하면 인위적인 조작 자체가 스트레스를 터뜨리지 않고 계속해서 쌓아 두는 행동이기 때문이다. 이렇게 보자면, 21세기 민주주의는 오히려 전쟁의 스트레스를 계속해서 쌓아 두고 있는 꼴이 된다. 언젠가 2차 세계대전보다도 더 큰, 종말적인 3차 세계대전이 터질 것이다. 무시무시한 결론이다.

민주주의는 과연 스트레스를 쌓아 두고 있는가? 혹은 민주주의는 과거엔 전쟁으로 터뜨리곤 했던 스트레스를 선거와 전치싸움으로 그때그때 터뜨리는, 진정 평화로운 방식으로 인류를 다스리고 있는가? 이것은 핑커 같은 대석학도 쉽사리 결론 내리지 못할 것이다. 핑커는 자신의 평화론을 관철시키기 위해 어쩌면 무리했는지도 모른다. 인류의 역사가 대파국의 아마게돈으로 끝날지, 혹은 후쿠야마 식의 영원히 평화적인 ‘역사의 종말’일지… 좋은 쪽이길 빌어 본다.

`