19가지 수학 도구를 통해 배우는 수학의 지혜

복잡한 세상을 이기는 수학의 힘 - 수학은 어떻게 삶의 문제를 해결하는가
류쉐펑 지음, 이서연 옮김, 김지혜 감수 / 미디어숲 / 2023년 1월

이 책에서 저자는 자신의 풍부한 연구 경험과 인새에 대한 깊은 이해를 바탕으로 알고리즘과 인생을 함께 연결했다. 이로써 독자들이 생활에서의 지식과 경험을 통해 알고리즘을 이해하고, 또 알고리즘을 통해 인생을 이해할 수 있게 해 주었다. - ‘추천사’ 중에서

책의 저자 류쉐펑 교수는 수학적 사고를 통해 인생을 바꿀 수 있다고 강조한다. ‘노력하면 성공한다’는 생각을 가진 사람과 ‘운명은 정해져 있다’고 생각하는 사람을 비교하면서 두 사람의 가치관이 올바르지 않다고 설명한다. 결론적으로 수학적 사고를 통해 확률적 세계관을 가져야 한다는 이 책은 크게 세 부분으로 구성되어 있다.

1부(사고 편)에서는 이성적 사고로 세상을 바라보는 법을 설명한다. 확정적 사고나 운명론적 사고를 벗어나 현실을 있는 그대로 받아들이고 노력을 통해 승산을 높이는 세계관을 배운다. 해석보다 예측이 중요한 이유, 복잡한 현상 뒤에 숨겨진 단순한 규칙, 관련되어 보이지만 실제로는 독립된 원인을 찾아내는 조건부 독립 등의 내용이 담겨 있다.

2부(방법 편)에서는 어려운 문제를 해결하는 전략과 기교에 대해 설명한다. 기초를 정확하게 찾는 중요성, 본질을 포착해서 제약에서 벗어나는 법, 지켜야 할 때와 도전해야 할 때를 구분하는 기초확률, 최소제곱법이 설명하는 중용의 지혜, 문제를 해결할 수 없을 때는 사물의 형태를 변환해서 보는 전환 사고 등의 전략을 배운다.

3부(학습 편)에서는 수학적 사고를 효과적으로 학습하는 법을 다룬다. 기계학습 모델을 통해 교훈을 얻고 행렬의 특이값 분해를 통해 명확하게 표현하는 법을 설명한다. 수학적 사고로 책을 빠르게 읽고 이해하는 방법을 설명한 부분은 독자의 무릎을 치게 만들 것이다.

노력을 통해 결과를 바꾸는 확률적 세계관

확률적 세계관은 ‘일을 꾸미는 것은 사람이지만 성사 여부는 하늘에 달려 있다謀事在人, 成事在天’라는 고사성어와 상통하는 부분이 있다. 우리는 확률로 이 고사성어를 더욱 명확하게 이해할 수 있다.

‘일을 꾸미는 것은 사람이다’라는 것은 ‘노력으로 성공 확률을 높일 수 있다’는 의미이다. 그리고 성사 여부는 하늘에 달려 있다는 것은 ‘열심히 노력해 만반의 준비를 마쳤다고 해도 확률상 반드시 성공하는 것은 아니다’라는 의미이다.

반면 ‘숙명론’의 세계관에서 바라본다면 모든 것은 이미 정해져 있으므로 노력할 필요가 없다는 주장인데 이 또한 지나치게 비관적이고 개개인의 자발적 능동성을 완전히 무시하는 것이기에 현실에 부합하지 않는 셈이다.

이처럼 위에서 언급한 ‘노력하면 성공한다’와 ‘숙명론’을 확률적 세계관의 관점에서 바라본다면 두 가지 세계관이 가진 문제점을 더욱 명확하게 파악할 수 있다. 극단적으로 어느 한 쪽에 치우친다면 낭패를 보기 쉽다는 것을 깨달아야 한다.

확률적 세계관의 시사점

첫째, 결과가 발생하기 전까지는 하나의 확률에 불과하다.

둘째, 비록 단정할 순 없지만 결과가 발생할 확률을 바꿀 수 있다.

단순 모방을 넘어 획기적인 창조

공기 역학에 새로운 방면을 개척한 조지 케일리는 새의 비행 원리를 이해한 뒤 고정 날개 형태로 위로 향하는 양력을 만들어낼 수 있는 원리를 제시했다. 그리고 이후 라이트 형제가 해당 원리를 발전시켜 인류는 마침내 하늘을 나는 꿈을 실현할 수 있었다.

이것이 바로 본질을 포착하고 제약을 제거하는 사고이다. 인류가 새의 비행을 모방해 하늘을 날기 위해서는 먼저 새의 비행 원리, 즉 공기 역학을 이해해야 한다. 그리고 공기 역학에 근거해 비행에 필요한 양력을 만들어내야 한다. 공기 역학을 이해하면 날갯짓은 양력을 만들어내는 하나의 방식일 뿐이며 새에게는 적합한 방법이지만 사람에게는 아니라는 사실을 알 수 있다.

오차 최소화를 위한 중용의 기법

‘일부 방정식에 대한 완벽한 해’와 ‘모든 방정식에 대한 불완전한 해’는 두 가지 서로 다른 사고방식을 대표한다. 우선 첫 번째 사고방식을 가진 사람은 ‘편협’하다는 특징이 있다. 그래서 어떤 이치든 자신의 관점과 완벽하게 일치해야만 받아들인다. 이런 사람은 자신이 옳다고 판단한 이치가 실제로는 그렇지 않더라도 신경 쓰지 않는다.

자신이 옳다고 생각하는 것만 받아들이고 이것과 충돌하는 관점은 무엇이든 문제가 있다고 단정을 짓고 받아들이지 않는 것은 완벽주의가 가진 문제점이다. 이것을 방정식으로 표현해 보면 연립 방정식 중 일부 방정식만 다루고 다른 방정식을 무시하거나 아예 삭제한 채 ‘연립 방정식에 유일한 해’가 있다는 신념을 갖는 것이다.

아둔한 구두장이 셋과 제갈량의 대결

중국 옛말에 ‘아둔한 구두장이라도 셋이 모이면 제갈량과 필적할 수 있다’라는 말이 있다. 이는 여러 사람의 지혜를 모은다면 <삼국지>에서 유비의 책사로 이름이 드높은 전략가 제갈량과도 겨뤄볼 수 있다는 뜻이다.

이는 다양성의 이점과 관련된다. 컬럼비아대학교 경영대학원의 캐서린 필립스 교수의 연구에 따르면, 낯선 사람이 속한 팀의 문제해결력이 가장 뛰어났다는 것이다. 그래서 의사들은 난치難治 환자를 만나면 경험 많은 의사들에게 두루 도움을 요청, 해답에 가까운 결론을 도출한다고 한다.

따라서, ‘아둔한 구두장이라도 셋이 모이면 제갈량과 필적할 수 있다’라는 말을 수정할 필요가 있다. 아둔한 구두장이 세 명이 모여서 제갈량과 필적하려 한다면 그들이 가진 능력과 문제를 바라보는 각도가 서로 달라야 한다. 만일 구두장이 세 명이 문제를 바라보는 각도가 비슷하다면 아무리 기를 쓰고 노력한들 제갈량 한 사람을 이길 수 없을 테니 말이다.

이를 수학적으로는 불량 조건 연립 방정식에 의한 다양성의 중요성으로 설명할 수 있다. 즉 연립 방정식의 개별 방정식은 특정한 각도로 사물의 본질을 표현한다. 그런데, 직선의 기울기가 매우 비슷하다면 그 해답이 정확하지 않게 된다. 이를 ‘불량 조건 연립 방정식’이라고 한다.

수학과 삶은 다르지 않다

수학 개념은 수학자들에게나 중요하고 우리들과는 관련이 없다고 생각하지만 이는 하나만 알고 둘은 모른다는 것이다. 즉, 수학 개념 속에는 반짝이는 지혜의 빛이 숨겨져 있음을 간과해선 안 된다. 이런 지혜는 우리들이 복잡한 사회를 더욱 현명하게 볼 수 있도록 돕고, 나아가 더 좋은 결정과 행동에 나설 수 있도록 돕는다는 사실이다.