양자 역학의 법칙 증명 체험하기

양자역학의 법칙 - 수학으로 배우는 ㅣ 법칙 시리즈 2
Transnational College of LEX 지음, 강현정 옮김, 곽영직 감수 / Gbrain(지브레인) / 2011년 11월

[참고] 기억력에 의한 내용상 오류 있을 수 있음.

[히포 패밀리와 트래캘리]

또 양자역학에 대한 책을 집어 들었다. 작년부터 양자역학을 이해해 보겠다는 생각으로 양자역학에 대한 책들을 읽어보고 있다. 이번에는 읽기 전부터 기대를 많이 했다. 왜냐하면 이 책은 일본의 히포 패밀리 내에 Transnational College of Lex라는 교육기관에서 그들 스스로 공부하고 이해한 후에 낸 책이기 때문이다. Transnational College of Lex에서 펴낸 책 중에 몇 달 전에 읽은 "수학으로 배우는 파동의 법칙"란 너무 좋게 봤었다. 이 책을 통해서 푸리에 급수를 이해할 수 있었고, 그 설명들도 어렵지 않게 되어 있어서 너무 좋았다. 그래서 <수학으로 배우는 양자역학의 법칙>도 쉽게 썼을 거라고 생각했다. 이번에 읽은 <수학으로 배우는 양자역학의 법칙>에는 히포 패밀리에 관한 설명도 더 있었다. 히포 패밀리는 다른 나라의 언어들을 자연 습득으로 배우는 그런 모임이라고 한다. 자연 습득이란 것이 무엇이냐 하면 아이가 언어를 배울 때 따로 그 언어에 대해 공부하는 것이 아니고, 자신이 아는 단어들을 조금씩 조금씩 익혀서 배워 나가는 그런 것을 말하는 것이라고 한다. 그러니까 그들도 낯선 언어에 대한 노출을 많이 해서, 처음에는 아무 뜻도 없이 발음만 비슷하게 하면서 나중에 언어를 배운다는 것이다. 그러게 그들은 7개국의 말들을 하게 되었다고 한다. 그런 히포 패밀리에 일종의 스터디 모임 같은 것이 있는데 그것이 Transnational College of Lex이고, 그들은 줄여서 '트래칼리'라고 부른다. 그들이 처음 만나서 공부한 것이 바로 푸리에 급수였고, 그 공부를 마치고, 두번째로 공부하기로 결정한 것이 바로 양자역학이다. 그들은 수식이라는 것도 일종의 언어와 마찬가지로 생각하고, 언어를 습득하는 방식으로 수식을 이해하고 그 수식을 통해 양자역학이 무엇이란 것을 알게 된다고 생각하였다고 한다. 그들은 10주 동안 양자역학에 대한 공부를 계획했고, 그 전에 양자역학 하면 빼놓을 수 없는 하이젠베르크가 쓴 <부분과 전체>라는 책을 먼저 읽었다고 한다.

쉽지는 않았다. 책의 첫부분은 그런대로 이해할 수 있었다. 유치한 듯한 그림까지 섞어가며 쉽게 쓰여 있었고, 상식으로 알고 있던 내용들이 나와서 이해하는데 어렵지 않았다. 그러나, 책의 중간부분을 넘어가면서, 온통 알 수 없는 수식들로 어지러웠다. 아래 수식과 같은 페이지가 연속으로 나왔다. 휴, 한숨이 절로 나왔다.

…

이 책은 양자역학을 이해시켜주는 책이라기보다 증명하는 책에 가깝다고 할 수 있다. 양자역학을 연구한  과학자들이 양자역학을 설명한 수식들이 있는데, 그들이 계산한 수식을 하나하나 따라가 보는 것이다. 이 책을 제대로 소화하기 위해서는 연필을 들고 이 책에 나와 있는 수식을 하나하나 따라 써 내려가보는 것이다. 그렇다면 좀 더 깊게 이해할 수 있을지 모르겠다. 나처럼 눈으로 읽어 내려간다면, 그 수식들을 이해하기는 쉽지 않다. 전에 읽은 <파동의 법칙>의 경우는 고등학교 때운 수학에서 볼 수 있는 수식들이 많았지만, 이번에 읽은 <양자역학의 법칙>에는 수식 자체가 어려웠다. 그래도 이 책은 양자역학이 왜 생겨났으며, 양자역학을 연구하는 과학자들이 어떤 식으로 연구했다는 내용을 알 수 있어서 좋았다. 복잡한 수식은 건성건성 건너뛰고, 글만 읽어도 나쁘지 않았다. 이번 리뷰에서는 그런 양자역학에 대한 흐름만 정리해보았다.

이 책의 좋은 특징 중 하나는 반복을 자주 한다는 것이다. 한 챕터를 시작하기 전에 그때까지 이야기들을 다시 한번 정리해 준다. 그러면 복잡한 수식으로 잃어버렸던 맥을 다시 찾아서 다시 한번 자신감을 심어주었다. 이내 다시 출현한 복잡한 수식 때문에 한숨을 내쉬지만 말이다. 좀 아쉬운 점은... 수식을 대충대충 봤는데도, 수식에서 명백한 오류가 있었다는 점이다. 본 것만 두어 군데인데, 꼼꼼히 수식을 검토해 보았다면 그보다 더 많은 오류가 있지 않았을까 하는 생각이 들었다. 혹시 이 책을 읽을 계획이 있는 분들이 있다면, 수식에 오류가 있을 수 있다는 것을 명심하고 읽길 바란다.

[빛이란]

양자역학이라고 하면 가장 먼저 떠오르는 것은 바로 빛이다. 먼저 과학자들이 빛에 관심을 갖게 된 계기부터 살펴보자. 물질을 이루는 최소 단위는 무엇일까? 고대 돌턴이라는 사람은 그것을 원자라고 이야기했다. 물론 그 시절에 원자를 볼 수는 없었다. 근대에 들어서서 돌턴이 이야기한 것이 맞다는 것을 알게 되었고, 수많은 원자들이 발견되어 주기율표를 이루게 되었다. 하지만 현대물리학에서는 원자도 나눌 수 있다는 것을 알게 되었다. 전자, 광자 등 원자보다 더 작은 물질을 이루는 최소 단위가 있을 것을 알게 되었고, 그런 입자들을 양자(量子)라고 했다. 그런 양자들은 너무 작아서 보이질 않았다. 보이지는 않아도 그 양자들이 어떻게 움직이는지 알 수는 있지 않을까? 하는 생각을 하게 되었다. 그런 것을 탐구하는 학문이 바로 바로 양자역학이다. 양자들이 자연에서 어떻게 움직이는 수식으로 표현하는 것. 그것이 바로 양자역학이다.

그런데 빛의 정체는 무엇일까? 빛은 19세기까지만 해도 파동이라고 생각했다. 영이라는 사람이 실험을 통해 빛이 간섭한다는 것을 밝혔다. 간섭이라는 것은 파동의 성질이기 때문에 영의 실험을 통해 빛은 파동이라고 사람들은 믿었다. 그런데, 파동으로 설명할 수 없는 것들이 있었다. 그 중에 하나가 흑체 복사다. 태양의 빛이 지구에 닿으면 지구는 따뜻해진다. 그것은 빛이 열을 전달한다는 의미인데, 이것은 파동으로 설명할 수 없다고 한다. 전달 물질이 있어야 열을 전달한다는 것이다. 그렇게 빛이 열을 복사하는 것을 흑체 복사라고 한다. 고등학교 때 과학교과서에 들어본 적이 있는 플랑크라는 과학자가 그래서 실험을 했다. 진공의 쇠상자에 온도를 높이면 빛이 나오는데, 온도에 따라 빛이 다르다는 것을 발견했다. 다양한 온도는 다양한 파동의 빛이 나온다는 것을 밝혀냈다. 그리고 그렇게 나온 온도와 빛의 파동과의 관계를 그린 그래프를 플랑크 곡선이라고 했다. 그런데, 이 곡선을 수식으로 표현하려고 했는데, 고전역학으로는 도저히 설명이 불가능하다는 것을 알게 되었다. 그리고 빛의 에너지가 불연속으로 나온다는 것이다. 파동이라면 에너지가 불연속일 수가 없다... 여기서 고전역학이라고 하면 뉴턴의 역학과 거기에서 파생된 역학들을 이야기하는 것이다. 당시까지만 해도 자연의 모든 현상은 고전역학으로 설명이 가능하다고 생각했다. 플랑크는 그 곡선의 식을 구해서 플랑크 곡선이라고 이름을 지었고, 논문에 발표하면서도 뉴턴 역학으로 설명할 수 있기를 바란다는 문구를 추가하였다고 한다. 그만큼 당시의 고전역학은 절대진리와도 같았다.

그런데 그런 고정관념을 깨는 천재가 등장하였으니, 바로 아인슈타인. 아인슈타인은 플랑크의 논문을 보았다. 그리고 그것을 설명하기 위해서는 빛은 파동이 아니라 입자라고 생각했다. 혁신적인 생각이란다. 선입견을 깨는 그런 생각. 그렇게 빛이 입자라는 가설을 내세웠는데 바로 광양자 가설이다. 이것이 1905년이었다. 참고로 아인슈타인은 1905년 한 해에 광양자 가설뿐만 아니라 특수상대성이론, 브라운 운동 등 3개의 위대한 논문을 발표했다고 한다. 그는 외계인이거나 천재임에 틀림없다. 빛이 입자라고 근거가 되는 대표적인 것은 바로 광전효과와 콤프턴 효과란 것이 있다. 광전효과는 금속에 진동수가 큰 빛을 쬐면 전자가 튕겨나가는 현상이다. 이 현상은 파동으로 설명이 불가능하고, 입자여야만 설명이 가능한 것이다. 그리고 콤프턴 효과는 빛 입자가 서로 충돌한다는 것이다. x선은 충돌 후 산란되어 진동수가 작아진다... 진동수가 작아진다는 것은 에너지가 줄어든다는 이야기인데, 파동이라면 설명할 수 없는 현상이라고 한다. 그래서 그 현상을 운동량으로 증명해야 하는데, 운동량은 속도와 질량의 곱으로 구할 수 있다. 그런데 빛의 질량이 있나? 없다... 빛의 질량은 0이다. 하지만 질량이 없어도 에너지와 속도를 알면 운동량을 구할 수 있는데, 그렇게 아인슈타인은 빛의 운동량을 구했다고 한다.

빛이 입자를 증명하는 실험 중에 안개상자 실험이라는 것도 있다. 콤프턴 실험에서는 전자의 움직임을 관찰할 수 없다고 한다. 하지만, 작은 물방울을 모아 놓은 안개상자에 전자를 쏘게 되면 전가가 지나가는 모습이 물방울의 흔적으로 보인다고 한다. 그러니 빛은 입자라는 것이다. 정말 빛은 신기한 것이다. 과학자들이 지금까지 밝혀낸 빛의 성질들은 정말 확실한 것인가? 라는 생각이 들었다. 그리고 우리가 미처 알아내지 못한 빛의 성질이 또 있을까? 라는 생각도 들었다.

[양자역학의 탄생]

원자에 열을 쪼이면 빛이 난다. 그것을 프리즘으로 보게 되면 불연속선으로 보인다. 그 모양의 형태는 원자마다 다르다. 이것은 예전에 학창시절 배웠던 것이 기억이 난다. 그런데, 왜 선들이 불연속적으로 나타날 것인가? 그 선들은 무엇을 의미하는 것일까? 발머라는 수학교사가 취미로 그 선들의 관계식을 구했다고 한다. 그냥 불연속적인 선들로 보였는데, 특정 수식으로 그 선들과의 관계를 나타냈다는 것이다. 그 선들 사이에는 관계가 있다는 것이다. 톰슨이라는 과학자도 이 금속에서 나타나는 불연속 선 스펙트럼에 대해 연구를 했다. 그래서 전자의 존재를 알아냈다. 전자의 질량은 원자의 1/2000 이고, (-)전하를 가지고 있다는 것을 밝혀냈다고 한다. 그럼 전자는 어떻게 생겼지? 톰슨은 전자가 수박씨처럼 위치했을 거라고 생각했다. 원자가 수박이면 수박씨는 전자가 되는 것이다. 톰슨의 제자 러더퍼드는 α산란실험으로 톰슨모델을 증명하려고 했다. 하지만, α파가 2만개 중에 1개꼴로 금속을 통과하지 못하고 튀어나오는 것을 발견했다고 한다. 톰슨모델이 잘못되었다는 것을 알았고, 전자는 원자핵 주변에 있다고 생각을 했다. 원자는 전기적으로 중성인데, 전자는 (-)전하를 띠고 있으니, 원자핵은 (+)전하를 띠어야 했다. 그러면 또 하나의 의문이 생긴다. (-)전하와 (+)전하는 전자기력에 의해 서로 끌어당긴다. 그런 원자핵 주변의 전자는 이내 원자핵과 붙어야 한다. 그런데 실상은 그렇지 않고 일정한 간격을 유지하고 있다. 그래서 생각해낸 것인 전자가 원자핵을 주변을 돈다고 생각했다. 그러면 원심력과 전자기력이 같기 때문에 일정궤도를 유지할 수 있다고 생각했다. 하지만 또 모순이 있었다. 원운동은 가속도운동이고, 고전역학 중에 맥스웰의 파동역학에 의하면 가속도 운동을 하는 것은 에너지가 나온다고 했다. 그러면 시간이 흐르면 원자력이 전자기력보다 작아져야 하고, 그로 인해 다시 전자와 원자핵이 서로 붙어야 한다고 했다. 그 밖에 전자의 움직임을 고전 역학으로 설명하려고 하면 들어맞지 않는 경우가 있다고 한다. 빛도 그렇고, 전자도 그렇고... 이런 작은 입자들의 미시적 세계의 현상들은 고전 역학으로 설명할 수 없었다. 그런 작은 입자들의 현상을 설명할 새로운 역학이 필요한 것이다. 그래서 생겨난 것이 바로 양자역학이다.

[전자 궤도를 버려라]

닐스 보어란 과학자가 있었다. 원자 모형을 플랑크와 아인슈타인의 이론, 즉 입자로 설명하려고 했다. 고전 역학은 아예 적용하려고 하지 않았다. 양자역학의 규칙을 하나씩 하나씩 만들려고 했던 것이다. 먼저 원자의 선 스펙트럼이 불연속적인 에너지면을 가지고 있는 것은 전자가 몇 개의 에너지 준위를 가지고 있는 궤도를 돈다고 생각했다. 그리고 그렇게 전자가 자신의 궤도를 돌고 있는 것은 정상상태라고 하고 이때는 빛이 발생하지 않는다고 했다. 전자의 에너지 준위가 달라질 때, 즉 에너지가 변할 때 빛이 나온다고 했다. 그렇게 되자 선 스펙트럼의 원자 구조를 모두 설명할 수 있게 되었다. 좀더 보충해서 설명하면, 궤도가 높은 곳의 전자들은 궤도간 간격이 아주 좁게 되어 불연속이 아니라 연속처럼 동작한다고 했다. 그렇게 궤도가 높은 곳의 전자들의 움직임은 전자기력과 원심력이 같다고 하는 고전역학으로 설명도 할 수 있었다고 한다. 그래서 높은 궤도의 전자의 경우 고전역학을 이용하여 전자의 진동수도 구할 수 있었다. 하지만 전자의 궤도는 알 수 없었다. 그래서 닐스 보어는 원자의 궤도 구하는 것은 뒤로 하고, 선 스펙트럼의 빛의 세기나 구하기로 했다. 하지만 그것도 실패했다. 보어가 구한 것은 진동수 구하는 방법까지였다.

닐스 보어의 제자 중에 하이젠베르크라는 과학자가 있었다. 하이젠베르크는 전초열이라는 병에 걸려서 헬골란트 섬으로 휴가를 가게 되었다고 한다. 그는 이곳에서 쉬면서 연구를 했다고 한다. 하이젠베르크는 고전역학을 궤도가 높은 전자뿐만 아니라 낮은 전자도 고전역학을 이용해서 설명하려고 했다. 누구도 생각하지 못했던 변칙이었다. 그런 변칙을 써서 그는 보어가 하지 못한 선 스펙트럼의 에너지 크기를 구했다. 하지만 그도 전자의 궤도는 밝혀내지 못했다. 그래서 그는 "궤도를 버려라"고 했다. 그러면서 그는 전자가 방출하는 빛으로 진동수와 진폭을 구할 수 있다면서, 굳이 궤도를 밝혀내지 않아도 된다고 했다. 하지만, 아인슈타인은 물질이 어떻게 움직이는지 머릿속에서 떠올릴 수 있어야 물리학이라고 하면서, 하이젠베르크의 물리를 부인했다. 아인슈타인은 관측이 가능한 것만이 물리학이라고 했다.

[전자의 정체는…]

루이 드브로이란 사람이 있었다. 아마추어 과학자로 독학으로 아인슈타인과 닐스 보어를 공부했다고 한다. 그러면서 그는 전자가 입자가 아닌 파동일 수도 있겠다고 생각했다. 마치 아인슈타인이 빛이 파동이 아닌 입자라고 생각한 것처럼 말이다. 그렇게 전자를 파동으로 생각해서 계산했더니 양자조건을 만족하는 것을 밝혀냈다. 그래서 그는 전자는 파동이라고 논문을 발표했다. 아인슈타인도 이 논문에 흥미를 느끼고, 그 논문을 슈뢰딩거에게 전달해 주었다고 한다. 그리고 슈뢰딩거는 열심히 공부를 했다고 한다. 슈뢰딩거는 전자의 파동방정식을 이끌어냈다. 전자가 파동임을 수식으로 증명한 것이다. 이 전자의 파동방정식을 유도해내는 식이 책이 쭉 나와 있지만, 눈으로만 읽어서는 도저히 이해할 수 없는 수식이다. 그렇다고 손으로 천천히 따라 적는다고 이해할 자신이 있는 것도 아니다. 어려운 수식의 연속이었다. 한숨이 절로 나오게 하는 페이지가 지나면 결국 슈뢰딩거가 이룬 것은 전자를 파동방정식으로 나타낼 수 있다는 것이었다. 즉, 전자가 어떻게 움직이는지 머릿속으로 그릴 수 있다는 것이다. 아인슈타인이 바라던 그것. 이미지를 만들 수 있어야 한다는 것.

하지만 여전히 슈뢰딩거의 전자는 약점들이 있었다. 그가 구한 파동방정식은 전자가 한 개인 경우를 구한 것이었다. 내가 내용을 정확하게 파악하지 못했지만, 전자 2개를 슈뢰딩거 방정식으로 설명하려면 6차원이어야 한다고 했다. 그리고 전자 3개면 9차원, 더 많은 전자를 구하기 위해서는 무한차원이 필요하게 된다고 했다. 이것은 설명하기 어려웠다. 다시 전자의 이미지가 사라졌다고 사람들은 생각했다. 이때 나타난 사람이 막스 보른이라는 사람이다. 슈뢰딩거 방정식으로 확률로 해석했다. 슈뢰딩거의 파동방정식을 파동이 아닌 입자들의 개수로 바꿔서 설명하려고 했다. 예를 들어 이중슬릿 실험. 그것은 파동을 설명하는 실험이었다. 그런데 전자의 입자로 바꿔서 생각하고 이중슬립을 통과한 전자의 개수들을 세어보았다고 한다. 그러니까 파동으로 나타난 간섭의 세기에 비례하여 전자의 개수가 나타났다고 한다. 그래서 이렇게 확률로 생각하니 다시 이미지가 돌아왔다고 했다. 슈뢰딩거 방정식은 한 개의 전자만 설명이 가능했는데, 보른의 확률해석은 전자가 많아도 3차원의 공간에서 설명이 되었다. 그런데 전자를 한개만 쏘면 어떻게 될까? 이중슬릿에 전자를 한 개만 쏘면 전자는 둘 중에 하나로 들어오게 된다. 각각 확률은 반반씩이다. 그리고 이 경우는 간섭 현상도 나타나지 않는다. 그렇다가 우리가 관측을 하게 되면 전자는 영 딴 놈이 된다. 이를 확률파동이 수축한다고 하는데, 몇 번을 읽어봐도 이해가 쉽지 않았다.

그리고… 결국 양자역학에 관한 책을 보다 보면 가장 끝에서 출현하는 불확정성 원리를 다시 만나게 되었다. 전자의 불확정성이란, 위치를 정확하게 보려고 하면 운동량을 알 수 없고, 운동량을 정확하게 알려고 하면, 전자의 위치를 알 수 없다는 것을 말한다. 전자는 눈으로 봤을 때만 존재한다는 것이다. 이런 불확정성 원리를 하이젠베르크와 보어가 주장했다. 그러면서 이런 결론을 내렸다. "전자는 관측하지 않을 때는 파동처럼, 관측될 때는 입자처럼 움직인다" 라고... 그리고 이때 파동은 실제 물질의 파동이 아니라 불확정성 원리에 의해 정확한 위치와 운동량은 알 수 없다고 했다. 아인슈타인은 이 주장에 절대 동의할 수 없다고 했다. 물리학이라는 것은 명백해야 한다는 것이 그의 생각이니까 말이다. 양자역학에 대한 불확정성 원리를 1927년에 주장하였는데, 그 이후에 이것을 뒤집는 이론은 발견되지 않았다. 그래서 하이젠베르크의 양자역학은 옳은 것으로 인정받고 있고, 양자역학은 현대 과학에서 아주 중요한 분야라고 한다. 그러니까 누군가 전자의 정체가 무엇인지 물어보면 아직까지는 “전자는 관측하지 않을 때는 파동처럼, 관측될 때는 입자처럼 움직인다”라고 대답하며 된다. 이것이 양자역학의 핵심이다.

아쉽게도 이 책을 읽고 나서도 아직 양자역학에 대해 제대로 이해하지 모했다. 전에 다른 책에서 양자역학을 가장 쉽게 설명한 사람이 리처드 파인만이라고 한 것을 본 적이 있다. 이제 파인만이 설명한 양자역학을 찾아봐야 하나.

※ 이 리뷰는 <사랑하는 딸과 아들에게 보내는 독서편지>를 수정하여 작성함.