미터법의 탄생에 얽힌 과학의 이면사

만물의 척도 - 프랑스 혁명보다 위대한 미터법 혁명
켄 앨더 지음, 임재서 옮김 / 사이언스북스 / 2008년 5월

전공덕분에 군생활을 병원부대에서 했습니다. 많지 않은 부서원들이지만 신체검사와 같이 평소 업무에 더한 특별한 과업이 있을 때는 부서원들의 사기진작을 위한 회식을 하곤 했습니다. 지금도 그렇지만 군대회식은 삼겹살을 구워 소주잔을 기울이면 최고였습니다. 회식 때처럼 많은 사람들이 고기를 주문할 때는 어렵겠지만 몇 명이서 단출하게 고기를 주문할 때는 고기의 양에 눈길이 갈 수도 있습니다. 주문이 이어지다 보면 고기양이 달라 보인다는 생각이 들 수도 있는 것입니다.

척관법(尺貫法)이 폐지되고 미터법을 상용하고 있는 요즈음도 식당마다 고기 1인분의 기준은 여전히 차이가 있는 것 같습니다. 고기를 접시에 담아낼 때 손님이 저울을 지켜보는 것이 아니기 때문에 식단에 표기되어 있는 양대로 내줄 것이라는 믿고 있지만 때로는 그렇지 못한 주인을 만나는 경우도 있습니다. 언제가 눈썰미 있는 분과 같이 식당에 갔을 때 주문한 고기양이 적어 보인다며 저울을 가져다 무게를 다시 잰 적이 있습니다. 결과는 식단에 표기된 1인분 무게의 3분의 2에도 미치지 못하는 양을 내놓은 것을 확인하고 주인에게 야단을 치고 말았습니다.

이처럼 일상생활에서 매우 중요한 의미가 있는 무게나 길이, 부피의 단위는 언제부터 정해져 통용되어왔는지 궁금해집니다. 서양이나 동양이나 길이의 단위는 사람의 몸의 길이에서 유래했다는 것 같습니다. 우리나라의 길이단위 한 자는 열 손가락을 쫙 편 너비, 즉 두 뼘에서 나왔다고 하고, 서양의 길이단위 인치는 엄지손가락 길이라고도 하며 30센티미터쯤 되는 1피트는 발길이에서 왔다고 합니다. 요즈음에는 우리나라도 국제적으로 통용되는 미터법을 적용하고 있습니다만, 과거 에는 척관법을 사용해왔습니다. 척관법(尺貫法)은 고대 중국에서 시작되어 동남아시아로 전해져 내려온 도량형(度量衡)의 단위계입니다. 길이의 기본단위로는 자 또는 척(尺), 무게의 기본단위로 관(貫)이 있었고, 길이에서 유도되는 면적의 단위는 평(坪) 또는 보(步)를 사용했으며, 부피의 단위는 되 또는 승(升)이 있었습니다. 조선 고종은 광무(光武) 9년(1905년) 대한제국 법률 제1호로 공포된 도량형규칙에서는 척관법의 기본단위가 되는 길이의 단위인 척은 0.303m로, 무게의 단위인 관은 3.75㎏으로 정의하였습니다.

그러면 요즈음 미국과 영국과 같은 일부 국가를 제외하고서 국제적으로 통용되고 있는 미터법은 어떻게 탄생하게 되었을까요? 로버트 P. 크리스교수가 쓴 <측정의 역사; http://blog.joinsmsn.com/yang412/13035187, http://blog.yes24.com/document/7056880

>를 보면 초기 미터법의 원기 에탈롱을 제작하게 된 동기를 이렇게 적고 있습니다. “에탈롱을 제작한 직접적 계기는 프랑스 혁명이었다. 모든 토지의 소유자인 왕이 권력의 정점에서 영주들을 다스리고 영주가 봉신에게 토지를 주어 다스리는 피라미드 계층 구조를 통해 권력이 배분되는 봉건제의 잔재, 이 잔재를 쓸어버리고 봉건제를 보편적이고 평등하고 합리적인 체제로 대체하는 것이 혁명지도자들의 목표였다. 하지만 이 목표를 이루는데 왜 측정이 중요했는지를 알려면 프랑스 역사를 한참 거슬러 올라가야 한다.(로버트 P. 크리스 지음, 측정의 역사 78쪽)”

현재 통용되고 있는 미터법에서 길이는 진공 속에서 빛의 속력을 상수로 하여 정하고 있고, 시간은 세슘 133 원자의 초미세갈라짐을 상수로 정하였으며, 국제질량원기를 상수로 하던 무게도 플랑크상수를 기준으로 하고 있습니다. 하지만 프랑스 혁명 이후 프랑스 과학아카데미가 ‘모든 시대를 위해, 모든 사람을 위해’ 제안한 도량형에서는 길이와 무게의 표준을 자연에서 구했습니다. 즉, “파리를 지나는 자오선의 4000만 분의 1로, 킬로그램은 물 1세제곱데시미터의 무게”로 정의하였던 것이며, 정의된 도량형에 따른 표준원기(標準原基) 에탈롱을 1799년 제작하여 프랑스 국가기록원에 보관하여 길이와 무게의 기준으로 삼았다고 합니다.

그리고 보면 길이의 단위를 정하기 위해서 파리를 지나는 자오선의 길이를 정밀하게 측정해야만 했을 것입니다. 노스웨스턴 대학 역사학과의 켄 애들러교수가 ‘프랑스 혁명보다 위대한 미터법 혁명’이라는 부제를 달아 써낸 <만물의 척도>는 초기 미터법의 절대기준이 되는 미터를 정의하는 파리를 지나는 자오선의 길이를 측정한 사람들에 대한 이야기를 정리하고 있습니다. 사실 저도 그런 생각을 했습니다만, 파리를 지나는 사분 자오선의 1,000만분의 1로 정한 것 자체가 자의적이라는 주장은 당시에도 그 후에도 지속적으로 제기되었다고 합니다. 심지어는 ‘자오선의 호(弧)를 측량한다는 구실로 연금과 봉급을 챙기려 든다(147쪽)’는 비판도 있었다고 하니 과학계의 미묘한 행보에 대한 부정적 시각은 예나 지금이나 여전한 것 같습니다.

혁명가의 시각에서 바라본 크리스교수의 측정의 역사와는 달리 애들러교수는 프랑스 아카데미의 시각으로 측정의 역사를 바라보고 있습니다. “프랑스 학자들은 자신들의 나라의 도량형의 다양함에 놀라움을 금치 못했다. (…) 이러한 다양함은 소통과 교역을 방해하고 국가의 합리적 행정을 방해했다. 또한 학자들끼리 실험 결과를 비교하는 것을 어렵게 했다. (…) 학자들은 이 같은 도량형의 바벨탑을 무너뜨리고 물건과 정보의 교환에 이성적인 질서를 부여할 보편적인 도량법을 도입해야 한다고 생각했다.(11쪽)” 결국 학자들의 인식이 미터법 제정의 시발점이 되었다는 것입니다. [참고로 애들러교수는 바벨탑의 의미를 착각하고 있는 것으로 보입니다. 단일 언어를 사용하던 사람들이 하늘에 닿기 위하여 쌓아 올리던 바벨탑을 신이 무너뜨리고, 서로 의견을 교환하지 못하도록 다양한 언어를 사용하도록 했던 것이기 때문에, 미터법이야말로 도량형의 바벨탑을 다시 쌓아올리는 것이라고 해석해야 옳을 것입니다.

애들러교수의 <만물의 척도>는 1792년 6월 두 명의 프랑스 천문학자, 장바티스트조제프 들랑브르와 피에르프랑수아앙드레 메솅이 됭케르크에서 파리를 거쳐 바르셀로나에 이르는 자오선 호(弧)를 측정하기 위하여 떠나 무려 7년에 걸친 고난 끝에 마무리한 측정의 결과를 세계 최초의 국제 과학협회인 국제위원회에 제출하여 미터의 길이를 정하기까지의 과정을 뒤쫓고 있습니다. 미터법의 탄생에 관하여 ‘아무 것도 생략하거나 묵과하는 일없이 원정대의 관측결과를 모두 밝히기 위하여’ 들랑브르가 저술한 2,000쪽이 넘는 <미터법의 원리>를 읽어나가면서 미심쩍은 점을 발견하게 되었다는 것입니다. 이 책은 미터법의 탄생사를 완전하게 기술한 것이 아니라 미터법 탄생에 얽힌 비밀, 즉 미터법에 은밀한 오차가 있다는 사실을 밝힐 수 있는 단서가 곳곳에 흩어져 있다는 느낌을 받았다는 것입니다.

은밀한 오차가 얼마나 되는지 가늠할 수 있는 대목이 있습니다. “오늘날의 위성 측량에 따르면, 극점과 적도를 잇는 자오선 거리는 10,002,290미터다. 달리 말하면, 들랑브르와 메셍이 계산한 미터는 정확한 값에 비해 대략 0.2 밀리미터, 즉 이 책 2쪽에 해당하는 두께만큼 짧다.(18쪽)” 그 은밀한 오차가 어디에서 기인한 것인지를 작가는 뒤쫓고 있는 것입니다. 메솅과 들랑브르가 자오선 호를 측정하는 동안에도 유럽사회는 여러 나라들이 서로 연합하여 전쟁을 치루는 혼란한 상황이었기 때문에 전쟁과 밀접한 관련이 있는 측지(測地) 작업을 수행하는 일이 때로는 목숨을 걸어야 하는 경우도 있었을 것입니다. 뿐만 아니라 이들이 작업을 진행하는 곳에 거주하고 있는 지역민들은 이들의 작업이 자신들의 생계를 위협할 수 있다고 생각했기 때문에 도움은커녕 방해하기 일쑤였기 때문에 작업이 지지부진할 수밖에 없었던 것입니다.

그래도 됭케르크에서 시작하여 파리로 연결되는 북쪽의 자오선 호 측정을 맡은 들랑브르는 측지작업을 원활하게 진행하여 측정값을 메솅에게 보냈지만, 파리에서 시작하여 바르셀로나에 이르는 남쪽 구간의 측정을 맡은 메솅은 측정값을 공유하지 않았을 뿐 아니라 스페인의 몬주익에서의 측정값에 대한 의구심 때문에 끊임없이 고민한 흔적을 곳곳에 남기고 있습니다. 몬주익성의 위도를 계산하기 위하여 메솅은 폴라리스, 투반, 코카브, 미자르, 엘나스, 폴룩스 등 6개의 항성을 측정하게 되었는데, 미자르를 측정한 값에서 다른 값과 비교하여 4초, 즉 120미터 정도 어긋난 수치를 얻었던 것이 끝까지 메셰을 괴롭혔던 것입니다.

저자는 프롤로그에 ‘이 이야기는 오류와 오류의 의미에 관한 것이다.’라고 적고 있습니다. 두 사람이 사용한 측지방법은 반복 경위의를 사용한 삼각측량법입니다. 삼각측량은 삼각형의 세 각의 크기와 한 변의 길이를 알면 나머지 두 변의 길이를 알 수 있다는 기하학의 기초적인 정리에 바탕을 두고 있습니다. 여기에 이들이 측지를 진행하는 구간의 지표가 완벽하게 편평하기 않기 때문에 몇 가지 보정이 필요하였습니다. 측정에서 얻은 값을 공통의 수평면에 있는 삼각형에 맞게 조정해야 하며, 관측기구를 언제나 삼각형의 꼭지점에 정확하게 놓을 수 없기 때문에 관측값을 보정해야 하고, 대기굴절로 인한 시야왜곡을 보정하기 위하여 모든 각크기를 빛의 굴절에 비추어 수정할 필요가 있으며, 곡면에 있는 삼각형 각도의 합이 정확히 180도가 되지 않는 것도 수정할 필요가 있었습니다.

메솅은 과학회의에 참석한 각국의 과학자들을 두달 여 기다리게 한 끝에 자신이 맡은 구간의 측정을 마치고 그 결과를 과학회의에 제출하게 됩니다. 당시 프랑스가 과학회의를 어떻게 주최할 수 있었을까 하는 의문에는 유럽을 하나로 통일하려는 보나파트르 나폴레옹의 야심이 작용했다는 점을 일깨워준 작가 덕분에 해결할 수 있었습니다. 메솅이 제출한 측정값은 들랑브르의 측정값과 잘 맞아 떨어져 표준 미터값을 정하는데 문제가 없었습니다. 그리고 메솅은 1804년 스페인의 발렌시아 지방으로 떠난 측지작업에서 말라리아에 걸려 죽음을 맞게 됩니다.

메솅이 죽은 다음에 그의 기록을 입수하게 된 들랑브르는 메솅의 초고뭉치에서 놀라운 사실을 알게 됩니다. 메솅은 쪽수를 매긴 공책이 아니라 철하지 않은 종이에 연필로 관측기록을 적었고, 본인이 예상한 값, 혹은 남들이 기대한 값을 반영한 값에 자료를 맞추려 끊임없이 자료를 고쳤다는 것입니다. 들랑브르는 메솅의 뒤죽박죽인 종이더미를 영구적인 기록으로 바꾸는 작업을 했다는데, 연필로 적은 부분을 모두 잉크로 칠하고 종이 더미를 시간순서대로 배열한 뒤에 풀로 이어 붙여 공책으로 엮어 마치 역사가처럼 전에 있지도 않았던 일지를 만들어 메솅의 여정을 재구성했다는 것입니다.(432쪽) 그는 손수 자료를 꼼꼼하게 살펴보면서 엉터리 수정값을 제거하고 메솅의 자료를 다시 계산하여 공개해도 될 만한 새 일람표를 작성했다고 합니다.

그럼에도 불구하고 들랑브르는 “메솅이 관측값을 얻은 대로 발표하지 않고 실제보다 정확하고 일관성 있게 꾸민 일은 잘못이다. 하지만 그는 평균값이 변하지 않는 한도에서만 최종 관측값을 수정했다. 따라서 실제로 그의 행동에 진짜로 해로운 부분은 없는 셈이다.(435쪽)”고 적었습니다. 제가 보기에는 들랑브르의 이런 행동도 미심쩍은 점이 없는 것은 아니라 생각합니다. 당시 너무 많은 학자들이 미터의 정확성을 의심하고 있었기 때문입니다. 메솅의 측정값의 오류는 무엇일까? 오류를 이해하는 방식에 문제는 없었던 것일까? 이와 같은 의문에 대한 답은 메솅이 죽은 25년 뒤에 장니콜라 니콜레라는 젊은 천문학자가 메솅의 관측값을 재분석한 결과를 통하여 구하고 있습니다. 그 결과는 메셍이 보고한 몬주익 위도와 자료를 적절히 분석하여 얻은 해답이 겨우 0.4초(12미터) 밖에 차이가 나지 않는 것이었습니다.(443쪽)

앞에서 제가 들랑브르의 미심쩍은 행적을 지적한 것은 자신의 죽음에 대비하여 사적인 문서를 없애고 자신에게 온 편지를 따로 모아두는 등의 조치를 취한 때문입니다. 하지만 메솅이 태워달라는 간청한 편지들은 자신을 변호하는데 쓸모가 있을지 모른다는 이유로 보관하였다는 것입니다. 메솅이 6개의 항성을 측정하여 관측값을 보정한 반면 들랑브르는 2개의 항성만 측정했다는 점도 그렇습니다. 역사는 승자의 기록이라는 말도 있지 않습니까?

애들러교수의 <만물의 척도>는 크리스교수의 <측정의 역사>와 함께 읽는다면 오늘날 우리 생활에 밀접한 미터법이 있기까지의 과정을 잘 이해할 수 있을 것입니다. 뿐만 아니라 과학연구에서 오류의 의미를 다시 새겨보는 기회가 될 수 있겠습니다.