New Scientist 11월 3일 호에 라이고LIGO 팀의 중력파 검출에 대한 의문을 제기하는 기사가 실렸다. LIGO는 Laser Interferometer Gravitational-wave Observatory의 약자로서, 중력파를 검출하는 거대한 간섭계interferometer이다.
Virgo라 불리는 시설의 모습. 위치는 이탈리아 피사 근처이며 2017년에 가동을 시작했다. 기존의 다른 시설 2개는 미국 워싱턴 주의 핸포드Hanford와 루이지애나 주의 리빙스턴Livingston에 있다. (source: https://www.ligo.caltech.edu/news/ligo20170927)
검출 원리는 위키피디아에서 가져온 아래 그림에 잘 나와있다. 중력파(아래 그림의 노란색으로 표현된 부분)가 지나가면서 간섭계 팔의 한쪽 길이를 바꾸면, 그로 인해 위상이 달라져서 검출기(그림 오른쪽의 동그라미)에 검출되는 빛의 세기가 달라지는 현상을 이용한다.(이 간섭계 팔 한쪽의 길이가 4 km이다.)
문제는 중력파의 크기가 엄청나게 작다는 것이다. 수십 억 광년 떨어진 거대한 질량을 가진 물체들-블랙홀이나 중성자 별-의 충돌로 생기는 중력파는 사방으로 퍼지면서 그 크기가 줄어든다. 지구에 도달할 즈음이면 그 크기는 양성자 크기의 1000분의 1 정도로 줄어든다고 한다. 이 정도의 진동을 검출하려면 지구 상의 모든 진동-늘상 일어나는 지진파, 근처를 지나가는 기차로 인한 진동, 심지어는 검출기를 구성하는 물질의 열운동으로 인한 진동-을 제거isolate해야 한다. 2015년 9월 12일에 가동을 시작한, 업그레이드 된 검출기를 갖는 LIGO(보통 advanced LIGO라 한다)는 이러한 진동을 제거하고 중력파를 검출할 수 있는 능력을 가졌다고 알려졌다. LIGO 검출기는 양성자 크기의 10,000분의 1 크기의 변화를 검출할 수 있다고 한다.
2015년 업그레이드된 시설을 가동한 이후, LIGO 팀은 벌써 여러 번 중력파의 검출을 발표했다. 처음 발표는 2016년 2월 11일에 있었으며, 이때 발표한 중력파는 15년 9월 12일에 가동을 시작하자마자(48시간 이내에) 검출됐다. 2017년 노벨 물리학상은 중력파 검출에 기여한 이들에게 수여됐다(여기에는 인터스텔라 영화 감수로 유명해진 킵 손Kip Thorne도 있다).
여기까지는 잘 알려진 사실이다. 이번에 새로 제기된 의문은 실제 검출 과정에 관한 것이다. 그렇게 작은 중력파를 어떻게 검출하나? 난 정말 모든 잡음-중력파와 상관 없는 모든 배경 진동들-이 제거되어 검출기에는 깨끗한 중력파의 신호만 검출되는 줄 알았다. 이 순진함. 사실 검출기에 검출되는 신호는 중력파 뿐만 아니라 모든 배경 진동으로 인한 잡음을 포함한 것이다. 그럼 이렇게 지저분한 신호에서 어떻게 중력파 신호를 뽑아내는가? 여기에 핵심 논쟁이 있다.
중력파를 뽑아내는 과정은 알고 나니 놀랍다. 먼저 중력파가 만들듯한 신호를 계산한다. 그런 후, 이 중력파 신호를 검출 신호에서 제거한 후 남는 신호를 본다. 남는 신호에 아무런 연관도 없는 잡음만 남는다면, 중력파를 검출한 것이다. 아래 그림이 최초의 중력파 발표 때 사용한 그림이다.
문제는 중력파가 만들 듯한 신호(이것을 template이라고 부른다), 즉 정해진 신호를 찾는 데에 있다. 뭔가 편견이 들어갈 가능성이 농후하지 않은가? 아무런 template 없이 중력파 신호를 찾기 위한 웨이블렛 분석wavelet analysis이라는 것도 하는 모양이다. 하지만 이 경우에 신호를 검출했다고 해도 이 신호가 어떻게 생겼는지 물리적 이유를 찾기는 매우 어렵다고 한다.
이번에 문제를 제기한 일군의 물리학자들은 LIGO에 소속된 과학자들은 아니고 코펜하겐의 닐스 보어 연구소 소속 물리학자들이다. 이들은 우주 배경복사와 같은 커다란 데이터를 분석하는 작업을 했던, 신호 분석에 문외한이 아닌 과학자들이라고 한다. 이들은 문제를 제기하는 정식 논문도 동료 심사를 거쳐 발표했다. 그냥 아무렇게나 제기한 의문은 아니라는 말이다. 이들은 중력파 신호를 제거한 후 남는 신호가 순수한 잡음이 아니라는 결론에 도달했다고 한다. 즉, 검출했다는 중력파가 실제 중력파 신호가 아니라는 주장이다. 이들에 따르면, 2015년 9월에 검출된 신호가, 발표된 대로 2개의 블랙홀의 충돌로 인한 것일 확률이 0.000004이다. 어떤 종류의 블랙홀 충돌로 인한 신호라고 해도 그 확률은 0.008로 밖에 올라가지 않았다.
LIGO 팀의 반응은? 닐스 보어 연구소 과학자들이 기본적인 사실을 놓쳤다고 주장한다. 신호 분석을 할 때 본인들은 window function을 사용했는데, 닐스 보어 연구소 과학자들은 이를 사용하지 않았다는 것이다. 하지만 닐스 보어 연구소 과학자들은 일부러 window function을 사용하지 않았다고 한다. 신호 분석을 잘 모르는 나는 어떤 것이 옳을지 모르겠지만, window function의 사용도 일종의 편견을 분석에 가져오는 것 아닐까.
이제 공은 LIGO 팀에게 넘어갔다. 과학은 논쟁을 거치며 발전한다. 이번 사건은 과학에 문제가 있음을 얘기하는 것이 아니라, 오히려 그만큼 과학이 건강함을 말해준다고 생각한다. 내게는, 극소의 신호를 다루는 첨단 과학에서 신호 분석이 그만큼 중요해졌다는 것을 깨닫는 계기가 됐다.