비밀의 언어(THE CODE BOOK) - 암호의 역사와 과학

비밀의 언어 - 암호의 역사와 과학
사이먼 싱 지음, 이현경 옮김 / 인사이트 / 2015년 12월

21세기 정보화 시대에는 정보만큼 중요한 것은 있다. 정보에 대한 보안이다. 정보 보안에 대한 중요성은 어제오늘의 얘기는 아니다. 우리가 미처 알지 못 했을 뿐 인류의 역사가 시작된 이래 지금까지 이어져 왔다.

수천 년간 왕과 여왕, 장군 들은 나라를 다스리고 군대를 지휘하기 위해 효율적인 통신수단이 필요했다. 그와 동시에 자신들의 메시지가 엉뚱한 자의 수중에 들어가 중요한 비밀이 경쟁국으로 유출되거나, 사활이 걸린 정보가 적군의 손아귀에 들어갔을 때 생길 끔찍한 결과에 대해서 너무나 잘 알고 있었다.​ 적이 자기들의 메시지를 가로챌지도 모른다는 위기의식은 메시지를 위장하는 코드와 암호문 발전의 원동력이었다. ​

지금은 인터넷과 스마트폰의 대중화로 언제 어디서나 정보를 접할 수 있다. 그와 더불어 자칫 잘못하면 중요한 개인 정보가 자신도 모르는 새 노출되고 만다. 그래서 해를 거듭할수록 정보 보안에 대한 중요성과 필요성은 강조되고 있으며 이를 뒷받침하는 시스템도 날이 갈수록 정교해지고 있다. 정보 보안의 시스템의 가장 중요한 알고리즘이 바로 데이터 암호화다.

<비밀의 언어: 암호의 역사와 과학>은 정보 보안의 핵심인 암호에 대해 다루고 있다. 암호란 무엇이며 어떻게 생겨나게 되었고 어떤 과정을 거쳐 지금의 암호화로 발전하게 되었으며 미래의 암호는 어떤 방향으로 나아가게 될지 문자 그대로 암호의 역사와 과학에 대해 심층 있게 설명한다.

이 책의 저자인 사이먼 싱은 우리에게 <페르마의 마지막 정리>라는 다큐멘터리와 동명의 책으로 더 친숙하다. 작년 초여름 그 책을 재미있게 읽었던 기억이 난다. 350년간이나 풀리지 않았던 수수께끼와 같던 수학 공식이 어떻게 해서 그 베일을 벗게 되었는지 그 과정을 재미있게 풀어쓴 책이다. 어렵게 느껴질 수 있는 책이었지만 매우 흥미롭게 읽었던 기억이 난다. 고난도의 수학적 지식이 없더라도 '페르마의 정리'가 어떻게 해서 풀리게 되었는지를 이해하기엔 부족함이 없었다. <페르마의 마지막 정리>를 통해 사이먼 싱이라는 저자에 대한 강렬한 인상을 갖고 있던 터라 암호의 역사와 과학에 다룬 <비밀의 언어>라는 책을 봤을 때 그때 느꼈던 흥분이 되살아 나는 듯했다.

사실 이 책을 읽기 전에 암호화에 조금 더 흥미를 갖게 된 이유가 있다. 그것은 다름 아닌 제2차 세계대전 당시 독일의 암호화 기계인 애니그마를 해독한 영국의 수학자 앨런 튜링에 관한 책과 영화를 본 후였기 때문이다. 정보 보안과 암호화에 관해 많은 지식을 갖고 있지는 않지만 IT 업종에 근무를 하다 보니 자연스럽게 관련 분야에 조금의 지식과 관심이 있던 터라 더 그랬던 것일지도 모르겠다. 그런데 우연인지 운명인지 저자는 이 책에서 애니그마의 암호화와 해독도 다루고 있었다. 조금만 생각해보면 당연한 얘기인데 마냥 흥분되지 않을 수 없었다.

암호와 해독의 역사는 전쟁의 역사와 함께 한다고도 볼 수 있다. 암호는 전쟁 중에 적에게 들키지 않고 군사작전을 안전하게 아군에게 전달할 목적으로 발전에 발전을 거듭했다. 카이사르 암호와 같은 초기의 암호문부터 애니그마와 같은 기계화된 암호문까지 갈수록 정교해졌다. 그러나 암호를 제작하는 이가 있다면 암호를 해독하는 자도 반드시 있게 마련이다. 전쟁의 역사만큼이나 보이지 않는 곳에서 암호 제작자와 해독자간의 투쟁도 함께 벌어졌다. 결코 깨질 수 없을 것만 같았던 난공불락 애니그마 암호가 해독되었을 때 암호 제작자와 해독자간의 투쟁은 해독자의 승리가 되는 것 같아 보였다. 그러나 현대에 이르러서는 그 결과는 반대가 되었다.

현재까지 그리고 당분간은 절대 깨질 수 없는 암호화가 탄생했다. 그 암호화 시스템의 명칭은 RSA다. 아마 이것이 무엇인지는 잘 모르지만 들어본 적은 있을 것이다. RSA 암호화란 두 개의 키 즉, 공개키와 개인키를 통해 메시지를 안전하게 암호화하고 복호화 할 수 있는 암호화 시스템이다. 공개키란 불특정 다수에게 알려진 일반적인 키를 말하고 개인키란 오로지 자기 자신만이 갖고 있는 키를 말한다. 공개키로 암호화된 메시지는 개인키로만 복호화 할 수 있다.

RSA 암호화를 설명할 때 등장하는 가상 인물이 있는데 앨리스와 밥 그리고 이브다. 앨리스와 밥이 중요한 메시지를 서로 주고받으려고 한다. 그런데 중간에서 이브가 이를 알고 해당 메시지를 가로채려고 한다. 그래서 앨리스와 밥은 RSA 암호화를 통해 서로의 메시지를 안전하게 보내고자 한다. 먼저 앨리스는 모두가 알고 있는 밥의 공개키를 통해 자신의 메시지를 암호화 한 후 밥에게 보낸다. 이때 이브는 앨리스가 밥에게 보내는 메시지를 가로챈다. 밥은 앨리스로부터 자신의 공개키로 암호화로 된 메시지를 받고 자신의 개인키로 암호화된 메시지를 복호화 해 앨리스의 메시지를 읽을 수 있다. 하지만, 중간에 앨리스의 메시지를 가로챈 이브는 밥의 개인키를 알아내지 못하는 한 어떤 방법으로 메시지를 복호화 할 수 없다. 이것이 1978년 3명의 MIT 연구자들에 의해 발명된 이래 현재까지 가장 강력한 암호화 시스템이다.

RSA 암호화 시스템이 개발된 이후 데이터 통신은 그야말로 안전하게 통신할 수 있게 되었다. 암호 제작자의 완벽한 승리다. 과연 그럴까. 확언할 수 없는 이유는 바로 암호화의 미래인 양자 암호 때문이다. RSA가 난공불락 암호화인 이유는 그것의 알고리즘이 되는 큰 숫자의 인수분해가 사실상 불가능하기 때문이다. 숫자가 커지면 커질수록 고성능 컴퓨터 수천만대로 인수분해를 한다고 해도 우주의 나이보다 더 걸릴 거라고 한다. 하지만 양자역학을 이용한 암호 해독이라면 얘기가 달라진다. 1993년 발표된 쇼어 알고리즘은 양자 컴퓨터를 이용하여 임의의 정수를 다항 시간 안에 소인수 하는 방법을 발표했다. 만약 이 이론이 상용화된다면 RSA 암호화 알고리즘은 해독 가능하게 된다. 그렇다 하더라도 암호 해독자의 승리는 결코 될 수 없을 듯하다. 그 이유는 간단하다. 바로 양자역학을 이용한 암호화 때문이다.

1995년 제네바 대학 연구원들에 의해 광섬유를 통해 양자 암호로 통신하는데 성공했다. 또한, 스위스에서 마찬가지로 광섬유를 가지고 한 실험을 통해 한 도시 안에 있는 금융기관들 간에 비밀 통신 시스템 구축이 가능하다는 것이 밝혀졌다. 실제로 현재 미국 백악관과 국방부 간의 양자 암호망 구축은 가능한 상태다.

​암호의 역사와 그 안에 숨겨진 과학에 대한 이야기가 마치 암호 제작자와 해독자와의 대결 구도처럼 이어진 듯하다. 하지만 실제 암호화가 거쳐온 과정이 그러하기에 빼놓을 수 없는 이야기 구도가 아닐까 싶다. 우리가 흔히 사용하고 있는 비밀번호에 대한 암호화가 이렇게 긴 역사를 갖고 있었으며 정교한 과학으로 만들어진 시스템인 줄 미처 알지 못 했다. 새삼 암호화에 대한 경이로움이 느껴진다. ​ 더불어 정보 보안이 무엇보다 중요한 시대에 그 기반이 되는 암호화 시스템에 알게 되어 조금은 뿌듯함도 느낀다.

이 책은 어쩌면 암호화와 복호화에 대해 잘 알지 못하거나 관심이 부족한 사람들에게는 조금 어렵게 느껴질 수도 있을 듯하다. 하지만, 암호가 아닌 세계사의 흐름 속에 암호와 해독을 바라본다면 충분히 재미있게 읽을 수 있는 책이라 생각된다. 또한, 이 책을 이해하는데 <비밀의 언어>를 바탕으로 제작된 다큐멘터리 <비밀의 과학>을 보는 것도 도움이 될 듯하다.