서문

1859년 8월, 베른하르트 리만(Bernhard Riemann)은 겨우 32살의 나이로 수학자 최고의 영예라 할만 한 베를린 학술원의 회원이 되었다. 그 때 리만은 당시의 관례를 따라 자신이 연구하던 주제로 논문을 작성하여 학술원에 제출하였는데, 별로 특별할 것도 없이 일상적인 대수학에 관한 내용을 담고있었던 그 논문의 제목은 《주어진 수 이내에 존재하는 소수의 개수에 관한 연구(On the Number of Prime Numbers Less Than a Given Quantity)》였다. 이 논문에서 리만은 주제를 부각시키기 위해 다음과 같은 질문을 던졌다.“20 미만의 숫자들 중 소수(prime number)는 몇 개인가?” 답은 2, 3, 5, 7, 11, 13, 17, 19, 즉 8개이다. 그렇다면 1,000 미만의 숫자들 중에는 소수가 몇 개나 있을까? 100만 보다 작은 소수는 몇 개일까? 소수를 일일이 세는 중노동으로부터 우리를 구제해줄 일반적인 규칙이 과연 존재할 것인가?

리만은 요즘 보기에도 고등수학이라 할만큼 세련된 방법을 동원하여 이 문제와 씨름을 벌이던 와중에 대단히 강력하면서도 그 성질이 매우 미묘한 하나의 수학적 객체를 만들어냈다. 그리고 논문의 중반부에서 이 객체와 관련된 하나의 추측을 언급하고는 다음과 같이 마무리지었다.

나는 이 추측이 옳다는 것을 증명하기 위해 몇 번의 시도를 해보았지만 결국 실패했다. 물론 이것은 엄밀한 증명을 거쳐야 하겠으나, 지금 당장은 논문의 주제와 직접적인 관련이 없으므로 생략하겠다.

그 후로 십여 년 동안 리만의 추측은 세간의 관심을 끌지 못하다가 서서히 그 중요성이 부각되면서 결국 수학자들의 마음을 완전히 사로잡게 된다. 이렇게 된 계기는 앞으로 이 책의 본문에서 구체적으로 언급될 것이다.

리만이 그의 논문에서 짤막하게 언급했던 추측은 훗날 리만의 가설(Riemann Hypothesis)이라는 이름으로 불리면서 20세기의 수학자들을 무던히도 괴롭혔고, 지금도 그 사실여부는 증명되지 않은 채로 남아있다. 사실 리만의 가설은 최근에 해결된 역사 깊은 수학문제들보다 중독성이 훨씬 심하다. 페르마의 마지막 정리(Fermat's Last Theorem, 1637년에 제기되어 1994년에 풀림)와 4색문제(Four Color Problem, 1852년에 제기되어 1976년에 풀림)를 비롯하여 전문수학자들이 별로 관심을 갖지 않는 변두리 문제에 이르기까지, 그 동안 세간의 관심을 집중시킨 수학문제는 많이 있었지만 그 중에서도 리만의 가설은 전문수학자들이 가장 많은 관심을 갖고있는 미해결 문제이다. 리만의 가설은 모든 수학자들이 에이하브 선장과 같은 심정으로 찾아 헤매는 백경(白鯨)과도 같은 존재인 것이다.

수학자들은 20세기를 리만의 가설과 씨름하면서 다 보내버렸다. 당대 최고의 수학자였던 힐베르트(David Hilbert)는 1900년 8월에 파리에서 개최되었던 제2차 국제수학학회에서 다음과 같이 언급하였다.

소수의 분포에 관한 이론은 최근 들어 아다마르(Hadamard)와 푸신(de la Vallee Poussin), 그리고 폰 망골트(von Mangoldt) 등에 의해 기본적인 진전을 보았다. 그러나 이 문제의 완전한 해법은 리만의 《주어진 수 이내에 존재하는 소수의 개수에 관한 연구(On the Number of Prime Numbers Less Than a Given Quantity)》라는 논문에 가설의 형태로 이미 제시되어있다. 불행히도 우리는 그 가설의 참/거짓 여부를 아직도 증명하지 못하고 있다...

그로부터 100년 후, 하버드대학의 수학과 교수를 역임하고 현재 프린스턴 고등과학원의 원장으로 있는 필립 그리피스(Phillip A. Griffiths)는 《American Mathematical Monthly》라는 수학 월간지의 200년 1월호에 ‘21세기의 도전과제’라는 제목으로 다음과 같은 글을 게재하였다.

20세기에 수학은 엄청난 진보를 이룩했지만 10여 개의 유서 깊은 문제들은 아직 해결되지 않고 있다. 이들 중 다음 세 가지의 문제가 가장 중요하고 흥미롭다는데 이의를 달 사람은 없을 것이다.
리만의 가설 - 첫 번째 문제는 단연 리만의 가설이다. 이 문제는 지난 150년 동안 수학자들을 괴롭혀왔고...

미국의 부유한 수학애호가들은 지난 몇해동안 기금을 모아 여러 개의 수학연구재단을 설립하였다. 클레이 수학연구소(Clay Mathematics Institute, 보스턴의 은행가인 클레이Landon T. Clay가 1998년에 설립)와 미국 수학연구소(American Institute of Mathematics, 캘리포니아의 사업가인 존 프라이John Fry가 1994년에 설립) 등이 대표적인 사례인데, 이들은 모두 리만의 가설을 증명하려는 목적으로 세워진 연구소들이다. 클레이 수학연구소 측에서는 리만의 가설이 참(또는 거짓)임을 증명하는 사람에게 100만 달러의 상금을 걸어놓고 있으며, 미국 수학연구소는 리만의 가설을 주제로 전세계의 수학자들이 참석하는 학회를 꾸준하게 개최해오고 있다(1996, 1998, 2002년). 이러한 노력들이 어떤 결실을 맺을지는 좀 더 지켜볼 일이다.

페르마의 마지막정리나 4색문제와는 달리, 리만의 가설은 내용 자체가 어렵기 때문에 수학을 전공하지 않은 일반인들에게는 그다지 친숙한 문제가 아니다. 난해한 수학이론을 배경으로 하고 있는 리만의 가설을 간단하게 표현하자면 다음과 같다.

리만의 가설(The Riemann Hypothesis)
제타함수(ζ function)의 자명하지 않은(non-trivial) 모든 근들(zeros)은 실수부가 1/2이다.

고등교육을 제대로 받았다 해도 수학을 전공하지 않은 사람들은 대체 무슨 소리를 하고있는지 갈피를 잡기가 어려울 것이다. 거의 아프리카 오지의 토속어 수준이다. 이제 본문으로 들어가면 이러한 가설이 나오게된 역사적 배경과 관련된 인물들을 소개하고, 리만의 가설을 이해하기 위한 수학적 배경지식들을 단계적으로 소개할 예정이다. 이 책의 목적은 수학을 전공하지 않은 일반 독자들과 함께 신비하고도 심오한 리만의 가설을 음미하고 이해하는 것이다.

。。。。。。

이 책의 순서는 아주 간단하다. 홀수 번호가 붙은 장(chapter)에서는 수학적인 내용들을 주로 다루면서 독자들로 하여금 리만의 가설을 수학적으로 이해하고 그 중요성을 인식할 수 있도록 돕는데 주안점을 두었다(처음에는 홀수가 아니라 소수 장에 이 내용들을 할당하려고 했었으나 독자들이 혼란스러워 할 것 같아서 포기했다). 그리고 짝수 번호가 붙은 장은 주로 역사적인 배경과 관련 인물들(주로 수학자들)에 관한 내용이 담겨있다. 그러므로 수식을 좋아하지 않는 독자들은 짝수 장만 골라서 읽으면 된다. 물론 수학적 성향이 강하면서 수학사나 에피소드에 별로 관심이 없는 독자들은 홀수 장만 읽을 수도 있다. 사실, 수학에 관한 글을 쓰면서 이런 식의 분리법을 고수하는 것은 조금 부자연스러운 일이라 끝까지 엄밀하게 분리되었는지는 자신하기 어렵지만 기본적인 패턴은 그런 대로 지켜졌다고 본다. 이 책을 읽다보면 알게 되겠지만 짝수 장에는 수식이 압도적으로 많고 홀수 장에는 수식이 거의 없다. 그러므로 독자들은 취향에 따라 한 쪽만 골라 읽어도 전체적인 윤곽을 잡는데는 별 어려움이 없을 것이다. 그러나 가능하다면 모든 내용을 빠짐없이 읽을 것을 권한다.

이 책은 지적인 자극을 즐기고 호기심이 많으면서 ‘비수학적인’ 독자들을 위해 쓰여졌다. 물론 이런 식으로 말하면 당장 의문이 떠오를 것이다. 비수학적인 독자란 어떤 사람을 의미하는가? 이 책을 읽으려면 어느 정도의 수학적 지식을 갖추고 있어야 하는가? 사실, 우리 주변에 수학을 전혀 모르는 사람은 없다. 아마도 대다수의 사람들은 미적분학에 대한 아련한 추억이나마 갖고 있을 것이다. 나는 고등학교 수학 과정을 성공적으로 마치고 대학에서 수학 관련 과목을 한 두개 정도 수강한 사람들의 수준에 맞춰서 이 책을 집필했다고 생각한다. 원래 이 책의 목적은 수식을 전혀 인용하지 않고 리만의 가설을 설명하는 것이었다. 그러나 책을 쓰다보니 수식 없이는 설명 불가능한 부분이 필연적으로 등장하여, 세 개의 장에 걸쳐 미적분학의 기초지식을 나열할 수밖에 없었다.

그 외에 등장하는 수학은 기껏해야 (a + b)×(c + d)와 같은 괄호의 곱셈이나 S = 1 + xS에서 S = 1/(1 - x)를 구하는 방법 등 기초대수학의 범위를 넘지 않는다. 이와 더불어 수학자들이 즐겨 사용하는 약자나 약어에 빨리 익숙해져야 할 것이다. 단언하건대, 이 책에는 리만의 가설을 이해하기 위해 요구되는 최소량의 수학만이 실려있다. 이보다 더 간단한 수학으로 리만의 가설을 설명할 수는 없다고 생각한다. 그러므로 이 책을 덮는 순간까지 리만의 가설을 이해하지 못한다면 다른 방법으로 접근해도 여전히 이해하지 못할 것이다.

。。。。。。

이 책은 여러 수학자와 수학사학자들의 도움으로 완성되었다. 특히 제리 알렉산더슨(Jerry Alexanderson)과 톰 어포스톨(Tom Apostol), 매트 브린(Matt Brin), 브라이언 콘레이(Brian Conrey), 해롤드 에드워즈(Herold Edwards), 데니스 헤즈할(Dennis Hejhal), 아서 제프(Arthur Jaffe), 패트리시오 리버프(Patricio Lebeuf), 스티븐 밀러(Stephen Miller), 휴 몽고메리(Hugh Montgomery), 에르빈 노이엔슈반더(Erwin Neuenschwander), 앤드류 오들리즈코(Andrew Odlyzko), 사무엘 페터슨(Samuel Patterson), 피터 사르낙(Peter Sarnak), 맨프레드 슈뢰더(Manfred Schroder), 울리케 포르하우어(Ulike Vorhauer), 마티 보리넨(Matti Vuorinen), 마이크 웨스트모어랜드(Mike Westmoreland)에게 깊은 감사를 드린다. 이들은 여러 분야에서 내게 훌륭한 조언을 해주었을 뿐만 아니라 내가 아무리 어리석은 질문을 해도 끝까지 친절하게 답해주었고 집을 방문했을 때 커다란 환대를 베풀었다. 만일 이 책에 내용상의 오류가 있다면 그것은 이들의 잘못이 아니라 순전히 나의 불찰임을 미리 밝혀둔다. 브리기테 브뤼게만(Brigitte Bruggemann)과 헤르베르트 아이테나이어(Herbert Eiteneier)는 나의 짧은 독일어실력을 보충해주었고 내셔널 리뷰(National Review)와 뉴 크라이테리언(New Criterion), 그리고 워싱턴 타임스(Washington Times)는 내가 이 책을 집필하는 동안 우리 식구들이 먹고사는 일을 해결해주었다. 또, 온라인 상에서 의견을 개진해준 독자들 덕분에 일반인들이 수학의 어떤 부분을 가장 어렵게 생각하는지 알 수 있었다.

감사도 감사지만, 그에 못지 않게 양해를 구해야할 점도 많이 있다. 이 책은 현재 전세계의 내로라 하는 수학자들이 혼신의 노력을 기울여 연구중인 주제를 다루고 있지만, 페이지의 한계와 표현상의 문제 때문에 리만의 가설과 관계된 내용 중 상당부분을 뺄 수밖에 없었다. 그래서 이 책에는 근사적 함수방정식인 ‘밀도가설(Density Hypothesis)‘을 비롯하여, 오랫동안 잠들어 있다가 최근 들어 주목받기 시작한 흥미로운 내용들이 빠져있다. 뿐만 아니라 리만 가설의 변형된 형태인 ’일반화된 리만 가설(Generalized Riemann Hypothesis)‘과 ’수정된 일반적 리만 가설(Modified Generalized Riemann Hypothesis)', 그리고 ‘확장된 리만 가설(Extended Riemann Hypothesis)'과 ’대 리만 가설(Grand Riemann Hypothesis)', '수정된 대 리만 가설(Modified Grand Riemann Hypothesis)', ‘유사 리만 가설(Quasi-Riemann Hypothesis)'등도 다루지 않았다.

더욱 안타까운 것은 지난 십여 년간 이 분야를 연구해온 수많은 사람들의 이름이 이 책에서 누락되었다는 점이다. 엔리코 봄비에리(Enrico Bombieri)와 아미트 글로쉬(Amit Glosh), 스티브 고넥(Steve Gonek), 헨리크 이바니엑(Henryk Iwaniec, 그에게 메일을 보내는 사람들 중 절반정도는 그의 이름을 '헨리 K. 이바니엑Henry K. Iwaniec'으로 알고있다), 니나 스나이스(Nina Snaith) 등 많은 사람들에게 정중한 사과를 드리는 바이다. 집필을 처음 시작할 무렵에는 내가 얼마나 방대한 주제를 건드리고 있는지 미처 깨닫지 못했었다. 이 책은 지금 나온 분량의 세배, 혹은 30배 이상 길어질 수도 있었다. 그러나 담당 편집자는 원고의 매수에 명확한 한계선을 이미 그어놓고 있었기에 나로서도 어쩔 도리가 없었음을 이해해주기 바란다.

단순한 정보의 나열에 불과한 책을 제외하고, 저자의 세심한 배려와 애정이 배어있는 책들은 일종의 생명력을 갖고있다고 생각한다. 그것은 하나의 인격체로서, 집필되는 동안 저자의 마음속에 담겨 있으면서 책의 전체적인 분위기를 좌우한다. 이 책을 집필하는 동안 그 신비한 생명력은 옆방에서 헛기침을 하기도 하고, 이미 쓰여진 책의 각 장을 이리저리 둘러보면서 나의 갈 길을 인도해주었다. 물론 말할 것도 없이, 그 생명력의 원천은 베른하르트 리만으로부터 비롯된 것이었다. 그는 사회에 적응하지 못했고 몸도 병약했을 뿐만 아니라 항상 가난했고 가까운 사람들과의 사별을 수도 없이 겪었지만, 그의 마음과 정신은 불멸의 힘을 갖고 있었다.

완성된 책을 살아있는 누군가에게 헌정하는 것은 항상 기쁜 일이다. 나는 이 책을 나의 아내에게 바치고 싶다. 그녀는 책을 바치는 나의 마음이 얼마나 절실한지를 잘 알고 있으리라 믿는다. 그러나 뭐니뭐니해도 이 책의 주인은 베른하르트 리만임을 부인할 수 없다. 그는 짧은 생애를 반복되는 불행 속에 살면서도 그의 동료와 후손들에게 정말로 가치 있는 유산을 남겨주었다.

2002년 6월
뉴욕 헌팅턴에서
존 더비셔(John Derbyshire)