오늘날, 수학은 (적어도 한국에서는)대부분의 사람들에게 환영받지 못하고 있다. 영재성을 판단한다는 미명하에 어린아이들을 괴롭히고, 대학진학이라는 기치 아래 청소년들에게 획일적인 사고를 강요하며, 성인들에게는 ‘너무 계산적이고 인간적이지 못하다’는 이유로 외면을 당하고 있다. 수학을 평생의 업으로 삼은 수학자들은 “수학만큼 순수하고 자연스럽고 우아하고 아름다운 학문이 없다”며 극찬을 아끼지 않는데, 일반인들이 느끼는 수학은 비인간적이고 부자연스럽고 딱딱하기만 하다. 그래서 수학을 주제로 일반 교양서를 집필하는 작가들은 독자들에게 부담을 주지 않고 쉽게 다가가기 위해 약간의 과장과 미화, 그리고 어려운 부분에서는 대강 추리는 정도로 넘어가는 미덕을 적절히 발휘해야 한다. 과학 책이 많이 읽히려면 일단은 쉬워야 한다. 사방에서 쏟아지는 정보를 빠짐없이 주워 담으며 바쁜 일상을 살아가는 우리에게는 어려운 책을 취미 삼아 읽을 여유가 없다. 그래서 대부분의 교양과학서들은 포장만 뜯으면 금방 먹을 수 있도록 편리하게 가공되어 있다. 물론 이것은 과학뿐만 아니라 인문과학, 철학, 경제학 등 거의 모든 분야의 전문작가들이 교양도서를 집필할 때마다 공통적으로 거치는 과정일 것이다. 그런데 순수과학으로 갈수록 전공서적과 교양 과학서의 난이도 차이는 점점 더 커지는 것 같다. 경제학은 전공도서와 교양도서의 내용이 크게 다른 것 같지 않은데(적어도 사용되는 어휘는 거의 비슷하다), 물리학이나 수학분야의 전공도서는 외계인들이나 이해할 법한 암호로 가득 차 있다. 이 난해한 내용을 일상적인 언어로 풀어쓴다면 책의 분량이 족히 10배는 늘어날 것이다.

그렇다면 순수과학을 표현하는 방법에 문제가 있는 것일까? 원래는 아주 쉽고 간단한 내용이었는데, 현학적인 학자들의 손을 거치면서 그렇게 어렵고 딱딱한 내용으로 변한 것일까? “수학, 알고 보면 쉽다!”는 모 참고서의 광고카피처럼, 수학을 전달하는 방법의 효율성에 문제가 있는 것일까? 아무리 생각해도 그런 것 같지는 않다. 1,000m 높이의 산을 정복하려면 어떤 루트를 택하건 무조건 1,000m를 올라가야 한다. 중간에 잠시 쉬어가거나 경사가 완만한 길로 돌아갈 수는 있지만, 중간 높이를 생략할 수는 없다. 이와 마찬가지로, 어려운 학문을 쉽게 정복하는 지름길이란 결코 있을 수 없다. 누군가가 확실하게 쉬운 길로 안내하는데 성공했다면, 그는 1,000m가 아니라 700m 밖에 올라가지 않은 것이다. 높은 완성도를 요구하는 학교의 교과 과정에서 이런 식의 교육은 결코 바람직하지 않다. 그러나 수학 교양서라면 저자가 강행군과 휴식을 적절히 섞어서 무리 없이 정상을 정복하도록 유도할 수도 있을 것이다. 따라서 원래 말하고자 했던 내용을 충실하게 전달하면서 독자들을 지치게 만들지 않으려면 행군과 휴식을 적절히 섞는 수밖에 없다. 이런 점에서 볼 때, 수학적인 내용과 수학의 역사를 매 장마다 교대로 배치하여 완급을 조절한 저자 존 더비셔(John Derbyshire)는 수학의 산을 안내하는 1류 셰르파로서 부족함이 없다. 그는 전공서적과 비슷한 쪽수 안에 리만 가설의 모든 내용은 물론이고 그와 관련된 역사까지 담아내는 탁월한 능력을 발휘하고 있다.

이 책의 주제인 리만가설은 ‘수학 역사상 가장 풀기 어려운 난제’로 알려져 있다. 그러나 과거에 이와 동일한 수식어를 달고 다니던 수학문제가 또 하나 있었다. 수학에 관심 있는 독자들은 잘 알고 있겠지만 ‘페르마의 마지막 정리(Fermat's Last Theorem)’가 바로 그것이다. 페르마의 마지막 정리(엄밀히 말하면 가설)는 내용 자체가 너무 쉽고 간단명료했기에 정리가 처음 알려진 1637년 이후로 무려 360년 동안 전문 수학자는 물론이고 아마추어와 어린 학생들까지 관심을 갖고 증명을 시도해 왔다(페르마의 정리는 영국의 수학자 앤드루 와일즈(Andrew Wiles)에 의해 증명되었다. 그의 증명이 공식적으로 인정된 날짜는 1997년 6월 27일이다). 한마디로, 페르마의 마지막 정리는 대중적인 인기를 한 몸에 받은 ‘수학문제의 슈퍼스타’였던 셈이다. 그러나 리만가설은 사정이 전혀 다르다. 본문을 읽어본 사람은 알겠지만, 리만가설을 이해하려면 거기 등장하는 용어들을 먼저 이해해야 한다. 별로 길지도 않은 가설 속에 제타함수, 자명하지 않은 근, 실수부 등 생소한 단어들이 무더기로 등장하기 때문이다. 1859년에 탄생한 이 가설은 아직 증명되지 않은 최대의 난제임이 분명하지만, 전문 수학자들만이 공략할 수 있는 난해한 내용을 담고 있어 페르마의 마지막 정리처럼 유명세를 타지 못했다. 만일 리만가설이 증명된다 해도, 페르마의 정리처럼 뉴욕타임즈의 1면 헤드라인을 장식하기는 어려울 것이다. 그렇다면, 둘 중 어느 쪽이 진짜 ‘최대의 난제’일까? 만일 수학자에게 이런 질문을 한다면 “아마추어용 문제와 프로용 문제를 비교하는 것 자체가 무의미하다”고 대답할 것 같다(그러나 그 단순한 페르마의 정리를 증명한 와일즈의 논문은 엄청나게 난해한 현대수학의 개념을 망라하고 있다). 난이도는 차치하고, 리만가설이 증명되었을 때 얻을 수 있는 후속이득은 어느 쪽이 더 많을까? 제법 날카로운 질문 같지만, 수학자들은 이 역시 의미 없는 질문이라고 생각할 것이다. 수학은 타 분야의 응용이나 현실적인 이득을 위해 존재하는 학문이 아니기 때문이다. 물론 현대과학을 이룩한 물리학, 화학, 천문학, 공학 등이 수학의 덕을 톡톡히 본 것은 부인할 수 없는 사실이다. 그러나 순수수학은 너무도 고고하고 지순하여 그런 것은 안중에도 없다. 마치 손에 물 한 방울 안 묻히면서 과학이라는 집의 안살림을 꾸려나가는 부잣집 안방마님 같다. 역자는 바로 이것이 수학의 매력이라고 생각한다. 태생 자체가 워낙 고결하여 험한 세상과 직접 부대끼지 않지만, 세상에 꼭 필요한 과학을 기르고 훈육하는 역할을 수학이 하고 있기 때문이다.

역자는 이 책을 번역하면서 수학교육의 현실을 다시 한 번 생각해 보았다. 우리나라의 수학은 예나 지금이나 영재를 판가름하는 척도이고 대학진학을 위해 반드시 필요한 과목이며, 국력을 좌우하는 과학발전의 밑거름이다. 그러나 대다수의 사람들은 앞의 두 가지만 강조할 뿐, 가장 중요한 마지막 항목을 간과하고 있다. 이 항목을 무시하면 수학은 마치 레고블럭이나 장난감처럼 “어린 학생들의 지능개발과 논리적 사고력을 기르기 위해 반드시 필요하지만, 어른이 되면 필요 없어지는 아동-청소년 교육용 소도구”로 전락하게 된다. 물론, 소수의 천재가 다수를 먹여 살리는 지금의 현실을 감안할 때, 세계적인 수학자 몇 명만 양성할 수 있다면 수학교육은 대체로 성공적이라고 할 수도 있다. 그러나 이 ‘몇 명’이 탄생하려면 방대한 저변이 확보되어야 한다. 꽤 오래전부터 우리 청소년들이 세계적 규모의 수학, 또는 물리학 경시대회에서 상위 입상했다는 소식은 자주 접해 왔는데, 그 후에 당연히 들려와야 할 소식은 거의 들어본 적이 없다. 혹시 수학으로 검증 받은 실력을 다른 곳에서 발휘하고 있는 것은 아닐까? 그들에게 수학은 능력을 인정받기 위한 수단에 불과했을까? 학문 자체의 중요성이 경제논리보다 앞서는 세상은 이미 한물 간 것인가? 아니면 커다란 주기를 그리며 언젠가 다시 찾아올 것인가? 세계 어느 나라 보다 수학에 뛰어난 우리 청소년들이 순수 과학을 선도하는 그 날을 기대하며 기분 좋은 상상에 빠져본다.

박병철