쿠르트 괴델의 ‘불완전성 정리’에 대해서는 상당히 많이 들었다. 사실 어디선가 읽은 것인데, ‘들었다’라고 밖에 표현할 수 없다. 그 정리의 의의에 대해서는 나름대로 이해를 했으나, 정작 그 정리가 어떤 과정을 거쳐 나온 것인지, 더 중요하게는 정말 그 정리가 어떤 것인지에 대해서는 읽지 못했거나, 이해하지 못했기 때문이다. 괴델이라는 인물의 삶도 마찬가지다. 그가 프린스턴고등과학원에서 아인슈타인과 단짝으로 지냈다는 얘기 정도는 들었지만, 그가 어떤 인물인지에 대해서는 그다지 정보가 없었다.

그래서 애써 찾아낸 게 레베카 골드스타인의 『불완전성: 쿠르트 괴델의 증명과 역설』이다. 표지에 ‘청소년권장도서’라 붙어 있어 그냥 단순한 인물 전기 정도가 아닌가 싶지만, 이건 웬걸. 이걸 우리나라 청소년이 읽을 수 있다면, 우리나라 청소년의 독서 수준은 거의 세계 최고 수준일 게다. 괴델의 불완전성 정리의 증명 과정은 말할 것도 없고, 그 의미에 대해서도 당연하고, 괴델의 학문적 배경을 이루는 빈의 역사라든가, 비트겐슈타인의 논리 등에 대해서 결코 녹록치 않은 지적 배경을 갖추고 있어야만 하는 책이다(나는 ‘청소년권장도서’ 딱지를 붙여준 한국간행물윤리위원회의 위원들은 이 책을 제대로 읽지 않은 거라 본다. 이 책이 좋지 않은 책이라는 얘기가 아니라, 수준이 그렇단 얘기다).

레베카 골드스타인은 괴델과 그의 그 유명하고도 까다로운 정리에 대한 평전임에도 절반 정도는 그 주변을 돌아다닌다. 그 주변이란 논리실증주의를 탄생시킨, 1920년대 빈의 ‘슐리크서클’, 혹은 ‘빈서클’과 비트겐슈타인을 의미하고, 또한 수학자 힐레르트와 그의 형식주의를 의미한다. 굳이 나누자면, 한쪽은 철학 쪽에 속하고, 또 한쪽은 수학 쪽에 속하는데, 괴델이 속해 있었던, 그리고 그가 깨부수고자 했고, 실제로 그렇게 되었던 분야가 그들이었고, 그 분야였다. 그래서 그들과 그들의 논리에 대한 이해가 선행되어야 한다.

간단히 말하자면, 빈서클의 논리실증주의는 ‘과학과 관련된 정밀성과 진보의 이름 아래 논의된 최초이자 가장 중요한 운동’ (p.84)이었다. 과학에서 신비적 모호성과 형이상학적 경향을 걷어내 경험과학의 견고한 체계를 세우고자 했다. 괴델은 그 빈서클의 멤버였지만, 그들의 철학을 받아들이지 않았다. 빈서클에 참여하기 전부터 그는 플라톤주의자였지만 정기 회합에 참여하면서도 한 마디의 반론도 제기하지 않았다. 마음 속으로 반론만 품었던 셈이다 (‘침묵의 반대자’).

힐베르트의 수학적 형식주의에 대해서도 자세히 설명하고 있다. 수학 자체로서 정합성을 갖추기 위해 외부의 다른 어떤 진리도 참조할 필요가 없게 정립해야 한다는 입장인데, 그 동안 인정되어 왔던 수학적 직관을 추방해야만 그 목표에 다다를 수가 있다. 즉, 형식주의에서 “수학자들은 자폐적인 형식 체계를 구성하면서 그들의 연역적 기교를 시험하기에 충분할 정도로 복잡한 기계적 규칙들을 다룰 뿐이다.” (P.151)

괴델은 1930년대 초반, 힐베르트의 거대한 계획을 파산시켰다. 즉, 참인 명제임에도 불구하고 그것을 증명할 수 없음을 보임으로써 ‘증명불능의 산술적 진리가 존재함’을 증명해냈다. 책에서는 그 증명의 과정을 다른 교양서적에서는 볼 수 없는 수준으로 상당히 자세히 보여준다(따라서 거의 이해불능이다. 또는 너무 낯설다). 이 불완전성 정리에 대한 해석은 무척 다양했다. 그것을 제대로 이해했는지는 차치하고, 그것이 의미하는 바를 원하는 대로 적용했다: “다른 많은 사람들은 괴델의 수학적 결론을 자신들의 기호에 맞게 실증주의적이거나 실존주의적이거나 포스트모던적인 것 등의 초수학적 형태로 왜곡시켰음” (p. 207).

그리고, 비트겐슈타인은 괴델의 정리를 폄하하고 받아들이지 않았다.

괴델은 무척 괴팍한 사람이었다. 친구도 거의 없었으며, 편집증적인 증세마저 갖고 있는 인물이었다. 저자는 그의 편집증을 옹호하면서, 편집증이 ‘이성의 포기가 아니라, 오히려 이성이 미친 듯이 날뛰는, 뭔가에 대한 해명을 찾는 창조적 노력이 무자비하게 펼쳐지는 현상’(p. 224)라고 하고 있다. 그럼에도 그를 이해할 수 있는 이들은 무척 드물었고, 그를 이해하더라도 그와 친해질 수도 없었다. 물론 친하고자 하는 마음은 괴델도 없었다. 아인슈타인이 그의 유일한 말벗이었던 것은, 그런 날 뛰는 이성을 진정으로 이해하고 받아들이기 위해서는 아인슈타인 정도의 지적 능력이 필요했다는 얘길까?

괴델은 ‘아리스토텔레스 이후 최고의 논리학자’란 평을 받는다 한다. 그런데, 그가 어떤 인물인가보다는 그의 정리가 어떤 파급력을 갖게 되었는가가 더 큰 주목을 받는다. 실제로 괴델에 대해서는 쓸 게 별로 없다는 게 이 책을 통해서도 알 수 있다. 그 파급력에 대해서는 오해도 많다. 그건 그 정리의 주인과 마찬가지로 그 정리 자체가 쉽지 않기 때문이라 보인다. 그것도 이 책을 통해 알 수 있다.