전설처럼 전해져오는 부르바키의 명성, 그리고 그들의 빛과 그림자!
1934년 겨울, 젊은 수학자 몇 명이 파리 라탱 지구의 한 카페에 모였다. 이들의 목표는 그 당시 대학에서 쓰이던 에두아르 구르사의 해석학 책의 허점과 부족한 점을 대체할 만한 새로운 수학 교재를 쓰는 것. 이 모임은 기존의 수학을 뒤집고 전설이 된 프로젝트를 향한 첫 발걸음을 시작했다.
‘부르바키’는 1930년대 ‘새로운 수학’을 건설하기 위해 모인 이 프랑스 수학자들의 집단 이름이다. 명석하고 개성이 뚜렷한 수학자 모임의 이름이 된 ‘부르바키’는 어디에서 유래했을까? 엉뚱하게도 1870년 프랑스-프로이센 전쟁에서 중요한 역할을 했던 부르바키 장군에서 그 이름을 따왔다. 수학자들은 자신들의 모임에 신화적인 성격을 부여하기 위해 전설적인 장군의 이름을 차용한 것이다. 부르바키 멤버의 면면을 살펴봐도 그들의 영향력과 학문 수준을 어느 정도 알 수 있다. 세계적인 수학자로 이름이 높은 앙드레 베유뿐만 아니라 앙리 카르탕, 클로드 슈발레, 장 델사르트, 장 디외도네, 수학 분야의 노벨상이라고 불리는 필즈메달을 받은 로랑 슈바르츠, 장 피에르 세르, 알렉산더 그로텐디크, 알랭 콘, 장 크리스토프 요코 등이 부르바키 멤버였다.
부르바키에는 그들만의 독특한 운영방식이 있었다. 그들은 토론을 효과적으로 할 수 있도록 회원수가 열두 명이 넘지 않도록 했으며, 신입회원을 모집할 때 앞으로 회원이 될 가능성이 있는 사람에게 ‘실험용 쥐’라는 명칭을 부여하고 자신을 증명할 기회를 주는 시간을 가지기도 했다. 또한 부르바키 회원들은 쉰 살이 되면 모임에서 은퇴를 해야 했다. 쉰 살이 넘은 수학자들도 여전히 훌륭하고, 왕성하게 활동할 수 있지만 새로운 발상을 소개하거나 젊은 사람들의 생각을 받아들이기가 예전보다 쉽지 않다는 이유에서였다. 그리고 부르바키에는 위계질서가 없었다. 모든 결정은 만장일치제를 따랐다. 투표는 하지 않았지만, 누구든 반대의견을 낼 수 있었다. 특히 교재의 각 부분을 편집할 때는 만장일치제를 철저히 지켰다. 최종판이 나오기 위해서는 모든 사람의 동의를 얻어야 했고, 이를 위해 몇 년에 걸쳐 작업을 하곤 했다.
하필이면 부르바키 모임은 1930년대에 만들어졌을까? 여기에는 1차 세계대전으로 프랑스 수학계가 한 세대 가까운 단절이 생긴 것이 그 원인이라 할 수 있다. 프랑스의 낡은 수학은 죽어가는 반면, 독일의 대수학은 생명력이 넘치던 시절이었다. 젊은 부르바키들은 새로운 수학교재를 펴내는 사업을 함으로써, 프랑스 수학의 표준을 다시 세우려 했다. 그들의 재능, 경험과 다양한 전문성, 독일 대수학의 영향, 수학 개념들을 명확히 하겠다는 매서운 의지 등 부르바키가 새로운 해석학 교재를 쓰는 데 이 모든 요소들을 중요한 역할을 했다.
프랑스 대학의 교육과 교재의 빈틈을 채우기 위해 현대적 해석학 교재를 종합적으로 쓰고자 시작한 이 모임의 업적은 바로 7천 쪽이 넘는 『수학원론』 25권으로 발전했다. 첫권은 1939년에, 1998년에 가장 최근 것이 나왔으며, 집합론, 대수학, 일반 위상수학, 실변수 함수론, 위상적 벡터 공간, 적분, 가환대수학 등의 10개 분야로 나뉘어 있다. 이 교재의 중요한 특징 중 하나는 “그 표현방식이 공리적이며 일반적인 것에서 특수한 것으로 가는 과정을 따른다”는 점이다. 부르바키는 사용법을 소개하는 부분에서 “읽는 이가 이미 해박한 지식을 가지고 있는 경우가 아니라면, 책에서 다루는 내용의 유용성은 그 뒤에 나오는 단원에 가서야 알 수 있게 될 것이다”라고 미리 말해두는데, 이 때문에 종종 비판의 대상이 되곤 했다. 글쓴이에게는 그 같은 표현법이 더 경제적이고 간단할지도 모르지만, 읽는 이의 입장에서 볼 때는 어쨌든 설명은 이해하기 쉬워야 하기 때문이다. 이런 문제를 해결하기 위해, 앙드레 베유와 장 디외도네는 다루는 주제를 역사적 흐름 속에서 볼 수 있도록 간단한 이야기를 집어넣곤 했다. 이러한 역사 속 이야기는 일반적으로 단원 끝부분에 나왔다.
누가 부르바키를 옹호하고 비판하는가?
부르바키 교재의 성공은 시간이 지나고 『수학원론』이 한 권씩 출판됨에 따라 수많은 비평을 잣대로 삼아 평가되었다. 우호적으로 바라보는 사람들은 “각각의 수학 분야 사이의 연결이 명확하게 드러나도록 하는 데 애를 썼고”, “각 개념들을 가능한 한 가장 일반적이고 추상적으로 나타내려 시도했으며”, “용어와 표기법을 세심하게 만들고 받아들였다”라고 추켜세웠다. 반면 비판적으로 보는 사람들은 “표현이 단순하고 일률적이다. 수많은 정의가 책 곳곳에 흩어져 있고, 그중 상당수는 제대로 동기부여되지 않았다. 마지막에는 언제나 연습문제 꾸러미가 고통스럽게 남아 있다. 그 저자의 다른 수많은 책들을 참고서로 옆에 갖춰야 한다”라고 꼬집었다. 또한 개성있는 교재이지만, 학생들을 위한 교재로서의 효용에 대해서는 의문을 제기하는 비판도 있었다. 부르바키는 앞으로도 책을 계속 펴낼 것인가? 원칙대로라면 부르바키는 출판을 계속 하겠지만, 작업이 많이 지체된 것은 사실이다.
전성기였던 1950-70년대에 부르바키는 수학 교재를 펴내는 일 외에 수학에 대한 꿈과 사상을 전파하는 작업을 시도했다. 깊이 있는 일관성을 갖춘 지적 토대, 공리적 기초 위에 세워진 추상적 구조체계. 이것이 부르바키가 바라본 수학의 모습이다. 꽤 많은 수학자 모임에서 이 개념을 지지하고 나섰으며, 또 다른 몇몇 분야에 새로운 기운을 불어넣기도 했다. 1947년 12월부터 한 해에 세 번씩, 주말에 다양한 강연자의 주제발표를 듣기 위해 수학자 2백여 명이 파리에 모이는 ‘부르바키 강연회’도 부르바키 모임의 주요 특징으로 들 수 있다. 이후 1999년까지 860여 회가 이어진 이 강연회는 성공적이라는 평가를 받는데, 그 이유는 부르바키 강연회가 그 주제의 전문가가 아닌 수학자도 참여할 수 있는 거의 유일한 강연회이며, 해당 주제를 발표한 발표자들도 전문가가 아닌 사람들이 대부분이었다. 이 강연회는 프랑스 안팎의 수학자들이 모여드는 만남의 장으로 세계 수학의 메카 가운데 한 곳이 되었다.
부르바키는 불멸의 수학자가 될 수 있을 것인가?
부르바키는 참으로 익살스러운 사람들의 모임이다. 그들은 수학을 그리고 삶을 즐길 줄 아는 사람들이었다. 어떻게 보면 그 모임의 이름인 부르바키부터 그들의 장난스러움을 보여주는 듯하다. 회원 한 사람, 한 사람의 이름을 쓰기 보다는 부르바키라는 이름을 씀으로써 모임의 정체를 숨기면서 학계 전체를 상대로 익살을 부렸던 것이다. 그들은 재미있는 노래를 만들어 부르기도 했고, 부르바키 회원들의 이름과 그들이 즐겨쓴 수학적 개념을 이용해서 장난스러운 청첩장을 만들기도 했다.
부르바키라는 수학자들의 모임은 그 존재 자체로 매력적일 뿐만 아니라, 재미있는 일화도 많이 만들어냈다. 수학사적으로도 공리주의에 기초한 수학의 통일을 시도했다는 점에서 매우 의미가 깊은 모임이다. 그러나 모임의 회원들이 계속해서 교체되었지만, 부르바키는 처음 지녔던 젊음의 패기를 그대로 유지하지는 못했다. 부르바키는 왜 1980년대부터 한물 간 느낌을 주게 되었을까? 출범 이후 70년이 지난 상황에서 이 모임의 역할과 의의에 대한 검토가 필요하다.
반복적인 교재 집필 작업으로 지쳤을 수도 있고, 갈수록 관계의 긴장도가 떨어진다는 점도 한 원인이 될 수 있으며, 해야 할 일은 많이 늘어났지만 멤버들의 시간이 부족한 점도 중요한 원인으로 꼽고 있다. 부르바키가 쇠퇴한 사회적 원인으로는 그들이 핵심 권력을 점유하고 구성원이 보수화된 것을 들 수 있다. 모임이 만들어질 때만 하더라도 이들은 반항적인 젊은 시위대로, 수학에 정립되어 있던 기존의 질서를 어떤 방식으로든 바꾸려는 의지가 있었다. 하지만 모임의 이름이 알려지고 영향력을 인정받자, 부르바키의 성격은 ‘엘리트주의’ ‘독단주의’ ‘정통주의’를 선호하는 쪽으로 옮겨갔다. 그럼에도 불구하고 부르바키는 수학사에 길이 남을 만한 가치가 있다. 부르바키의 열정, 넓은 시야, 도전정신 등을 살펴볼 때 이런 공동 작업은 쉽게 나올 수 있는 것이 아니기 때문이다. 부족한 점도 있었지만, 부르바키는 ‘지적 수준’을 조금이나마 드높이며, 한때를 풍미했다. 스포츠나 경제계 인물들이 우상이 되어버린 이 시대에 말이다.