존 폰 노이만

폰 노이만은 1903년 12월 28일 헝가리 부다페스트에서 태어났다. 부유한 유대인 은행가의 장남으로 태어난 그는 다른 많은 천재들의 이야기에서 보듯 어릴 때부터 천부적인 기억력과 재능을 보였다. 열두 살 때 이미 보렐의 함수를 이해했으며, 열여덟 살 때는 페케테와 공동으로 수학 논문을 발표하기도 했다.

폰 노이만은 한마디로 기이한 인물이었다. 외모로 보나 성격으로 보나 우아하고 지적인 학자적인 풍모는 지니고 있지 않았다. 밤이면 동료들을 모아놓고 파티를 즐겼고, 술을 좋아했으며, 거친 운전으로 교통법규 위반에 걸리기 일쑤였다. 또한 여성을 주로 외모나 섹스의 상대로 평가하기 좋아하며 깊은 애정을 주는 일에 회의를 느꼈다. 그의 이런 냉소적 성향은 학문적 능력을 펼치는 데서도 마찬가지여서, 그는 순수학문에서 위대한 업적을 이루기보다 군사, 경제 등 권력의 중심과 연계하여 자신을 드러내는 일을 더 선호했다. 그 때문일까. 훗날 수학자 라울 보트가 회상한 바에 따르면, 폰 노이만은 그가 아는 유일한 위대한 수학자는 힐베르트이며 자신은 단 한번도 신동으로서 자신에게 기대되던 바에 맞춰 산 적이 없었다고 자조 섞인 말을 남기기도 했다.

그럼에도 분명한 것은 그가 자타 공인의 세계 최고 두뇌였다는 사실이다. 그렇기에 그가 암으로 생명이 위독한 시기에도 각 대학과 연구기관들은 최고의 조건으로 앞 다퉈 그를 데려가려 했고, 국가에서는 그의 군사적 중요성을 고려해 최고 의료진을 제공하기도 했다. 그는 베를린대학, 하이델베르크대학, 프린스턴대학을 거쳐 1932년부터 1957년까지 프린스턴 고등연구소에서 일했으며, 그 외에도 랜드 회사를 비롯한 여러 기관에 관여했을 만큼 정력적으로 자신의 천재성을 세상에 펼치고 갔다. 그리고 우리에게 분명하게 남겨진 것은 게임이론, 디지털 컴퓨터, 그리고 핵폭탄이다. 그것들은 세기가 바뀐 지금까지도 인류에게 가장 영향력 있는 산물로 남아 있다. 게임이론은 수많은 비판과 도전에도 불구하고 가장 영향력 있는 갈등 연구의 주제로, 컴퓨터는 세계의 그물망으로, 핵폭탄은 그 그물망 속의 인류를 일거에 소멸시킬 수 있는 파괴자로 말이다.

폰 노이만 임종의 자리에는 여러 장성들이 도열한 채 천재 수학자의 마지막 모습을 바라보았다. 혹자에게 지극히 감동적으로 보일지 모르는 이 장면은 사실 한 편의 딜레마 같은 그의 삶을 대변해주는 것일지도 모른다. 최고의 두뇌였으나 많은 시간을 낭비해버린 이 냉소주의자는 왜 아르키메데스의 죽음조차 택하지 못한 것일까?

게임이론
제2차 세계대전 동안 폰 노이만과 공동 연구를 한 과학자 제이콥 브로노프스키는 《인간 등정의 발자취》에서 폰 노이만에게 게임이론이 체스 같은 게임에 대한 것이냐고 물었던 일을 회상했다. 그때 폰 노이만은 이렇게 대답했다.

“체스는 게임이 아니라 잘 정의된 계산의 형식입니다. 이론상 어떤 국면에서도 올바른 수순을 알아낼 수 있지요. 하지만 진짜 게임들과 현실의 삶은 그렇지가 않아요. 현실은 허풍떨기, 자잘한 속임 전술, 내가 의도하는 바를 상대가 어떻게 생각할까 자문하는 일 등으로 이루어지지요. 그것이 내 이론 안에서 게임이 뜻하는 바입니다.”

다시 말해 게임이론은 자신의 이익을 최대화하려 하며 잠재적으로 사기성이 있는 적수들 간에 일어나는 갈등의 연구이다. 폰 노이만은 모든 게임에 합리적인 방법이 있는지 알고 싶었다. 세상은 논리적인 장소가 아니다. 상당한 비합리성이 일상을 채우고 있다. 그러나 그는 이익이 완전히 상반되는 두 사람이 대결하는 게임들에는 항상 합리적인 행동노선이 있다는 것을 ‘수학적’으로 증명했다. 이는 ‘최소최대 정리’라 부른다. 이 이론의 토대가 잡혀가자 그는 이 정리들을 경제학, 정치학, 외교정책, 그리고 그 외 다양한 영역에 적용할 수 있음을 깨달았다. 그래서 프린스턴의 경제학자 모르겐슈테른과 함께 이 분석을 《게임이론과 경제행위》라는 책으로 출판했다. 이 책이 출판된 후 게임이론과 그 용어들은 경제학자, 사회과학자, 그리고 군사전략가들의 인기 있는 전문용어가 되었다. 난해한 수학식으로 가득 찬 600쪽이 넘는 분량으로 인해 거의 읽히지는 않았지만, 수학적 개념 없이도 그 핵심 내용만으로 광범하게 영향을 줄 수 있었다는 점에서 게임이론은 가장 중요한 이론으로 받아들여졌다.

그리고 이 이론으로부터 파생된 가장 영향력 있는 개념 중에 협조와 변절을 핵심으로 하는 죄수의 딜레마가 자리 잡고 있다. 앞서 예시되기도 했던 죄수의 딜레마는 한갓 이야기가 아니다. 정확한 수학적 구성물인 동시에 현실의 문제다. 개인과 개인, 개인과 집단, 집단과 집단의 이익 사이에서 무엇을 선택할 것인지 쉽게 결정할 수 없는 딜레마에 빠트리는 이 게임은 이익의 갈등의 존재하는 어디에건 등장하는 경향이 있다. 이론가들은 이제 이 딜레마가 생물학, 심리학, 사회학, 경제학, 법학에까지 등장한다는 것을 깨닫고 있다.

그러나 무엇보다 게임이론과 죄수의 딜레마가 가장 구체화된 것은 냉전 시기 핵폭탄을 둘러싼 미소 경쟁에서였을 것이다. 게임이론과 죄수의 딜레마는 변절만이 가장 합리적 노선이라고 말한다. 그럼 핵폭탄의 딜레마는 어떤 노선으로 이어져왔고, 또 계속될 것인가.

핵폭탄
제2차 세계대전 당시 폰 노이만은 연합군이 전쟁에서 승리하리라고 확신했다. 그는 실제로 그 갈등의 수학적 모델을 스케치했고, 산업적 우세 덕분에 연합군이 승리하리라는 것을 연역해냈다. 전시에 폰 노이만의 프로젝트 중 하나가 그 산업적 힘의 대표적 사례인 원자폭탄이었다. 1943년 말, 오펜하이머는 폰 노이만에게 맨해튼 프로젝트를 위해 일해주기를 청했고, 폰 노이만은 신선한 수학적 도전들과 국가에 봉사할 기회가 기다리는 이 제안을 수락했다.

우선 폰 노이만은 기술적으로 원자폭탄의 파열 설계에 관해 결정적인 계산을 해냈다. 그의 계산으로 보다 효율적이면서도 폭발력이 극대화될 수 있는 폭탄이 설계될 수 있었다. 또한 그는 원자폭탄 사용에 대한 전략적 조언과 일본 내 폭격지점 선택을 도왔다. 폰 노이만은 후일 버트란드 러셀과 함께 소위 ‘예방전쟁’이라는 미명 아래 소련에 대한 핵폭탄 선제공격을 주장한 주요 인물 가운데 하나이기도 했다.

핵폭탄을 둘러싼 갈등이 지닌 딜레마의 핵심은 누구도 자명하게 우위를 점할 수 없는 경쟁의 연속선상에 있다는 것이다. 미국이 원자폭탄을 가지면 소련이 만들고, 수소폭탄 역시 마찬가지였다. 이는 광범하게 다른 국가들에게도 적용될 수 있으며, 이제는 그 누구도 자신의 피해는 없이 상대를 일거에 쓸어버리는 일은 불가능하게 되었다. 예방전쟁 논의는 바로 이런 딜레마를 싹부터 없애자는, 즉 전쟁을 막기 위한 전쟁이라는 역설로 주장되었다. 그리고 그 갈등의 정점은 쿠바 미사일 위기에서 극에 달했다.

흐루시초프의 미사일 기지 철수를 끝으로 파국을 면한 이 위기는 러셀이 말한 ‘겁쟁이 딜레마’와 맞닿아 있었다. 서로 충돌을 향해 달리는 두 자동차. 먼저 비켜나는 자가 겁쟁이가 되고 패자가 된다. 하지만 둘 다 겁쟁이가 되지 않기로 작정하면 오직 죽음만이 기다린다. 겁쟁이 딜레마 역시 게임이론의 주요 개념인 갈등과 선택의 상황을 강요한다. 이 딜레마의 하나 다른 점은 둘 다 죽기를 각오한 승리의 차선책으로 다만 체면 지키기를 선호할 수 있다는 것이었다. 흐루시초프는 체면을 구기지 않을 명분을 얻었고, 마침내 물러났다.

겁쟁이 딜레마가 되었든 죄수의 딜레마가 되었든, 이 갈등 상황들은 전부 게임이론의 노선을 따라간다. 이익의 극대화. 그리고 협조 혹은 변절. 따라서 핵폭탄의 딜레마들이 안고 있는 가장 핵심적인 문제는 누가 얼마나 많은 핵폭탄을 가지고 있느냐가 아니라 이를 둘러싼 갈등 상황들이 실제로 어떤 노선을 따라갈 것인가 하는 것이 될 것이다.