<수학의 몽상> - 열린 경계, 혹은 불완전함의 미덕

 

 

열린 경계, 혹은 불완전함의 미덕

 

"사람도 저마다 다른데 사람과 사과와 책과 개가 어떻게 같을 수 있을까? 상상도 하기 힘든 일이다. 여러분은 이런 등가관계를 상상해본 적이 있는가? 그리고 그것이 등가라는 것을 확신하는가? (…) 보신탕에 흥분하는 브리지트 바르도와 동물애호가협회 회원들은 사람과 개가 등가라고 생각한다. 그러나 그들은 개와 소, 개와 돼지가 등가라는 것을 이해하지 못하고 있다. 채식주의자는 개와 소, 개와 닭 등 모든 동물이 등가라는 것을 안다. 그러나 그들은 개와 사과, 개와 양파가 등가일 수 있다는 것을 모른다. (…) 수학은 이런 등가관계를 가장 철저하게 이해한다. 수학에서는 사람과 개, 사과, 책, 자동차와 코기리가 모두 등가적이다. 수로 추상을 한다는 것은 이처럼 철학자나 사상가, 운동가 등이 상상도 하지 못했던 등가관계를 보게 해준다. 인간이나 동물이나, 생물이나 무생물이나, 그것이 어떤 모양을 했든 간에, 각각의 개체는 하나라는 점에서 등가적이다. 이 얼마나 혁명적인가!"

(pp.27~28)

수학의 본질은 자유다

	▲ <수학의 몽상> 표지

80년대를 대학이란 사회에서 보내며 한국 사회의 변혁의 현장에 서 있었다면, 이진경이란 이름을 모르는 사람은 아마 드물 것이다. 일명 '사사방'이라 불린, <사회구성체 방법론과 사회과학방법론>이란 책이 가져온 파문과 충격은 가히 혁명적이었다 할 수 있다. 그 이후 <한국사회와 변혁이론>, <철학과 굴뚝청소부>, <맑스주의와 근대성>, <필로시네마, 혹은 '탈주의 철학'에 대한 7편의 영화>, <노마디즘> 등 학문간 가로지르기를 시도하며 끊임없이 '철학의 외부'를 유목하고 있는 그가 펴낸 수학 관련 책은 과연 어떤 내용을 담고 있을까?

"어느 날 멀리 떨어져 살던 어머니가 아들을 찾아왔다. 서로가 바쁜 삶들이라 이튿날 헤어져야 했다. 아들은 힘들게 사시는 어머니를 생각해 자신도 힘들지만 월세를 내려고 찾아두었던 20만원을 몰래 어머니 지갑에 넣어드렸다. 어머니를 배웅하고 돌아온 아들은 어머니가 책갈피에 끼워놓고 간 20만원과 '방값 내는 데라도 보태라'는 편지를 발견했다."

(p.294)

지은이가 독일 작가 케스트너의 소설 내용을 빌려 수학의 다면성을, 수학의 외부를 설명하는 대목이다.

단순하게 '경제방정식'으로 보자면 모자간의 교환은 이익도, 손해도 없는 교환이다. 그러나 여기에 '윤리방정식'을 대입하면 이야기가 달라진다. 아들은 어머니를 위해 20만원을 쓴 뒤 20만원이 생겼으니 40만원의 이득이 생긴 것이다. 이는 어머니 역시 마찬가지다. 대가를 바라지 않으면서 타인을 위해 무언가를 할 때, '경제방정식'으로는 나타나지 않는 순이득이 발생한다. 이런 계산법은 물론 통상적인 수학의 외부에 있는 것이다. 

이처럼 <수학의 몽상>은 '자유로워지기, 다르게 생각하기, 스스로 생각하기' 등 새로운 유목적 사유를 실험하고 있는 사회과학자 이진경 씨의 작품이다. 단순히 사회과학자의 시선으로 수학을 쉽게 해설하는 차원이 아니라 "수학적 발상 - 수학하기란 무엇인가"라는, 보다 근원적인 문제를 파고듦으로써 "수학이 인간의 사고 확장에 어떤 역할을 하였는가"를 파헤치고 있는 것이다. 이를 통해 <수학의 몽상>은 수학에 대한 기존의 통념을 뒤집어 놓았으며, 수학적 발상/수학적 사고의 흐름과 예증을 근대 이후의 수학사에 대한 풍부한 이해와 다양한 접근 방법을 통해 보여준다. 

특히 캘큘러스 박사와 메피스토가 영혼을 걸고 내기하는 미적분학의 탄생 설화(4장), <이상한 나라의 앨리스>가 비유클리드 기하학의 세계를 여행하는 부분(6장), '모든 점에서 미분불가능한 함수'로부터 '괴델의 불완전성의 정리'까지를 꿰뚫는 칼리가리의 예언(7장) 등은 분명 새롭고 신선하게 다가오는 장면들이 아닐 수 없다. 학교에서 이렇게만 수학을 가르쳐 준다면 필자처럼 '수학에 한맺힌' 많은 사람들이 수학을 충분히 가까이 할 수도 있었지 않았을까, 하는 생각이 들 정도로 인상깊게 다가오는 책이다.

무너진 보편수학에의 꿈

<수학의 몽상>은 근대과학혁명에서 수학이 수행한 혁명적 구실을 설명하는 데서부터 이야기를 시작한다. 근대 문명의 기초가 되는 근대 과학은 '자연을 수학화하는 것'에서 시작되었다. 자연에 수학의 주문을 건다는 것은 이전과는 전혀 다른 관점에서 자연과 세계를 보게 되었음을 의미한다. 이제 자연과 세계는 신의 원리가 아니라 객관적인 대상에 불과하다. 인간은 그 세계가 어떻게 운동하는가를 찾아내는 주체가 된다. 그리고 수학이나 과학이 제공하는 인식이 넓어질수록 자연에 대한 지배와 통제는 수월하게 된다. 한마디로 수학적 지식은 자연에 대한 인간의 지배를 가능하게 해주었다고 볼 수 있다.(pp.49~51)

근대과학의 핵심은 이처럼 "자연을 수학화하는 것", 다시 말해, 자연의 운동이나 원리를 수학적 공식으로 설명하는 것이었다. 무엇이든 계산 가능한 수학적 공간으로 끌어들이는 것이야말로 근대과학의 욕망이었다는 것이다.

여기에서, 곧 모든 것을 계산가능한 공간으로 끌어들이려는 수학의 끊임없는 노력 속에서 수학의 혁명 가운데 하나가 일어났다. 기하학을 대수학으로 번역하게 된 것이다. 이집트 그리스에서 기원한 기하학이 인도 아라비아에서 발전한 대수학으로 수렴됨으로써 수학의 통일이 이루어졌고(3장), 여기에서 근대수학의 비약적 발전에 결정적 기여를 한 미적분학이 탄생했다(4장).

그러나 통일된 것처럼 보인 수학의 체계는 심각한 내적 허점을 안고 있었고, 이 허점으로부터 다시 새로운 수학들이 분화돼 나갔다. 지은이는 근대수학사는 이 통합의 흐름과 분열의 흐름이 서로 다투고 갈등한 역사였다고 설명한다. 이렇게 자체 모순 없는 완전한 체계를 갖추려는 수학의 욕망은 1931년 괴델의 '불완전성 정리'로 마침내 무너지게 된다. 수학을 단일한 본질로 환원하려는, 하나의 보편수학을 확립하려는 모든 시도가 종말을 고하게 되는 것이다.(10장).

"괴델의 정리는 새로운 공리계에 대해서도 또다른 결정불가능한 명제가 있다는 것을 의미한다. 이는 어떠한 공리계도 완전히 닫혀지고 완결될 수 없다는 것을 뜻한다. 그런 점에서 어떠한 공리계도 불완전하다. 이는 공리계의 경계가 닫혀 있지 않고 열려 있다는 것을 뜻한다. 불완전성, 그것을 열린 경계를 뜻하는 것이고, 새로운 명제가 공리로서 들어와 않을 수 있는 여백을 뜻하는 것이다. 그것은 어쩌면 불완전함의 미덕이기도 하다."

(p.275)

수학은 하나의 철학이다

집합론의 창시자 칸토어는 "수학의 본질은 자유다"라는 유명한 말을 남겼다. '수학적 발상과 수학적 사고는 계산이 맞는가 확인하는 식의 편협한 것이 아니다. 그것은 공리나 전제, 혹은 출발점 자체를 의심해도 좋을 만큼 근본적인 것이다. 이런 점에서 수학은 비판적 사유의 가장 근본적이고 철저한 사례를 제공한다.'(p24) 수학은 자명해보이는 것에 대해서도 이유를 묻고 적절한가 여부를 따진다.

이러한 수학은 사실 근대 세계의 모든 곳에 깊숙이 침투하여 자리잡고 있기에 수학은 생각보다 우리에게 가까이 있고, 그렇게 가까이 있기에 우리는 이미 무의식적으로도 충분히 수학적으로 사고하고 수학적으로 판단한다. 이런 의미에서 수학은 하나의 '사고방식'이고 '삶의 방식'이다. 이는 근대 초기의 중요한 수학자가 모두 과학자인 동시에 철학자이기도 했다는 사실을 떠올려본다면 쉽게 이해할 수 있을 것이다. 역으로 대부분의 철학자들이 수학을 통해서 자신의 새로운 사유를 발전시켰다는 것 역시 수많은 사례로 입증된다.

"이런 의미에서 수학은 이미 하나의 철학이다. 그것은 당연시된 모든 것에 대해 다시 의문의 화살을 쏠 수 있는 용기와 전혀 생각지 못했던 것 사이에서 어떤 연관을 찾아내는 시적 상상력까지 포함하는, 그런 만큼 종종 뿌리까지 뒤집어버리는 전복적이고 혁명적인 사유의 양상들을 담고 있다. 수학은 이처럼 근본적으로 이질적인, 어느 하나로 환원할 수 없는 다양한 사유의 흐름들이 모이고 분기하며 흩어지고 다시 모였다가 또다시 갈라지는 사유의 선들로 가득 차 있다. 이런 점에서 수학은 그러한 사유의 선들, 그 궤적들을 탐색하고 추적하며, 그 집중과 분산의 양상을 포착하려는 철학적 사유의 대상이기도 하다."

(p7)는 것이다. 그렇다면 수학을 통해 철학을 사유하는 것 만큼이나, 철학을 통해 수학을 다시 사유하는 것 역시 중요한 작업이다. 지은이가 이 책에서 하고자 했던 것 역시 이러한 작업이라고 한다.

"어떤 것을 계산가능한 것으로 만들려는 것이 수학입니다. 운동을 계산하는 것이 근대 과학혁명의 출발점이 되었지요. 하지만 그것은 전혀 상이한 것 사이에서 새로운 관계를 찾아내며, 여기서 독창적 사유가 발전합니다. 그것이 수학의 강력한 힘일 겁니다. 그렇지만 그것에 형식적인 틀을 씌우려는 노력 또한 공존했어요. 특히 19세기 이후 '엄밀성'이란 말은 다양한 모습의 수학들을 어떤 형식요건에 따라 가위질하는 재단사의 역할을 합니다. 그러나 거기에 수학을 가두려는 시도는 결국 실패해요. 저는 근대 수학사를 통해서 수학의 그런 역동적인 모습을 보여주고 싶었습니다."

(출처:"이진경 선생님과의 인터뷰", www.transs.pe.kr)

곧 일부 수학전문가들이 이 책에 대해 비판하는 것처럼 지은이가 근대 수학에 행하고 있는 비판들이 수학에 대한 적대가 아니라는 것이다. 그가 90년대 이후 줄곧 화두로 붙잡고 있는 근대를 넘어서자는 뜻의 근대 비판이 근대적인 모든 것에 대한 적대가 아닌 것처럼. 

지은이의 바람처럼 이 책을 읽는 모두가 단번에 '수학의 외부'를 깨우칠 수는 없겠지만 어렵고 엄격하고 근엄한 수학이라는 생각에서 벗어날 수 있다면 이 책은 충분히 제 구실을 했다 할 수 있을 것이다.