<괴델, 에셔, 바흐 - 영원한 황금 노끈> - 인공지능은 과연 인간을 능가할 수 있을까?

인공지능은 과연 인간을 능가할 수 있을까?

D. 호프스태터, <괴델, 에셔, 바흐 - 영원한 황금 노끈>

"의미는 일련의 역설들, 내부적인 역설들 속에서 스스로 전개되어야 한다."
(질 들뢰즈, <의미의 논리>, 한길사, P.87)

	▲ <괴델 에셔 바흐> 표지
	ⓒ2003 차재업

<괴델, 에셔, 바흐>. 사실 이 책은 좀 난해하지만 아주 흥미롭게 읽을 수 있는 책이다. 물론 그다지 대중적인 책은 아니라서 누구나 손쉽게 접근할 수 있는 책은 아니겠지만 이른바 '잡학'에 관심있는 사람들이라면 꼭 한 번 도전해볼 만한 책이라 할 수 있다. '잡학'이라고 하니까 뭔가 쓸데없는 지식을 떠올릴지도 모르겠는데, 현대 철학에서 '잡학'이라는 요소는 아주 중요한 포인트가 된다. 예를 들어 들뢰즈의 <천의 고원>을 제대로 이해하기 위해서는 문학, 정신분석학, 음악, 미술, 물리학 등을 아우러는 잡학의 필요성을 절감하게 되는 것처럼.

이런 측면에서 이 책 역시 여러 각도로 독해할 수 있다. 현대철학의 핵심을 건드리는 이론서로도, 예술적인 문체를 자랑하는 고급 에세이로도, 자연과학과 인문과학의 다양한 지식영역을 횡단하는 설명서로도, 배타적인 과학자 집단의 고정관념을 깨뜨리는 저작으로도 읽을 수 있는 것이다. 

우선, 이 책의 제목이 되고 있는 '괴델, 에셔, 바흐'. 좀더 정확히 말하면, 바흐의 카논, 에셔의 그림, 괴델의 정리는 서로 무슨 관계가 있을까?

호프스태터는 음계(바흐의 카논), 계단(에셔의 폭포), 역설(괴델의 정리)에서 이상한 고리 현상이 발생되고 있음을 설명하면서 시작한다(서장:음악-논리학의 헌정).

무한히 상승하는 카논

이상한 고리의 첫 번째 예로 든 것이 바흐의 '카논'이다. 근대 음악의 아버지라 불리는 바흐(1685-1750)는 1747년 프로이센 제국의 프리드리히 대왕으로부터 주제를 받아 '음악의 헌정' 이라는 작품을 작곡한다. 알려진 대로 프리드리히 대왕은 굉장한 음악애호가여서 궁정의 실내악 연주회 때에 직접 플루트를 연주하기도 했다고 한다. '카논'과 '푸가'로 구성된 이 '음악의 헌정'에는 일반적인 카논과 전혀 성격이 다른, 무한히 상승하는 순환고리를 가지고 있는 것이 하나 포함되어 있다.

이 카논은 키(음조)가 C 마이너임에도 다른 카논과 달리 종결될 때 D 마이너에 있다. 조바꿈이 일어난 결과이다. 조바꿈이 연속적으로 몇 번 진행되면 처음 키로부터 그만큼 멀어지게 되는 것이다. 그런데 이 카논은 끝이 처음으로 다시 연결되도록 구성되었기 때문에 처음 키인 C 마이너로 되돌아가야 한다. 신기하게도 이 카논은 여섯 차례의 조바꿈을 통하여 본래의 키로 복귀하게끔 작곡되어 있는 것이다. 

마치 끝나는 것처럼 보이는 종지부는 새로운 시작을 알리는 도입부로 연결되며, 이 과정을 통해 바흐는 한시적인 기호 속에서 '신의 음성'을 들려줘야하는 음악의 시간적 한계를 초월하고자하는 비밀을 드러낸다. "바흐는 의심할 여지없이 이 상승하는 카논은 무한으로 진행될 수 있다는 논리적 결과에 매료되었"다고 하면서 '푸가의 기법'이 전회(轉回)로 연주되어도, 역행(逆行)으로 연주되어도 똑같은 화성적 기법을 풀고 있다는 사실은 이 출발점과 소실점이 같다는 '헝클어진 고리'로 이뤄진 진리의 모순성을 반영한다는 것이다. 

이렇듯 처음에 C 마이너에서 출발하여 키의 계층 구조를 따라 더 높은 키로 올라갔으나 다시 처음 키인 C 마이너로 돌아온 것처럼, 우리가 계층구조를 가진 체계에서 어떤 수준을 따라 위쪽(또는 아래쪽)을 향해 이동하다가 느닷없이 본래 출발했던 곳에 다시 돌아와 있는 우리 자신을 발견할 때마다 이상한 고리 현상이 발생한다는 것이다. 말하자면 우리가 이동한 행적은 '고리' 모양이며 출발했던 곳에 되돌아온 것은 '이상한' 일이기 때문에 이상한 고리라고 명명한 것이다.(pp4~14)

에셔

에셔의 석판화 '폭포'에서도 이상한 고리 현상이 발생한다. 에셔(1898-1972)는 패러독스를 주제로 여러 편의 걸작품을 남긴 화가이다. 현대 미술에 조금이라도 관심있는 사람은 알든 모르든 그의 그림들, 정확히는 석판이나 목판화들을 한두 개 쯤은 보았을 것이다. 그가 1961년 발표한 '폭포'(p15, 아래 그림 참조)는 불가능한 물체라 불리는 삼각형을 3개 연결하여 그린 석판화이다.

▲ 폭포(Escher, 석판, 1961)

ⓒ2003 차재업

위 그림에서 보듯 폭포의 물길을 따라 내려가다 보면 놀랍게도 처음에 출발했던 곳으로 되돌아오게 된다. 고리의 각 부분에서는 한 곳도 잘못된 부분이 발견되지 않지만 전체적인 시각으로 보면 고리 전체가 분명히 불가능하기 때문에 패러독스를 느끼게 된다. 폭포의 물길을 따라 가다 보면 처음 출발했던 곳으로 되돌아오게 되기 때문이다(pp14~19). 에셔는 이 <폭포> 뿐만이 아니라 '두 개의 손이 서로 다른 손을 그리고 있는 그림'(p888, <손을 그리는 손>, 1948)이나 'ABCD 네 꼭지점을 가진 사각형에서 A에서 B로 올라가는 계단 B에서 C로 올라가는 계단, C에서 D로 올라가는 계단 그리고 D에서 A로 올라가는 계단 그림'(p16, <올라가기와 내려가기>, 1960) 등 에셔가 그린 대부분의 그림은 이런 '재귀적인' 내용을 담고 있다. 호프스태터는 이를 無限自己再歸性이라고 이름붙이고 있다.

불완전성의 정리

이상한 고리는 괴델의 불완전성 정리의 증명을 위해 사용된 에피메니데스 패러독스에서도 발견된다. 괴델(1906-1978)은 25살의 나이에 '불완전성 정리'를 발표했다. 괴델은 "나는 증명될 수 없다"라는 자기 자신을 증명할 수 없는 논리식을 구성하여 불완전성 정리를 증명했다. 이 논리식은 에피메니데스의 패러독스와 같은 맥락에서 이해될 수 있다.

기원전 6세기 경 크레타 섬에 살았던 것으로 알려진 에피메니데스는 "모든 크레타 사람은 거짓말쟁이이다"라는 불멸의 명제를 남겼다. 이른바 '거짓말쟁이의 패러독스'이다. 패러독스는 본디 그 자체는 모순이 없지만 참도 되고 거짓도 된다. 예를 들어 에피메니데스가 한 말이 진실이라면, 모든 크레타 사람은 거짓말쟁이이다. 그러나 에피메니데스 역시 크레타 사람이므로 그의 말은 거짓말이 되고 만다. 한편 에피메니데스가 한 말이 거짓이라면, 모든 크레타 사람은 거짓말쟁이가 아니다. 그렇다면 에피메니데스 역시 크레타 사람이므로 그의 말은 참말이 된다. 이와 같이 에피메니데스가 한 말은 동시에 참도 되고 거짓도 된다. 

"모든 크레타 사람은 거짓말쟁이이다"라는 명제는 "이 문장은 거짓이다"라는 명제로 바꿀 수 있다. 이 명제는 다시 "A : 다음 문장(B)은 거짓이다"와 "B : 앞의 문장(A)은 참이다"의 두 명제로 분리 가능하다. 두 명제는 제각기 의미가 완전하며 패러독스가 없다. 그러나 두 명제가 합쳐지면 에피메니데스 패러독스와 똑같은 효과를 나타내므로 이상한 고리 현상이 나타난다는 것이다. 

"나는 증명될 수 없다"라는 괴델의 논리식은 거짓이라면 증명이 가능하지만 참일 경우에는 증명이 불가능하다. 요컨대 참이지만 증명이 불가능한 명제가 존재하므로 모든 수학적 체계는 본질적으로 불완전하다는 것이다.(pp20~29)

이 불완전성의 정리에 대해서 필자가 설명한다는 것은 어불성설일테고, 이 명제는 사실 러셀과 화이트헤드가 내놓은 <수학원리>를 겨냥한 것이었다는 게 통설이다. 모든 수학적 진리를 자신의 체계 안에서 입증하고자 한 <수학원리>의 야심찬 포부는 괴델의 정리로 허물어질 수밖에 없었다(그런데, 이 <수학원리>는 너무나 난해한 책이라서 다 읽은 사람이 저자 두 사람과 괴델밖에 없을 것이라는 게 수학계의 정설(?)이라고 한다. 믿거나 말거나...^^ 수학의 이러한 '무모순성'에의 추구의 역사에 대해서는 이진경, <수학의 몽상>, 푸른숲 참조). 결정적인 것은 이 <수학원리>의 '허점'을 증명하는데 <수학원리> 내부의 방법론만이 쓰였다고 한다. 여기서 또다시 '이상한 고리'가 형성된다.

어쨌든 이러한 괴델의 불완전성 정리는 수학적 추론의 한계, 나아가서는 인간 이성의 한계를 이성 스스로의 힘에 의해 밝혀낼 수 있었다는 측면에서 20세기 수학 아니, 전학문적 성과를 통털어 첫손가락 꼽히는 업적으로 평가받게 되는 것이다.

소프트웨어와 하드웨어 사이의 경계

이렇게 음악, 미술, 수학에서 이상한 고리의 사례를 발견한 호프스태터는 이것을 사람의 두뇌와 마음에 대한 견해로까지 밀고 나아간다. 그는 몸과 마음을 분리시켜 생각하는 이원론적 접근방법으로는 사람의 마음이 뇌에서 출현하는 이유를 결코 설명할 수 없다고 주장하고, 뇌와 마음을 서로 다른 수준으로 구분시키는 방법론에 의해 뇌 속에서 의식이 생성되는 것을 설명하고자 한다. 

이런 맥락에서 마음을 컴퓨터의 소프트웨어, 두뇌를 하드웨어에 비유하고 두뇌가 떠받들고 있는 마음에서 의식이 출현하는 것처럼 컴퓨터 역시 하드웨어의 지원을 받는 소프트웨어에서 의식을 만들어내는 이상한 고리 현상이 발생할 수 있다고 주장한다. 요컨대 컴퓨터가 사람처럼 마음을 가질 가능성이 있다는 뜻이다(제 10장 '기술층위와 컴퓨터 체계').

그의 이러한 관심은 음악, 미술, 수리논리학은 물론이고 인공지능과 분자생물학, 나아가 선불교까지 동원하는, 한마디로 모든 자연과학과 인문과학을 넘나들며 언급된다. 워낙에 방대한 분량이고 깊이 있게 파고드는 부분도 많은지라 100% 다 이해하고 넘어가기 힘든 측면이 많다. 개인적으로 어렵게 느껴지는 부분이 이율배반, 또는 무모순성을 언급하는 부분에 나오는 재귀순환, 혹은 재귀준거의 수학적 증명이다. 수학적 지식이 얕은 입장에서는 복잡한 기호(처음 보는 수학적 기호도 많다)만 쳐다봐도 머리가 아플 지경이니 말이다.

인공지능

어쨌던 이런 과정을 거쳐 결론 부분인 제 19장 '인공지능 : 전망'에 이르러 컴퓨터 프로그램이 음악을 작곡할 수 있을까?, 정서를 기계에 프로그래밍해 넣을 수 있을까?, 천하무적의 체스 프로그램이 나올까?, 인공지능 프로그램은 인간과 동일해질까? 등등과 같은 열 개의 질문을 던져 놓는다.

이 질문들 중에서 일부는 이미 우리 생활에서 보편화되고 있는 형태로까지 나아간 것(이미 체스는 컴퓨터가 인간을 이기는 상황에 도달했다. 물론 이것이 컴퓨터의 연산방식이 인간보다 뛰어나다는 것을 뜻하는 건 아닐 것이다. 컴퓨터보다 훨씬 복잡한 논리적 연산을 요구하는 바둑의 경우는 아직 걸음마 수준이다.)도 있지만 이 책이 쓰여진 게 1979년이라는 걸 감안하면, 그의 이 질문들은 꽤나 선구적이었던 셈이다. 


처음 이 책이 출판된 건 1979년인데 불행하게도 우리나라는 20세기가 다 끝나가던 1999년에야 번역본이 나왔다. 개인적으로 무척이나 안타깝게 생각하는 것 중에 하나다. 좀더 젊은 시절에 읽었더라면 내 인생이 좀더 풍부해지지 않았을까, 하는 생각이 들만큼... 그 동안 필자는 이 책을 두 번 정도 숙독했지만 아직도 이해하지 못하고 있는 부분이 숱하게 있다. 모든 걸 다 소화하고 넘어갈 순 없겠지만 언젠간 그럴 수 있을 거란 기대를 안고 기꺼이 또다시 안개속 미로를 헤엄치게 만들 수 있는, 그런 책이다.

필자의 이런 바램을 이해하기라도 하는 듯, 호프스태터는 국역본 <괴델, 에셔, 바흐>의 '한국어판에 부쳐'에서 다음과 같은 글귀를 던져 놓는다.

인생에 남아도는 시간이란 없습니다. 인생은 별도의 공간과 사치를 허용할 정도로 길지 않습니다. 그 짧은 일부분에서 이 책을 읽는 분들에게 세상을 보는 아름다운 시각이 전해진다면, 그것은 저의 가장 큰 기쁨일 것입니다.(p. xix)

하지만 그의 세상을 보는 아름다운 시각을 '제대로' 읽어내기까지는 상당한 노력이 수반되어야만 할 것이다. 그러나 충분히 해볼만한 노력이 아닐까 생각된다.

i) 글의 모두에 들뢰즈의 <의미의 논리>의 한 구절을 인용한 것은 "의미란 그 어떤 진리에 '담겨지는' 게 아니라 진리를 둘러싸고 있는 환경에 의해 '나타나는' 것 같다"는 생각을 하기 때문입니다. 이건 이 책에서 아주 중요한 의미를 갖고 있으며, 또한 호프스태터나 들뢰즈가 루이스 캐롤의 <이상한 나라의 앨리스>를 하나의 중요한 철학적 텍스트로 취급하고 있는 이유가 바로 이 지점이 아닐까 생각합니다. ii) D. 호프스태터, <괴델, 에셔, 바흐 - 영원한 황금 노끈>, 까치(1999) 본문의 괄호안 페이지 표시는 모두 이 국역본의 페이지입니다. 역시 아쉬운 점은 번역의 어색함입니다. iii) 그러나 번역의 문제를 차치하고서라도 이 책은 누구나 쉽게 접근할 수 있는 책은 아닌 것 같습니다.