책 씹어먹는 즐거움

『괴델 에셔 바흐』라는 책에 대한 이야기를 하지 않을 수 없다. 돌이켜 보면 20대 중반의 1년 정도 이 책을 열심히 읽었는데 그로부터 지금까지 대략 20년간 내 삶의 방향은 이 책과 직접 간접으로 연결되어 있다. 그리고 여전히 잘 이해하지 못하는 책이기도 하다.

왜 읽기 시작했는지는 정확히 기억나지 않는다. 어떤 선배의 펌프질로 읽기 시작했는데 읽자마자 총제적인 난관에 부딪혔다. 『괴델 에셔 바흐』는 당시 읽었던 다른 어떤 종류의 책으로부터도 겪어보지 못한 신기한 구성으로 방대한 분야를 통합한 책이다. 바흐의 일화로부터 시작해서 논리학, 수학, 컴퓨터 과학, 패러독스를 거쳐 에셔의 그림과, 현대 수학이 마주친 혁명적인 변화 그리고 불교의 선문답을 어우러지게 하면서 알고리즘과 생물학까지 통섭하고 있는 미친 책이다. 언급한 모든 분야에서 수박 겉핥기로 스쳐지나가는 것이 아니라 해당 분야의 핵심을 전문적으로 간결하게 짚어나가고 있어서 배경지식이 없으면 거의 이해하기 어려운 수준의 난이도를 보여준다. 그러면서도 동시에 각각의 내용들이 따로 노는 것이 아니라 서로 긴밀하게 연결되어 있었다. 그 선배와 같이 이 책을 읽어보기로 했던 친구들은 대부분 정말 독서를 많이 했고 박학한 교양과 깊은 지성을 보여주는 사람이었지만 어디까지나 문과였기 때문에 수학, 논리학, 컴퓨터 부분에서 침묵할 수밖에 없었고, 바흐의 음악 이론은 모두가 꿀먹은 벙어리가 될 수밖에 없었다. 그러다 보니 직관적으로 눈으로 보고 인식할 수 있는 에셔의 그림들과 그래도 어떻게든 알아들을 수 있고 몇 번 접해본 그리스의 패러독스, 불교의 선문답 위주로 책을 읽고 해석했던 것으로 기억한다.

독서 모임은 간단하게 한 번 읽는 수준으로 흐지부지 끝났지만 개인적으로 그 책을 계속 읽어 나갔다. 나름 독서를 좋아하는 편이지만 서사와 지식 위주의 독서를 했다면 이 『괴델 에셔 바흐』를 읽는 경험은 간결하고 잘 짜여진 이야기와 조각조각 이어지는 사유의 흐름 속에서 말로 설명하기 어려운 근원적인 무언가를 묘사하고 있는 느낌을 받았기 때문이다. 그것이 무엇인지 모르면서도 조화로운 가운데 아름답다고 느꼈고 그 근원을 알고 싶은 강렬한 열망 때문에 책을 손에서 놓지 못했다.

『괴델 에셔 바흐』는 굉장히 다양한 분야를 심도있게 다루고 있지만 동시에 비슷한 이야기를 끊임없이 변주하고 있다. 그렇다 변주다. 비슷한 주제가 다른 방식으로 반복되는 것이다. 음악, 논리학, 생물학, 수학, 패러독스, 인공지능, 그림, 불교의 선문답이 마치 전혀 다른 이야기인 것처럼 심도 있게 펼쳐지지만 그 핵심에 어떤 비슷한 무엇인가가 다른 방식으로 펼쳐지고 있는 느낌을 준다. 그렇다면 그것은 무엇일까? 책에서는 명시적으로 그것에 대해서 말하지 않는다. 그저 상징적으로 영원한 황금 노끈이라고 말한다. 그 부분은 인간의 지성이 극대화 되는 부분이고 동시에 인간 지성의 한계가 노출되는 무한히 순환하는 어떤 뫼비우스의 띠 같은 느낌을 준다. 잘 모르니 계속 이렇게 감상적으로만 이야기할 수밖에 없다.

그러다 보니 이 책을 이해하기 위해서 수학사와 현대 수학 그리고 논리학을 공부하기도 했다. 그리고 패러독스와 선불교의 선문답을 읽어보고 육조 혜능의 육조단경도 읽어보게 되었다. 덕분에 어떤 환상적인 비전을 그려볼 수 있게 되었는데 그것은 무한세계에 대한 어떤 동경 같은 것이었다.

칸토어의 무한 증명, 또, 튜링머신으로 그것을 증명한 튜링, 그들이 증명한 것은 오직 극도의 추상적인 사유와 그것을 뒷받침하는 지성으로만 도달할 수 있을 뿐 상상과 사유로 도달할 수 없는 아득하게 초월한 영역으로 그것이 무엇인지 그려보기도 힘든 영역이다. 마찬가지로 양자역학에서 말하고 있는 양자의 행동도 계산하고 증명은 가능하지만 직관적으로는 인식할 수 없다. 따라서 인간의 사유방식으로는 이해할 수 없고 그저 계산을 통해서 확인하고 그 결과를 수용해야만 하는 기괴한 세계다. 마지막으로, 괴델은 논리적으로 정합적인 참인 명제들이 증명할 수 없다는 점을 증명한다. 이 무슨 말인가? 증명되지 않은 참인 명제라는 것은 실제로 참이지만 그것이 참인지 아닌지 증명할 수 없다는 것이다. 이는 그리스 시절에 제시된 패러독스를 통해서 다시 인간 지성의 한계를 다시 보여준다. 그리고 그것을 초월하기 위한 선불교적 시도를 보여주고 있다. 

결국, 20세기에 들어오면서 많은 분야에서는 혁명적인 발전과 동시에 어떤 지성의 한계에 봉착하게 된다. 지성 자체가 진리를 이해하기에는 부족함을 알게되는 지성, 진리의 극한에서 오히려 이해할 수 없는 진리에 도달해버린 지성이다. 그리고 그런 모순 상태, 참인지 거짓인지 증명할 수 없는 상태를 다시 어떤 절대적인 일관된 이성으로 뛰어넘으려고 하기 보다는 오히려 지성의 한계를 인정하고 역으로 그 절대적인 진리라는 것에 대한 집착에서 벗어나 보다 폭넓은 가능성과 다양성으로 나아가기 위한 준거로 받아들이자는 이야기로 해석했다.

이 책을 통해서 결국 지성이라는 것에 대해 정말 깊이 통찰하였고 덕분에 그 지성의 한계를 뼈저리게 체감할 수 있게 되었다. 덕분에 인간의 지성과 이성이 무한하고 항상 옳다는 식의 계몽주의적인 맹목적인 믿음을 거둘 수 있게 되었고 인간의 이성이 제한이 있고 부족한 것이라는 자각과 함께 인간의 지성과 지능을 설계할 수 있지 않을까 하는 호기심이 생겨나게 되면서 이때 처음으로 인공지능에 대한 관심을 가지게 되었다. 

원래, 더글라스 호프스태터 본인도 인지심리학자로서 인간 정신의 구조나 지성의 본질에 대한 통찰, 그리고 인공지능에 대한 연구를 하고 있는 것으로 알고 있는데 이 책의 곳곳에서 인공지능에 대한 그의 통찰을 조금씩 읽어볼 수 있었다. 덕분에 나도 인공지능에 대해서 그리고 인간의 의식에 대한 철학적인 사유를 접하게 되었고 이러한 접근을 20년 동안 손에서 놓지 못하고 계속 지속하게 되었다. 

『괴델 에셔 바흐』를 처음 읽었던 당시에는 추상적인 느낌만 있는 수준이었지만 책을 읽으면 읽을수록 꼭 알아야 할 어떤 진리가 있다는 강력한 확신을 얻었고 그것을 알고 싶은 마음에 관련 공부에 몰두하게 되었다. 덕분에 꽤 오랜 기간 방황하기는 했지만 좋든 나쁘든 현재의 나에게 가장 중요한 자산 중 하나를 형성하게 되었다. 

덧붙이면 『괴델 에셔 바흐』에서 선불교를 인용하는 장면이 많이 나온다. 이것은 저자가 지성의 한계를  지성의 미혹으로 해석하여 이것을 치료하는 방법으로 선불교의 지혜를 선문답을 통해서 말하고 싶어하는 것처럼 해석이 되었고 그 덕분에 오랫동안 잊고 있었던 불교에 다시 관심을 가지게 되기도 했다.

어렸을 때를 떠올리면 1+1이 2가 된다는 것은 매우 의심스러운 사실이었다. 진흙으로 만든 공 2개를 겹치면 더 큰 진흙공 1개가 되어버리기 때문이다. 1개의 사과를 5개로 쪼개면 5개의 사과조각이 되지만 숫자만 가지고 보면 1=5가 된다. 이런 다양한 사례가 있음에도 불구하고 1+1이 반드시 2가 된다고 가르칠 때마다 나는 그것을 인정할 수 없었다. 이런 불만을 어머니에게 말하면 어머니는 내가 유난을 떤다고 생각했고 항상 받아들이라고 종용하기 일쑤였다. 그래서 결국, 나는 학교에는 1+1이 반드시 2가 되는 이유를 알 수 없는 규칙이 있다고 생각했다. 즉, 일종의 게임 규칙처럼 학교에서 물어볼 때, 1+1은 반드시 2라고 답해야 한다고 생각한 것이다.

그리고 이때부터 세상에는 내가 모르는 암묵적인 규칙이 있을지 모른다는 두려움에 떨었다. 그건 마치 이것과 같았는데 현실에선 거리에서 돈을 주웠을 때 그 돈을 찾아주는 사람이 거의 없음에도 도덕 시험지에는 그 돈을 찾아준다고 기입하게끔 되어있는 것과 마찬가지라고 생각했다. 즉, 학교에서 가르친 것은 현실적으로 납득할 수 있는 상식이나 진리와는 상관없이 학교의 규칙대로 말하고 따르는 법을 익히는 사람을 원한다고 생각하게 된 것이다. 그러니 공부를 하고 학문을 한다는 것이 스스로의 생각을 구체화하고 발전시키는 것이 아니라 단지, 규칙을 받아들여서 이를 응용해서 잘 한다는 것을 보여주는 것처럼만 느껴졌다.

그러다가 대학에 들어가서 수학사 관련 책을 읽다가 알게 된 것인데, 원래 지식의 구조가 그랬다. 즉, 가장 완벽한 논리적 정합성을 갖춘 증명된 지식도 그 밑바닥에는 증명하기 어려운 어떤 주어진 사실이 존재한다는 것이다. 그것은 처음부터 당연하다는 듯이 암묵적으로 사실로 받아들여지는 것이다.

가령, 유클리드 기하학의 전제는 완벽한 평면이다. 그런 완벽한 평면에서는 평행하는 두 직선이 서로 마주치지도 않고, 삼각형의 세 각의 합은 반드시 180도를 이룬다. 하지만 지구 표면처럼 동그란 구면을 전제로 한다면 평행하는 두 직선은 끝에서 만나고 삼각형의 세 각의 합은 180도 보다 커진다. 

1+1이 2가 되는 것도 이러한 암묵적인 전제가 있다. 그것은 어떤 기준이 존재한다는 것이다. 즉, 1을 기준으로 볼 때, 2가 되는 것이다. 진흙공 2개를 겹치면 진흙공 1개가 되지만 당초 진흙공 1개를 기준으로 보면 2개 분량인 셈이다. 사과 1개를 기준으로 볼 때, 사과를 5개로 쪼개면 각 사과 조각은 원래의 1개의 사과를 기준으로 볼 때 1/5개의 사과가 되는 것이다. 이러한 기준이라는 말을 매번 집어넣지 않으니 나처럼 머리가 나쁜 사람은 1+1=2를 이해할 수 없었던 것이다.

물론, 기준이 바뀌면 계산식도 바뀐다. 만일, 우리가 기준을 개체의 개수로 바꾼다면 각각 1개씩 2개의 개체가 합해져서 다시 1개의 개체가 될 수 있다. 그러므로 1+1=1이 되고 5=1이 될 수도 있다. 그것은 우리가 지금 숫자로 세는 것이 어떤 기준을 따르는 지를 명확히 한다면 아이들하고 같이 다양한 방식의 숫자 세기를 해볼 수 있을 것이다. 

가끔 이런 날이 있다. 뜬금없이 오랫동안 묵혀서 이젠 그 존재조차 희미해진 문제가 뜬금없이 생각나고 갑작스럽게 문제가 해결되어 버리는 날이다. 이 뜬금없는 축복이 기꺼워 글을 쓴다. 물론, 이 글은 당시의 내가 납득할지도 모르는 설명이다. 버트란드 러셀이나 화이트헤드의 복잡하고 어려운 논리적 증명과는 관계가 없으니 행여나 오해가 없었으면 좋겠다.

마지막으로 재미있는 것은 1+1이 2가 되는 것에 항상 의문을 가졌음에도 이 규칙을 기반으로 다음 단계인 곱하기로 넘어가 구구단을 외우게 되었을 때에는 이러한 의문을 풀고 싶은 욕구가 사라져 버린 것이다. 오히려, 그냥 1+1이 2가 되는 세상이어야 한다고 생각해버렸다. 왜냐하면 구구단을 힘들게 공부하고 나니 그것이 근본적으로 불안한 기반 위에 있는 것이라는 생각 자체가 큰 부담이 되어버린 것이다. 그래서 모든 것을 의심하던 소년이 이번에는 그 사실을 부정당할까봐 편집증적으로 그것을 방어하게 되었다.

살다보니 공부하는 과정이 매번 그런 식이었다. 납득하기도 어렵고 이해하기도 어려운 것을 툴툴거리면서 공부하다가 그것을 응용하여 이것저것 사용할 수 있는 수준이 되어버리니 그 납득하기 어려운 점이라는 부분을 애써 지워버리고 무마하는 과정의 반복이었던 것이다. 이제라도 먼 옛날의 의문점 하나를 풀어서 다행이다.