3. 나는 일생동안 별 수 없이 이야기 하나를 반복하고 있다. 저자와 독자의 시간을 모두 낭비하는 이 과정이 결국 다시 할 때마다 이야기가 조금씩 명료해질 거라는 비현실적인 기대 때문에 일어난다.

7. 김민형 교수는 … 그것들을 공부시키는 것이 아니라, 그 매력에 빠지게 만들었습니다. 불가능에서 가능을 찾는 ‘애로의 정리’나 세상의 모든 존재를 거시적인 구조로 만드는 ‘오일러의 수’ 같은 것 말입니다.

16. 대수 이론은 19세기에 자리를 잡기까지 수세기 동안 다양한 형태로 연구되어왔습니다. 지금은 인터넷에서 사용되는 어떤 검색 시스템도, 정보 전송도 이 대수 이론 없이는 가능하지 않습니다. 이처럼 역사적인 흐름 속에서 중요한 수학 이론은 점점 더 심화되고 가속화되고 있습니다. 현재 대학에서 배우고 있는 수학, 특히 확률 이론, 정수론, 기하학의 많은 내용을 머지않아 초등학교에서도 가르치게 될 것입니다.

17. 컴퓨터의 능력은 수학 이론의 발전과 밀접한 관련이 있습니다. 많은 이론가들이 컴퓨터로 순수한 수학 실험을 합니다. ‘버치-스위너턴다이어 추측Birch and Swinnerton-Dyer Conjecture’이나 ‘리만 가설’과 같은 유명한 수학적 문제들은 수많은 컴퓨터 실험으로 뒷받침됩니다.

27. ‘수학은 논리학만은 아니다’라는 사실입니다. 논리라는 건 어떤 실체로부터 나오는 것입니다. 논리만으로 실체를 만들 수 없습니다. 순전히 논리적인 개념으로부터 수학을 만들어간다는 생각은 그릇된 관점입니다. … 수학을 논리로 정리하기 전까지 많은 단계가 있습니다. 굉장히 많은 사례, 구체적인 사례를 정리하는 과정에서 논리가 필요한 것이지, 처음부터 논리에서 수학을 만들어가는 게 아니라는 반론을 할 수 있죠.

38. 막연한 추상적 사고 이상으로 ‘구조’라는 개념의 의미를 명확하게 정의할 필요가 있습니다. 장 피아제 같은 학자가 쓴 구조주의 입문서를 보면 무슨 이야기를 많이 할까요? 수학 이야기를 합니다. 구조가 무엇인지, 구조적으로 같다는 게 무엇인지를 설명하려면 수학적인 구조, 수체계, 군론 등에 대한 이해가 필요하기 때문입니다. <신화와 의미>에 레비스트로스가 구조주의가 무엇인지 짧게 설명을 하는 이런 대목이 나옵니다. “사람들이 가끔 이(구조주의)를 굉장히 새롭고 혁신적인 것이라고 생각할 때가 있는데, 이것은 사실은 이중오류다. 첫째, 인문학에서도 구조주의와 같은 것이 르네상스 때부터 굉장히 많았다. 이보다 핵심적인 오류는 언어학이나 인류학 같은 데서 구조주의라고 하는 방법론은 자연과학에서 옛날부터 하던 걸 그대로 가져왔다는 데 있다.” 여기서 레비스트로스가 말하는 자연과학의 방식이 바로 수학적인 방법론을 말하는 거죠. 갈릴레오가 말했던, ‘수학적인 방법론으로 기술하는 것’과 같은 생각인 겁니다. 그렇게 보면 추상적인 개념적 도구를 사용해 세상을 체계적으로, 또 정밀하게 설명하려는 의도가 바로 수학이라고 할 수 있겠습니다.

54~57. 빛이 어떻게 판단을 하느냐. 그러니까 어디에서 어디까지가 최단 거리라는 것을 빛이 알고 간다는 것인데, 어떻게 빛이 아느냐. 이 문제는 철학적인 용어로는 텔로스Telos라는 말로 표현할 수 있습니다. 텔로스는 목적, 본질이라는 뜻입니다. ‘빛이 가장 빠른 경로를 찾기 위해서 이쪽으로 간다’는 설명은 마치 빛이 ‘목적성’, 텔로스를 지니고 있는 것처럼 들립니다. 이런 설명이 어딘가 비과학적으로 느껴지지요? 현대 과학에서는 이런 종류의 설명과 관점을 전부 부정합니다. (중략) 이 문제를 다른 관점에서 해결한 것이 하위헌스의 원리Huygens’ Principle입니다. 이는 빛이 퍼져나가는 방향에 대해 설명한 원리입니다. 방 안에서 형광등을 켜면 빛이 사방으로 퍼져나가서 방을 다 밝히듯이, 빛은 어느 한쪽 방향으로만 진행하지 않습니다. 그런데 하위헌스의 원리는 한 지점에서 빛이 퍼져나가면, 그 퍼져나간 지점에서부터 또 동시에 사방으로 퍼져나간다고 말합니다. 어느 순간이든 빛이 현재 닿아 있는 모든 곳에서 새로운 빛이 다시 나오게 된다는 것이죠. 이를 파면波面이라고 하는데요. 그러니까 빛이 진행한 전선이라고 볼 수 있습니다. 하위헌스의 원리에 따르면 빛은 전선에서 계속해서 만들어지는 파면의 원천이 되고, 또 나아가서 원천이 되는 과정을 거듭하게 됩니다. 앞에서 밝혔듯, 물에서와 공기에서는 빛이 퍼지는 속도에 차이가 있습니다. 파면의 속도가 공기 속보다 물에서 더 느리다는 점을 이용하면 빛의 굴절을 설명할 수 있습니다. 이것을 수학적으로 정확히 따져보면 빛이 사방으로 퍼진다고 해도 가장 빠른 경로가 아닌 것들은 전부 다 서로 상쇄되어 보이지 않게 됩니다.

60~61. “힘을 가하면 물체가 움직인다”는 표현을 했는데, 이 문장이 틀렸다는 것이 뉴턴의 굉장히 중요한 착안이었습니다. 왜 틀렸는가? … 멈춰 있는 것을 움직이게 하려면 힘이 필요하지만, 이미 움직이고 있는 건 그냥 놔두면 계속 움직이죠. 손으로 잡지 않더라도 멈추는 이유는 마찰의 힘 때문입니다. 뉴턴이 이를 정밀하게 표현한 말이 바로 ‘힘을 가하면 속도가’ 생기는 것이 아니라, ‘바뀐다’는 것이었습니다. 이것이 바로 뉴턴의 운동법칙입니다. “힘을 가하면 속도가 바뀐다.” 수수께끼를 푼 것 같은 기분입니다. 속도가 바뀌는 양을 우리는 ‘가속도’라고 배웠습니다. 방금 말한 뉴턴의 운동법칙을 이렇게 표현합니다. (A) 힘을 가하면 가속도가 생긴다.

66~67. 뉴턴이 가속도 때문에 발견한 개념이 바로 ‘미분’과 ‘적분’입니다. 이 ‘속도가 변하는 정도’를 정확히 수학적으로 표현한 것이 바로 미분입니다. 미분이란 변하는 정도를 재는 것입니다. 속도의 미분은 바로 가속도인 것이죠.

74~75. 과학자들은 지구와 달이 서로 얼마나 강하게 잡아당기고 있는지를 측정하고자 했습니다. 그런데 이는 만류인력의 법칙으로도 알기 어려웠습니다. 어떤 어려움이었는지 짐작하시겠습니까? 달과 지구 사이의 거리를 어디서부터 어디까지 재야 할지 몰랐을 것 같아요. 둘 다 구 모양이니 달의 표면 어느 지점부터 지구의 표면 어느 지점까지를 기준으로 삼느냐에 따라서 거리가 다르게 나올 테니까요. 방향이나 중력도 마찬가지고요. … 지구나 달의 각 표면에 굉장히 연속적으로 분포한 점과 점들끼리 사방에서 끌어당기는 이 모든 중력을 다 더해야겠죠? 양쪽에서 다 똑같이 끌어당기고 있으니까요. 여기에서 ‘연속적으로 더해준다’는 개념이 바로 적분입니다. 정량적으로 모든 등식을 이용해서 중력장 등식과 힘을 재는 등식, 운동법칙 등을 다 감안하여 적분을 해주면, 결국 달의 중간에서 지구의 중간 사이의 거리만 재면 된다는 결과를 도출하게 됩니다. 지금은 당연하게 이 공식을 활용하지만, 처음에는 전혀 당연한 문제가 아니었습니다. ‘어디서부터 어디까지 거리를 재라는 거냐’ 같은 질문에 먼저 답하지 않으면 지구와 달 사이의 중력법칙을 구할 수 없었고, 이로 인해 자연스레 적분이라는 개념을 만들어낸 것이죠.

78~79. 페르마의 원리에서는 빛이 최단 거리로 간다는 사실을 밝혔지만 ‘왜’를 설명할 때 목적성이 없는 설명을 하는데 어려움을 겪었습니다. 뉴턴의 만유인력의 법칙 역시 달과 지구가 잡아당긴다고 했는데, 왜 잡아당기는지에 대한 이야기는 아직 나오지 않았습니다. … “왜 잡아당기냐?”와 같은 질문은 그 자체로 중요합니다. … 질문을 하면서도 어떤 종류의 답을 원하는지 분명치 않을 때가 많습니다. (중략) ‘적당한 답의 틀satisfactory framework for finding the answer’. 어떻게 보면 우리 인생에서 어려운 질문들은 다 그런 식의 질문들이에요. 인생의 의미가 뭐냐고 물어보면, 처음에는 답을 모르죠. 이런 종류의 질문은 사실 ‘답을 모르는 것’ 이상으로 더 난해합니다.

81~83. 뉴턴 이론에서 빠진 가장 중요한 부분 중 하나가 바로, “어떻게 전달되느냐”의 문제였습니다. (중략) 힘을 전해줄 물체가 없는데 어떻게 중력이 전달될까요? 우주뿐 아니라 모든 공간 자체를 물질로 생각해야 한다는 관점이 여기에서 나옵니다. 공간 자체가 물질이 아니면 이 모든 것을 설명하기 어렵습니다. 결국 200여 년이 흐른 뒤에야 아인슈타인은 공간 자체를 물질로 해석해야 한다는 결론을 내립니다. 아인슈타인 이전에는 “어떻게 전달되느냐, 그러니까 왜 그렇게 됐느냐” 하는 질문이, 아인슈타인 이후 좀 더 구체적으로 “무엇을 통해서 전달되느냐”의 문제로 옮겨갔습니다. 더 나아가 중력이 시간차를 두고 전달된다는 사실도 밝혀졌죠.

85~86. 데카르트는 <방법서설>이라는 … 책에 특별한 부록이 3개나 붙어 있었다는 사실을 아시나요? 그중 하나는 현대 수학의 토대라고 할 만한 중요한 발견을 다룹니다. (중략) 이 3개의 부록 중 하나인 ‘기하학’은 과학사에 굉장히 중요한 영향을 미친 아이디어를 담고 있습니다. 바로 좌표의 발견이었습니다. 평면상의 점을 설명하기 위해 X축과 Y축이라는 직각선을 그리고, 그 점에서 각 축까지의 거리를 나타내는 수의 쌍으로 위치를 설명하는 것을 말합니다. … 데카르트가 바로 이 표현법을 만들어냈는데, 이는 인류의 역사에서, 그리고 수학사에서 굉장히 중요한 발견이었습니다. 기하학을 대수적인 방법, 즉 언어로 명료하게 표현할 수 있는 개념적 틀이 여기서부터 나왔기 때문입니다.

224. 위상수학이란 모양을 공부하는 수학의 분야 중에서 가장 근본입니다. 점, 선, 삼각면 등 간단한 형태들을 이어 붙여서 만들 수 있는 모양들을 예와 같이 기호화하는 것이지요.

225~226. 위상수학은 보통 거시적인 기하라고 설명합니다. 정밀한 기하는 무시하고, 크게 보았을 때 모양이 어떻게 단순한 형태로 조립되어 있는지가 기호로 저장된다는 뜻입니다. … 18세기 수학자 오일러는 점, 선, 삼각면으로 이루어진 임의의 물체가 있으면 다음과 같은 양이 중요하다는 발견을 했습니다. 면의 갯수 - 선의 갯수 + 점의 갯수. 지금은 이를 물체의 ‘오일러 수’라고 합니다. 정의를 보면 좀 이상할 것입니다. 다 더하는 것도 아니고 뺏다, 더했다. 왜 이렇게 계산할까요? 이 오일러 수는 정말 기발한 정의이며, 수학의 발전에 미친 영향이 너무나도 방대해서 가늠하기 어려울 정도입니다. 기하는 물론이고, 대수, 정수론, 조합론, 함수론에 이르기까지 오일러 수와 그 개념의 확장을 다양하게 활용하고 있기 때문입니다. 빼고 더하는 양상이 중요하다는 것을 알아내는 데는 상당한 천재성이 필요했을 것 같습니다. 조금 어려운 말이지만 이런 종류의 ‘음양이 엇갈리는 덧셈’이 물리학의 ‘초대칭성supersymmetry’이라는 개념과도 관계가 깊습니다. 어떻게 보면 위상수학이라는 분야 자체가 오일러 수의 정체를 밝힐 목적으로 개발됐다고 할 수 있습니다.

228. 오일러 수에서 중요한 것은 특정 모양의 오일러 수가 위상에만 의존한다는 사실입니다. 그러니까 위상이 같은 두 모양은 같은 오일러 수를 가지게 됩니다.

233. 위상은 모양의 거시적인 구조만을 기억하는 개념인 겁니다. 그런데 토끼와 도넛의 예에서 보았듯이 오일러는 거시적 정보를 기호화하고 ‘계산을 해서 모양을 구분하는 방법’을 발견한 것입니다. 이 개념이 기하학, 물리학, 우주학 등에서 점점 더 중요해지고 있습니다.

235~237. 어떤 형체가 있을 때 빛은 그 물체에 반사되어 눈으로 들어갑니다. 빛이 눈의 망막에 부딪혀 어떤 화학 작용이 일어나면 그 정보가 뇌로 전해지고 전기파로 돌아다니면서 뇌세포의 네트워크를 껐다 켰다 합니다. 제가 말하고 싶은 건, 이게 사실 모두 일종의 수학적 작용이라는 겁니다. 피상적으로 묘사했지만 우리 뇌에서는 이런 계산이 수시로 벌어지고 있습니다. 그렇게 보면 우리가 우주를 감지하고 인식하는 과정은 기하학적인 것이 아니라 대수적이라고 할 수 있습니다. 빛을 다 뇌세포 기호로 바꿔서 계산하고 있는 거죠. 이론물리학자들의 가장 큰 관심 중 하나는 근본적으로 우리가 인식하는 것을 넘어서 실제 자체가 대수적이거나 기하적이냐는 질문입니다. 2014년 옥스퍼드대학교의 학회에서 있었던 일입니다. 미국 고등과학원 원장으로 있는 로버트 다이어그라프가 상당히 철학적인 강의를 했습니다. 물리학적 구조와 수학적 구조 사이의 관계에 대한 일종의 명상 같은 강의였습니다. 그런데 이 강의가 끝난 뒤 세르게이 구스코프라는 젊은 물리학자가 질문을 하나 던졌습니다. “그럼 당신은 우주가 대수적이라고 생각합니까, 기하적으로 생각합니까? 내기를 해야 한다면 뭐라고 할 겁니까?” 한참을 망설인 다이어그라프는 “저는 우주가 대수적이라고 생각합니다”라고 답했습니다. 기하라는 건 대수를 표현하는 통계적인 현상이지, 근본적인 우주의 실체는 대수적일 것이라는 말이죠.

237~238. 우리는 흔히 모양이 먼저 있고, 그것을 기호화한다고 생각합니다. 그런데 이 사람들은 반대의 주장을 하는 겁니다. 이를 이해하기 위해서는 기하학에서 일어났던 혁명적인 사건이 세 가지 있습니다. 첫 번째 사건은 17세기 페르마와 데카르트입니다. … x좌표의 제곱 더하기 y좌표의 제곱일 때 더한 값이 모두 1이 되는 점들을 모아놓으면, 이게 원이 된다는 뜻입니다. 이것이 바로 기하를 대수로 바꾸는 것입니다.

238~239. 두 번째 혁명은 18세기 말 19세기 중반에 이루어집니다. 바로 ‘내면기하’에 대한 것입니다. 그러니까 기하를 생각할 때 그 물체의 내부의 관점에서 어떤 성질들을 표현하고 측정한다는 것이죠. … 영화 <인터스텔라>의 마지막 장면이 생각납니다. 영화에 보면 한 공간에서 천장 위에 논밭이 있고 사람들 사는 공간이 마구 휘어져 있습니다. 이 내면기하의 개념을 처음 제안한 사람이 바로 카를 프리드리히 가우스와 베른하르트 리만입니다. 기하의 안에서만 봤을 때 기하가 어떤 모양이 되는지에 대해서 생각해보자는 거죠. 예를 들어 종이를 세로로 한 번 휘었다고 가정해보면, 내면기하는 전혀 바뀌지 않습니다. 하지만 한 방향이 아니라 두 방향으로 휜다면 내면기하는 어떻게 될까요? 다음 그림을 볼까요. 뭔가 감자칩처럼 생겼습니다. 이런 종이 같은 것으로는 만들기 어려워보입니다. 면이 조금 늘어나야 할 것 같습니다. … 늘어나든 줄어들든 찢어지든, 그런 일이 일어나지 않으면 이런 모양을 만들 수 없습니다. 즉 내면기하를 바꾸지 않으면 만들 수가 없어요. 이처럼 내면기하가 바뀌는 걸 측정하는 것을 리만 곡률이라고 합니다. 내면기하가 바뀐다는 건 내적인 성질이 바뀐다는 겁니다. 우리가 피자를 먹을 때 바로 느낄 수 있지요. 피자를 약간 반으로 접어서 들어올리면 그 상태에서 뒤로는 안 접어지잖아요. 이것도 역시 내면기하가 안 바뀌려고 하기 때문에 이런 겁니다. 물질은 늘어나지 못하게 하는 타성을 지니고 있기 때문이에요.

242~243. 일반 상대론에 따르면, 중력을 느낀다는 것 자체가 시공간의 곡률을 느끼는 과정이라고 봅니다. 시공간이 휘어졌기 때문이라는 겁니다. 여기서 중요한 건 기본적인 착안입니다. 공간이 휘어서, 우주가 휘어서 중력을 느낀다면, 그럼 우주가 휘어졌다는 게 뭘 의미하는가? 이걸 그렇싸하게 말로 표현할 수는 있어도 사실 직관적으로도 알기 어렵습니다. 우주가 휘어졌다는 게 무슨 뜻인지 알기 어려운 이유가 뭘까요? 우리가 우주 안에 있기 때문이 아닐까요. 우리는 우주의 밖에서 우주를 들여다볼 수 없으니까요. 그렇기 때문에 내면기하의 개념 없이 우주가 휘어졌다는 주장을 하기가 불가능한 겁니다. … 아인슈타인에게 리만 기하가 필요했던 이유가 여러 가지가 있는데, 가장 기초적인 이유가 바로 이것입니다. 내면기하의 개념이 없으면 우주의 기하에 대해서 얘기하는 것이 불가능합니다. 이것이 가우스와 리만의 굉장히 큰 업적이죠.

243~244. 세 번째 혁명은 일반인들한테 거의 잘 알려져 있지 않은 이론입니다. 알렉산더 크로탕디에크라는 희한한 수학자가 있습니다. 1950년대부터 활동을 시작해서 1960년대에 집중적으로 기하학과 수학 전반에 굉장히 새로운 기초를 제시했죠. 1960년대부터는 계속 프랑스 고등과학원에서 일을 하다가 1970년대에 몽펠리에대학교라는 작은 대학으로 옮겼습니다. 이후 1980년대 중반부터 피레네 성곽의 작은 마을에서 은둔 생활을 시작해 몇 년 전에 죽었습니다. 은둔하는 20여 년 동안 아무도 안 만나고 이상한 글도 많이 쓰고 약간의 정신 이상 증세를 보이기도 했답니다. 그로탕디에크는 순전히 대수로부터 기하를 만드는 과정을 발견한 사람입니다. … 여기서 우리의 이야기는 수의 스토리와 엮어집니다. 왜냐하면 그로탕디에크는 수체계 하나가 주어지면 그 수체계만을 가지고 기하를 만드는 방법을 발견했거든요.

247. 그로탕디에크는 이 과정을 거꾸로 돌려서 임의의 수체계가 주어져도 그것이 어떤 기하를 표현한다는 놀라운 아이디어를 말하고 있습니다. 더하고 빼고 곱할 수 있는 수체계가 주어지면, 그 체계가 어떤 모양을 결정한다는 것입니다.

248~250. 20세기 이전까지는 고전적인 기하를 바탕으로 물리학이 발전해왔습니다. 모양들 사이의 상호작용이 일어나고 모양의 공간 속에서 물체가 움직이는 과정을 기하학적인 관점에서 생각했죠. 하지만 현대 물리학의 경우 그 기하학은 일종의 환상인 것 같다는 인상을 받습니다. … 우주의 미시적인 구조를 들여다보는 양자역학은 고전 역학에 비해서 훨씬 대수적인 성질을 많이 가지고 있습니다. 그러니까 가령 시공간이 연속이 아니라는 개념이 있는데 시공간이 연속적이 아니라면 그것은 기하학적 현상인가요? 그것을 묘사하는 데 필요한 방법은 뭘까요? 그런 걸 고민하는 게 물리학자의 과제인 겁니다. 그래서 대수로부터 기하가 나온다는 이야기를 하신 거군요. 우리가 상상할 수 없는 기하를 표현할 수 있는 방법이기 때문에요. 그것을 추상화하여 체계로 표현하는 것이 수학이네요. 이런 상상은 수학이 물리학을 생성한다든지, 어쩌면 물리적 세계가 수학적 구조 그 자체라는 느낌마저 들게 합니다. 우주의 구조를 설명해주는 대수가 수체계만큼 간단하지는 않겠죠. 지금도 학계에서는 양자장론이나 초끈 이론을 기술하기 위해 복잡한 대수적 구조를 끊임없이 발견하고 가공하고 있습니다. 그중에 어느 것이 시공간의 기반이 될 만큼 핵심적인 구조인가, 이것을 파악하는 작업이 오늘날의 가장 중대한 과학적 과제 중 하나입니다.

257~258. 발명이라고 해서 실제 세상에 없는 것은 아니라는 뜻입니다. 수학에서도 그런 것은 많이 있습니다. 예를 들면 많은 수체계가 그런 성격을 띠고 있지요. 제 느낌으론 정수, 실수 체계, 복소수 체계는 자연에 있습니다. 나머지 연산까지도 자연에 있는 것 같은데 원소가 0과 1로 이루어진 100단위 수체계는 마치 기계처럼 보입니다. 그러니까 수학적 구조에 대해서도 3가지로 구분해야 하겠습니다. 1. 자연에 있는 구조, 2. 발명되는 기계 같은 구조, 3. 공상이나 언어. 이 분류를 정확하게 적용하는 것은 물론 어렵습니다. 그럼에도 간단하게 몇 가지만 나열해보면 ‘위상’, ‘군’, ‘벡터’ 이런 것은 1번이고 ‘큰 유한 수체계’, ‘뇌 신경망’은 2번인 것 같습니다. 3번에 속하는 수학은 지속적인 것이 많지 않기 때문에 쉽게 떠오르지 않네요. 그리고 책으로 남기면 동료 수학자에게 야단맞을 것이 두려워 3번 이야기는 안 하겠습니다.

265. 수학을 잘하려면, 특히 창조적인 수학을 잘하려면 가설을 세웠을 때 그 가설이 틀릴 수 있는 가능성도 자꾸 만들도록 노력해야 한다는 겁니다. 자기 주장이 어떻게 틀릴 수 있는지 자꾸 해봐야 합니다. 그렇지 않으면 자기도 모르게 고장이 많은 큰 기계를 만들게 되어버리는 겁니다. 수학은 정답을 찾는 게 아니라, 인간이 답을 찾아가는 데 필요한 명료한 과정을 만드는 일이라고 생각합니다.

_ 김민형, <수학이 필요한 순간>, 인플루엔셜, 2018.