김민형, 김태경 지음 | 은행나무 펴냄 | 1만2000원 이 책은 한국인 수학자로서는 최초로 옥스퍼드대 정교수로 임용되었고, 영국과 한국을 오가며 이화여대 석좌교수로도 활동하는 김민형 교수의 2014년 8월 일반인 대상의 교양수학 강좌 내용을 정리한 것이다. 김민형 교수의 전공 분야는 정수론으로 같은 분야에서 몇 세기 간의 난제 ‘페르마의 마지막 정리’를 증명했던 앤드루 와일즈 교수도 그를 매우 높이 평가하여 옥스퍼드대 교수로 추천한 바 있다. 이 책은 고대 그리스 시대 이후 근대에 이르는 수학사의 재미있는 스토리들을 소개하면서 그 속에 담겨있는 수학적 원리들을 기본부터 파헤친다. 이 우주는 수로 이루어졌으며 ‘만물의 근원은 수’라고 외쳤던 피타고라스 이야기로부터, 5차 방정식의 일반 해는 대수적 방법으로 구할 수 없음을 증명한 갈루아의 군 이론에 이르기까지 꽤나 자상하게 소개한다. 그 과정에서 중고등 수학을 배우면서 만났던 여러 공식들의 배경과 원리들도 하나 둘씩 재조명이 된다. 피타고라스는 음악에 나타나는 화음 연구에서 수의 개념을 끌어냈다. 현의 길이가 2:1이면 짧은 현에서 8도 즉 한 옥타브 높은 음이 발생한다. 길이의 비가 3:2이면 짧은 현에서 5도 높은 음이 나와서 좋은 화음을 이룬다. 피타고라스는 소리와 음계가 수에서 탄생했고 사실 ‘모든 것이 수’라는 커다란 비약적 결론에 도달한다. 결국 플라톤에 이르러서는 ‘이데아’ 개념으로 수를 설명하는데, 고양이 한 마리, 사과 한 개 등은 모두 ‘하나’라는 수의 이데아가 개체로서 현실에 발현된 것으로 보는 것이다. 자연수에서 출발한 수가 분수, 0, 음수, 무리수 등의 수들이 추가되면서 직선상의 무한한 점들과 대응이 되는 실수의 개념으로 확장되었다. 직선상에서 0과 1의 위치가 결정이 되면 나머지 모든 실수의 위치는 자동으로 결정이 된다. 또한 이 경우 두 수 a, b의 합과 곱의 연산 결과도 평면 기하에서 작도할 수 있다. 이는 대수와 기하가 잘 대응 가능하다는 점을 보여준다. 또 수란 단순한 점들의 집합을 넘어 두 점이 만날 때 새로운 한 점을 대응시키는 ‘연산’까지 포함하는 복합적 개념이다. 저자는 연산의 교환법칙과 결합법칙을 기하 관점에서 설명하면서 엄밀한 수학적 증명이 아니더라도 기하로 직관적인 이해를 하는 것은 대수적 증명 못지않게 중요하다는 점을 일깨운다. 즉, 수학자라고 하더라도 한 치의 오류도 허용치 않는 엄밀한 증명보다는 수학적 아이디어를 떠올리고 그로부터 파생되는 다양한 직관을 개발하고 큰 그림을 가지는 일이 실제 수학 연구에는 더 큰 도움이 된다는 것이다. 앤드루 와일즈가 정수론의 ‘페르마의 마지막 정리‘를 증명해낸 것도 엉뚱하게도 기하의 타원곡선의 성질들을 활용한 덕분이다. 타원곡선이란 a와 b가 모두 0은 아닐 때 y²=x³+ax+b의 방정식을 만족하는 (x,y) 점들의 집합에 원점을 추가한 형태이다. 이러한 정수 계수를 갖는 다항방정식 (디오판토스 방정식)의 유리수해 또는 정수해를 찾는 문제는 수론의 중요한 주제였다. 타원곡선의 두 점 사이에 독특한 기하학적 덧셈 정의를 내리고 나면, 놀랍게도 타원곡선의 유리수해는 유한개의 시작점(생성원)으로부터 유한 번의 덧셈연산을 통해 모두 얻어진다는 정리가 얻어진다. (모델-베유 정리) 위상수학을 대수와 연결시키기도 한다. 도넛과 손잡이가 있는 머그잔은 둘 다 곡면에 구멍이 하나 뚫린 (종수=1) 위상동형으로 보며 세부 사항을 무시한 이런 곡면의 분류학을 바로 위상수학이라고 한다. 서체가 달라도 글씨를 인식하는 것처럼 실제 세상에서 모양을 인식하고 정보를 처리하는 과정에서도 이 위상수학적인 분류학에 의존하는 경우가 많다. 그런데 곡면들끼리 이어붙이는 연속합을 연산 A#B로 나타내면 교환법칙 및 결합법칙이 성립하는 대수적 연산처럼 다룰 수 있다는 점이 흥미롭다. 결국 수체계란 수의 집합에 +, × 두 가지 연산까지 주어진 구조로 이해하는 것이 좋다. 다만 이들은 다음의 성질들을 만족해야 한다. 첫째, +에 대해서 항등원(0)이 존재하고, 교환법칙과 결합법칙이 성립한다. 둘째, ×에 대해서는 항등원(1)이 존재하고, 결합법칙이 성립한다. 셋째, ×와 + 사이에 분배법칙이 성립한다. 현대대수학에서의 ‘체’(field) 개념과 비교하면 역원에 대한 설명은 이 책에서는 빠져있지만 이러한 잘 정돈된 연산 체계도 갖추어야 진정한 ‘수’로 볼 수 있다는 설명으로 이해하면 될 것 같다. 입자물리학의 수학적 모델인 ‘표준모형’의 경우에도 이 대수적 연산의 개념을 적용할 수 있다는 것이 무척 흥미롭다. 전자(e)와 양자(p)가 충돌하면 이들이 소멸되면서 광자(γ)가 생성되는 과정을 e×p=γ처럼 곱셈으로 표현할 수 있다는 것이다. 한편 이중슬릿실험에 나타나는 중첩 현상을 + 연산으로 표현하면, 이 두 연산 사이에는 놀랍게도 분배법칙이 성립한다. 결국 이 우주를 이루는 모든 입자 집합에 이 두 연산 개념까지 부여하면, 모든 입자는 곧 수 체계에 들어오며 ‘우주만물은 곧 수’라는 피타고라스의 주장이 설득력을 얻는다. 처음 음수가 나왔을 때 당시 일류 수학자들 사이에서도 그 실체와 필요성에 관한 격론이 벌어졌던 것처럼, 2차방정식의 근 유도에서 나타나는 허수(복소수)의 실체 측면도 좀 혼란스럽다. 하지만 a+bi형태의 복소수를 평면좌표 위의 점들과 대웅시키면서 기존의 연산 법칙들을 적용하면 보다 큰 수의 체계로 확대할 수 있다. 이 수 체계는 물질의 미세구조를 묘사하는 양자역학이나 광대한 우주공간의 끈이론에서도 필수적인 역할을 담당한다. 이를 더욱 확장한 사원수의 경우에는 전자의 스핀이론, 트위스트 이론 등 시공간의 대칭성 표현에 시도되기도 했다. 이 책의 클라이맥스는 현대대수학에서 가장 중요한 군론의 소개이다. 19세기 천재 수학자 갈루아가 5차이상의 고차다항방정식은 일반적인 근의 공식을 만들어낼 수 없다는 것을 증명하는 과정에서 나온 것이 바로 군 이론이다. 군이란 어느 집합에 하나의 연산이 정의되어 다음 성질들을 만족하는 것이다. 첫째 결합법칙이 늘 성립한다. 둘째, 항등원이 하나 존재한다. 셋째, 임의의 원소에 대해 그 역원이 존재한다. 이 중 교환법칙까지 성립하면 가환군이라고 부른다. 그 밖에도 군 이론에 쓰이는 여러 개념들을 소개한다. 함수 중 1:1대응이면서 f(a*b)=f(a)*f(b) 관계를 만족하는 동형사상(isomorphism), 그 중 정의역과 공역이 같은 자기동형사상(automorphism), 함수 집합에서 두 함수 간 합성을 연산으로 보는 대칭군(symmetric group), 자연수 n으로 나누었을 때의 나머지들의 집합을 의미하는 나머지군 Zn, 그 밖에도 부분군, 가해군, 갈루아군 등 여러 가지 개념들을 소개한다. 결국 가장 중요한 과정은 f(x)=0이 근의 공식을 가질 필요충분조건은 갈루아 군 G(f)가 가해군이라는 것을 증명하는 것이다. 이 천재 수학자의 깊은 이론을 그 증명까지 명쾌히 따라가는 것은 우리 범인으로서는 무리일 수밖에 없다. 다만 어떤 대수 개념들이 등장하고 기하학에서는 어떻게 대응이 되며, 결국 어떤 의미 있는 결과들이 도출이 되는지 등의 신비로운 과정들을 우리는 주마간산으로 감상만 할 뿐이다. 하지만 이 책을 통해 수의 세계에서 나타나는 오묘한 깊이에 은근히 탄복하게 되면서, 그 원리를 근원적으로 파헤치는 수학은 곧 우주의 근원을 찾는 철학과 같은 학문이라는 생각까지 해보게 된다.