MathLand -테마수학 16-

수학의 크기 ?

우리나라의 수학교육은 이미 완성되어 있는 것을 지도하고 있다. 포물선은 포물선의 방정식으로만 그 이상도 아닌것으로 배우고 있는지 모른다. 미국의 브라운(Brown)대학교에 모아 놓은 수학 책은 대략 6만 권 정도로 최고 보유를 자랑하고 있지만 공학, 물리학, 천문학이나 경제학 등과 같은 수학이 응용되어 있는 분야의 책을 더하면 수학에 관한 책은 약 10만권 정도 될 것으로 여겨진다. 이 정도의 양의 지식과 정보는 한 사람이 이해할 수 있는 범위를 훨씬 넘어선다. 1940년대말에 수학자 폰 노이만은 수학자들도 보통 알려져 있는 수학 중 겨우 10% 정도를 알 수 있을 것이라고 추정했다. 학생들은 '수학은 이미 완성된 것'으로 여기는 경향이 있다. 아니, 모든 지식이 이미 정해져 있는 것으로 여기는 경향이 있다. 그러나 수학은 계속 만들어지고 있다. 미해결 문제가 해결되고, 새로운 관계와 성질이 발견되고 이에 따라 새로운 이론이 창조된다. 이와 같은 과정이 계속됨에 따라, 수학의 지식은 점점 커지게 된다. 실제로 최근에는 매년 약 20만개의 새로운 정리가 발표되고 있다고 한다. (1968년에는 수학에 38가지의 범주가 있다고 분류하였으나 1979년에는 3400가지로 분류되었다.)
그 중의 한 예를 보자.
1637년 프랑스 수학자 페르마(Pierre de Fermat)는 그가 읽었던 한 수학 책의 여백에 다음과 같은 말을 적어 놓았다.
n이 2보다 큰 자연수일 때,를 만족하는 정수 n, y, z는 없다. 나는 이것에 대한 참으로 신기한 증명을 발견했지만, 그 증명을 여기에 적어 넣기에는 책의 여백이 모자란다."
(n=1일 때, 곧 x=y=z인 세 정수 x, y, z는 존재한다. n=2일 때, 곧 은 바로 피타고라스의 정리이다.)
지난 350여 년에 걸쳐, 수없이 많은 수학자들이 이것을 증명하려고 노력하였으나 실패하였다. 심지어 그 증명에 상금까지 걸었다. 페르마는 n=4일 특별한 경우에 대한 증명은 적어 놓았다. 100년이 지난 후, 스위스의 수학자 오일러는 n=3인 경우에 대하여 증명하였다. 1840년대 쿰머는 지수 n이 100이하의 소수 (37, 59, 67 제외)일 때에 대해서 증명하였다. 그리고 쿰머의 이론으로 컴퓨터를 이용한 계산으로 페르마의 정리를 증명할 수 있게 되었다. 이에 따라 1993년 미국의 리드대학의 부흐러(Joe buhler)와 넥스트 컴퓨터 회사의 크란달(Richard Crandall)은 필란드 투르트대학의 매트생키래(Tauno Metankyla)와 에른발(Reijo Ernvall)의 도움을 받아 n 이 400만보다 큰 자연수일 경우에 대해서는 여전히 알 수 없는 일인 것이다. 그리고 이런 방법으로는 증명을 끝낼 수가 없다.
그런데 1993년 6월, 캠브리지대학의 수학 연구 센터인 뉴턴 연구소에서의 수론에 관한 학회에서 미국 프린스턴대학의 수론학자인 와일즈(Andrew Wiles)가 페르마의 마지막 정리의 증명에 관한 발표를 한 것이다. 이 발표에 참석했던 전문가들은 와일즈의 증명의 훌륭한 방법에 경의를 보냈으며 그 증명을 서술하는 뛰어난 수학적 능력에 놀랐다고 한다. 그 후 전문가들은 와일즈의 200쪽이 넘는 논문을 꼼꼼하게 검토하기 시작했는데 와일즈의 증명의 끝 부분에 논리의 비약이 있음을 발견하였다. 1993년 12월 와일즈는 자신의 증명의 끝 부분에 문제가 있음을 인정하는 전자우편을 인터넷에 올려 놓았고, 'Annals of Mathematics'의 1995년 5월호에 게재한 논문에서 이 부분을 엄밀하게 증명하여 페르마의 마지막 정리의 증명를 결국 완성하였다.
(1998년 2월 19일)