교과관련 테마

대수학 기호화의 의미

유럽으로 건너간 방정식은 대수학이 발달됨에 따라 차츰 '기호화'의 길을 걸었다. 특히 미지수는 기호로 나타내어지게 되었다. 수학이라는 '문장'을 더 명확하고 더 간략하게 다듬기 위해서 기호화는 필연적이 과정이었다. 최대의 명확성을 거둔다는 원칙이 +, -, ×, ÷, =등의 기호를 만들어냈다. 그 결과 방정식은 더욱 수학적으로 세련되어 갔다. 수학의 기호화에 큰 공을 세운 사람이 법률가 출신의 프랑스 수학자 비에타(F.Vieta)이다. 본직은 법률가이고, 여가로 수학을 즐긴 셈이지만, 분명히 당시의 프랑스가 낳은 최대의 수학자일 뿐만 아니라 16세기의 가장 위대한 수학자인 그는 기지수를 자음 대문자, 미지수를 모음 대문자로 나타냈다. 오늘날처럼 기지수를 a, b, c, .... , 미지수를 x, y, z, ... 으로 나타낸 것은 데카르트(R.Descartes ; 1596-1650)부터의 일이다. 기호의 사용유무가 얼마나 큰 효과의 차를 가져오는지는 이차방정식으로 표현되었을 때, 그것을 만족하는 해를 기호를 사용하여 근의 공식으로 표현하여 이 공식에 대입하면 이차방정식을 만족하는 해를 쉽게 구할 수 있게 된다.
아라비아식 '기하학적 대수학'으로는 미지수의 차수가 높아지면 방정식의 해를 구하는 것이 더욱 어려워 진다. 그러나 기호를 사용하면 삼차방정식을 표현할 수 있고, 4차 이상의 방정식도 쉽게 표현할 수 있는 것이다. 실제로 삼,사차방정식의 근을 구할 수 있게 된 것도 기호화 덕분이었으며, 오차 방정식 이상의 해를 구하는 공식은 존재하지 않는다는 것을 밝힐 수 있었던 것도 이 수학의 기호화 때문이었다. 물론, 대수학이라는 학문을 이론적으로 체계화하는 데 수(기지수)의 기호화는 절대적인 전제가 된다. 비에타를 근대 대수학의 아버지로 부르는 까닭이 바로 여기에 있다.
베에타가 발명한 기호에는 기하학적인 의미도 함께 담겨 있기 때문에 불편했다. 문자가 나타내는 수는 동시에 선분의 길이이기도 하였으며, 따라서 두 수 A, B의 곱 AB는 직사각형의 면적, 세수의 곱 ABC는 체적, ABCD나 ABCDE는 눈에 보이는 것은 아니지만 각각, 사차, 오차의 양을 나타내는 것이다.
A+B, AB-CD, ABC+DEF와 같은 것을 '식'이라 할 수 있지만, 차수가 다른 것끼리의 합이나 차, 예를 들어 A+BC, AB-CDE와 같은 식은 쓸 수가 없었다. 게다가 일상적인 낱말까지도 기호 사이에 끼어 있어서 무슨 뜻인지 알아보기도 힘들었다. A와 B의 곱도 지금처럼 AB라 하지 않고, A in B라 하였다. 그리고, 미지수 A의 제곱, A의 세제곱을 각각 'A quardratum', 'A solidum'과 같이 나타내었던 것이다. 그래서 데카르트는 '규칙이나 사용법이 너무 딱딱해서 복잡할 뿐 뭐가 뭔지 알아볼 수 없는' 이 대수학의 결함을 보완하는 데 노력했고 오늘날 기호 대수학의 기초를 닦으며, a^2, b^2 , a/b 양의 제곱근 a, 등의 기호로 간단히 표현하였다.
우리가 사용하고 있는 수학 기호는 어떤 한 사람의 착상으로 하루 아침에 간단히 만들어진 것은 아니다. 수학의 기호화가 오늘날과 같이 되기까지는 수백년에 걸치는 숱한 시행착오를 겪었다는 사실을 잊어서는 안된다.

(1999년 5월 25일 하창호)