러셀 의 역설(Paradox)

 오늘날 소설이나 영화의 등장 인물에 대한 논평을 이상하게 여기는 사람은 없다. 요즘은 논평에 대한 논평까지도 널리 행해진다. 최근 들어 논평이라는 장치가 더욱 자주 등장하는 것은 높아진 자의식, 통일성을 상실한 채 분절되어만 가는 세계관과 가치관, 추상적인 놀이를 즐기려는 사람들의 취향 때문이 아닌가 여겨진다. 이유야 어떠하든, 논평의 역사는 아주 오래되었다. 고대 그리스 연극의 합창가무단이나 중세와 셰익스피어를 거치면서 나타나는 다양한 화신들만 보더라도 전통적으로 논평자의 역할은 극 중에서도 주인공에 버금가는 배역이었다.
중첩되는 논평은 생동감 넘치는 이야기의 복잡성을 이끌어낼 뿐만 아니라, 2,500년 된 유서 깊은 거짓말쟁이 역설을 이끌어내기도 한다. (그리스의 전설적 시인이자 예언자의 이름을 따 에피메니데스 역설이라고도 한다.) 자신이 바로 크레타 섬 주인이었던 에피메니데스(Epimenides;B.C. 500년경)는 "모든 크레타 섬 주민은 거짓말쟁이다."라고 진술하였다.(신약성서, 디도 편 제 1장) 이 이율배반적 선언의 맹점은, 우리가 그 상황을 "나는 거짓말 하고 있다." 또는 멋있게 "이 문장은 거짓이다."라는 문장으로 단순화해보면 더욱 명확히 드러난다.
"이 문장은 거짓이다."를 명제(참, 거짓을 밝힐 수 있는 식이나 문장) Q라고 표시해 보자. Q가 참일 때와 Q가 거짓일 때, 2가지 입장에서 이 문제를 검토해볼 수 있다. 만약 Q가 참이면 문장 자체의 진술 내용에 의해 Q는 거짓이 된다. 또한 만약 Q가 거짓이면 이번에는 논리적으로 Q는 참이 된다. 결국 명제 Q는 참이면 거짓이 되고 거짓이면 참이 된다. 즉 "Q가 참이다."는 명제와 "Q가 거짓이다."는 명제가 서로 동치이다.(진리값이 같다.)
영화의 무대 장치를 설치하는 인부들의 장난기 어린 목소리에서 거짓말쟁이 역설이 희석된 채 불쑥 등장하곤 한다. "이 가설무대는 진짜같다." "이것은 진짜로 가짜다." "그 거짓말 진짜냐?"
역설의 이런 자기지시적 양상은 다른 방식으로도 나타난다. 잘 알려진 이야기 '이발사의 고민' 역시 또 다른 형태의 역설을 낳는다. "모든 주님은 스스로 이발을 해서는 안된다. 그리고 모든 주민은 한달에 한 번 반드시 이발사에게 가서 머리를 깎아야 한다." 이런 법률이 제정된 마을의 '단 한 명뿐인 이발사'는 정말 안타까운 처지에 놓인다. 이 불쌍한 이발사는 자신이 직접 이발을 해야 할지 말아야 할지 고민에 휩싸인다. 스스로 이발을 하자니 법에 따라 처벌받는다. 한편 스스로 이발을 안해도 반드시 이발을 해야 하는 법에 따라 한 달에 한번씩 처벌받는다.
'러셀의 패러독스'의 핵심에 더욱 근접한 최신 개정판 역설은 어떤 나라의 시장주재법(市長住在法)을 다루고 있다. 어떤 시장은 자신이 관리하는 도시에 사는 반면에 어떤 시장은 그렇지 않다. 신중히 개혁의 칼날을 뽑아든 최고통치자는 "모든 시장은 자신이 관리하는 지역에는 살지 못한다. 모두 한 장소에 모여 살아라"는 긴급 명령을 선포하였다. 그 곳을 편의상 DMZ(추방된 시장들의 비무장지대)라고 부르자. 어느날 통치자는 문득 이 DMZ시에도 시장이 필요하다는 사실을 깨닫고는 자체 시장을 뽑으라고 지시한다. 며칠 후 국무총리가 통일원장관, 경제기획원장관, 내무부장관, 국토개발연구원장까지 동원하고 와서는 "각하! 못하겠는데요."하고 보고한다. 화가 난 통치자는 자초지종을 물었다. 총리의 대답은 "DMZ시 시장이 있을 곳이 없다."는 것이었다. 그날 밤 통치자는 DMZ시 시장이 거주할 장소를 마련하고자 중대 고민에 빠지게 된다.
이제 러셀의 패러독스에 도달했다. 영국의 철학자이면서 수학자인 러셀이 제출한 역설은 유서 깊은 앞의 역설들과 유사한 어떤 운치가 있으면서도 한층 수학적인 내용을 담고 있다. 비록 그것이 집합론의 용어로 되어 있지만, 집합이란 어떤 종류든 '대상들의 잘 정의된 모임'이라는 사실 정도만 알고 있으면 된다.
표기법 한 가지가 역시 도움이 된다. P를 모든 소수(素數)들의 집합이라 할 때, 7이 P의 원소임을 나타내기 위해 7∈P로 표시한다. 일반적으로 'X∈Y'은 집합 X가 집합 Y의 원소임을 의미한다. 반대로 집합 X가 집합 Y의 원소가 아닐 경우에는 기호 ∈에 앞에 not을 붙여 표시한다.(여기에서는 not∈ 로 나타내기로 하자.) 즉 어떤 집합은 그 자신을 원소로 포함하고(X∈X), 어떤 집합은 그렇지 않다.(X not∈ X)
언급된 모든 것을 원소로 하는 집합은 원소로서 자신을 포함한다. 마찬가지로 11개 이상의 원소를 갖는 집합을 모두 원소로 하는 집합 그 자체도 11개 이상의 집합을 원소로 포함하므로 자기 자신의 원소이다. 그리고 모든 집합들의 집합 그 자체도 집합이므로 확실히 자신의 원소이다. 그러나 자연스럽게 생각되는 집합들 대부분은 원소로서 포함하지 않는다. 홀수들의 집합 그 자신은 홀수가 아니므로 그 집합은 원소로서 자신을 포함하지 않는다. 자신을 원소로 포함하는 집합 모두를 (다시)원소로 하는 집합을 M이라 하고, 자신을 원소로 포함하지 않는 집합 모두를 (다시)원소로 하는 집합을 N이라 표시하자. 기호로 표시하면, 임의의 집합 X에 대하여 X∈M일 필요충분조건은 X∈X이다. 한편 임의의 X에 대하여, X∈N일 필요충분조건은 X not∈ X이다. 그렇다면 과연 "집합 N은 자신의 원소일까?" 즉 N∈N일까? 또는 N not∈ N일까?(이 문제를 "누가 이발사를 이발할까? 또는 DMZ시 시장이 살 곳은? 문제와 비교해 보라.) 만약 N∈N이면 , 정의에 의하여 N not∈ N이다. 반대로 N not∈ N이면, 정의에 의하여 N∈N이다. 따라서 집합 N은 자신의 원소가 되는 필요충분조건은 N이 자신의 원소가 아니어야 한다.
즉 N ∈ N ⇔ N not∈ N 이 된다. 이것은 모순이다. 바로 이 모순이 러셀 패러독스의 요체이다.
이 역설에 대한 러셀의 해결책(다른 방법들도 있다.)은 집합의 개념을 '이미 존재하는 집합들의 잘 정의된 모임'으로 제한하자는 것이다. 러셀과 화이트헤드는 그 유명한 타입 이론(Theory of Types)에서 타입에 따라 집합을 여러 계층으로 분류했다.
제일 낮은 단계인 제 1타입은 단일 대상, 즉 직접적인 대상인 개체들(individual objects)을 원소로 나타낸다. 다음 단계인 제 2타입은 제 1타입 개체들의 집합(二類)을 대상으로 하는 집합을 나타내며, 그 다음 단계인 제 3타입은 제 1타입의 집합 또는 제 2타입 집합을 대상으로 하는 집합을 나타낸다. 그리고 이런 방식으로 계속 약속(정의)해 나간다. 따라서 제 (N-1)타입 이하의 대상들의 집합들이 제 N타입의 원소가 된다. 이런 방법을 이용하면 하나의 집합은 단지 그보다 높은 타입의 어떤 집합의 원소가 될 수 있을 뿐이다. 따라서 그 집합은 자기 자신의 윈소가 될 수가 없으므로 러셀의 패러독스를 피할 수 있다. 타입 이론 규칙에 의해 앞서 정의된 M, N과 유사한 집합 가운데 자체가 자신의 원소인 집합(X∈X) 같은 것은 당연히 퇴장당한다.
러셀과 화이트헤드가 타입 이론을 만든 이유는 이런 역설을 예방 또는 해체하기 위해서만이 아니다. 더 중요한 이유는 전체 수학을 위한 공리적 기초를 마련하는 데 있었다. 그들은 이런 계층적 집합 개념과 더불어 논리학에도 타입 이론을 구체적으로 적용하여 실제 모든 수학을 논리학으로 환원시키는 데 성공하였다. 더불어 나는 자가당착이라는 불필요한 것이며, 그것이 수학이나 자연스런 언어 생활 속에 좋은 역설을 항상 만드는 것도 아니라는 사실을 다시 한 번 강조해둔다. 가령, '나'라는 단어가 문제(역설)를 일으키는 경우란 거의 없다.
우리는 러셀의 타입 해법을 거짓말쟁이 역설의 해체에 적용할 수 있다. "모든 크레타 섬 사람은 거짓말쟁이다."라는 진술은 크레타 사람이 만든 다른 진술보다 더 높은 타입으로 지정된다. 다시 말해서, 다른 진술을 전혀 언급하지 않는 제 1등급 명제(가령, "비가 온다" 또는 "메네라우스는 대머리다.")와 제 1등급 명제를 언급하는 제 2등급 명제("음식에 대한 왈도의 관심은 광적이다."), 제 2등급 명제들을 언급하는 제 3등급 명제, 그리고 더 높은 등급의 명제 등을 구별해서 사용한다. 따라서 에피메니데스가 "모든 크레타 섬 사람은 거짓말쟁이다."라고 말할 때, 그가 만든 제 2등급 명제는 그 자신에게 적용되는 것은 아니고 단지 제1등급 명제에서만 적용되는 진술로 해석해야 한다. 만약 그가 자신의 제 2등급 명제가 모두 거짓이라고 주장한다면 그 주장은 제 3등급이므로 그 자체(제 2등급)에는 적용되지 않는 명제가 된다.
더욱 일반화하면 모든 진리(참)의 개념 전체를 아래와 같이 계층 구조화할 수 있다. 즉 제 1등급 명제가 참일 때에는 그 참을 참(1), 제 2등급 명제가 참일 때, 그 참을 참(2) ... 이같은 방법으로 참(진리)을 단계적으로 분류한다. 이런 진리 개념은 수학자 타르스키(aLFRED tARSKI)에 의해 광범위하게 발전되고 형식화되었다. 그리고 이개념을 이용해 철학자 크립케(sAUL kRIPKE)는 복잡하게 뒤엉켜 있는 자연 상태의 언어를 더욱 융통성 있는 것으로 다듬었다. 대개 혼란은 두 사람 또는 그 이상의 사람들이 제각기 서로 확신에찬 주장을 하고 그 주장들이 동시에 채택되면서 역설을 야기할 때 발생한다. (창이 세냐 방패가 세냐?) 가령, 조지가 "마르타의 말은 전부 거짓이다."라고 주장하고 동시에 마르타는 "조지는 참말만 한다."고 말한 다음 침묵이 흐를 때, 그리하여 단 2가지 주장만이 동시채택되어 주거니 받거니 교환될 때 역설은 준동하기 시작한다. 역설에 관해 명상(暝想)하면서 이상한 점을 하나 발견할 수 있는데, 그것은 이런 류의 문제들이 곧잘 불가능할 정도로 난해하고 고상한 어떤 것으로 취급되고 있다는 사실이다. 그러나 말장난이나 일삼는 몇몇 사람들이 주로 퍼뜨리는 그런 역설은 실제로는 별 의미없이 뒤엉키고 중언부언된 독백과 다를 바 없다. 여기서 그 '독백'이란 바로 10대의 귓속말(그는 그녀가 말했다고 했으나, 그럴 리가 없거나 그녀가 말한 것을 듣고 그가 생각했던 것을 그녀에게 거짓말했을 때처럼 그녀는 말하지 않았을 것이다.) 또는 복잡한 중동 정세의 분석, 또는 서두에 언급한 영화와 대중 소설의 논평 등과 같은 것들이다.

(발췌)
파울로스 박사의 재미있는 수학에세이-수학나라에 바보는 없다.-존 알렌 파울로스 지음, 박래식,김진권 옮김-푸른산-
(1999년 1월 17일 하창호)

Copyright (c) 1997-2000 하창호 . MathNara(수학나라)