우리는 지금까지의 논의를 통해서 집합들 (sets) 을 그것들의 원소들 (members) 을 통해서 형성 되는 새로운 단칭적인 존재자로서 이해하려는 ‘직관적’ 접근이나 혹은 다수로서의 ‘원소들’
그 자체로 파악하려는 시도 모두 집합 개념이 메타 논리학에 사용되는 것을 설득력 있게 정당 화하기에는 문제가 있는 견해들임을 확인할 수 있었다. 하지만 사실 수학자들과 논리학자들은 공리화된 형태로 제시된 오늘날의 표준적인 집합론에 등장하는 집합 개념에 대해서 또 다른 생각을 지니고 있다. 집합에 대한 이러한 태도는 이른바 ‘집합에 대한 반복적 구상 (iterative conception of sets)’36)으로 알려져 있다. 이러한 반복적 구상에 따르면, 이전에 형성된 것들 을 원소로 갖는 집합이 있고, 또 이 집합을 원소로 갖는 집합이 형성되며, 또 이렇게 형성된 집합을 원소로 갖는 집합이 형성되는 등등의 과정을 통해서 집합들이 무한히 형성된다는 것 을 주장한다. 시각적으로 표현하자면, 어떤 단계에서 원소가 주어질 경우, 우리는 그 원소를 나타내는 기호a에 대하여, ‘의 집합 (a set of)’ 에 해당하는 ’{ }’ 을 ‘a’ 의 양편에 계속적으로 붙여줌으로써, 끝없이 형성되는 집합들을 다음과 같이 표현할 수 있게 된다 : {a},{{a}}, {{{a}}}, ... .
특히 ZF 체계와 같은 표준적인 공리적 집합론에서는 개체들이 존재하지 않는다는 가정을 받아들인 채 형성된 집합만을 받아들이는데, 이러한 집합들은 순수 집합들 (pure sets) 이라고 일컬어진다. 그리고 그 출발점에는 어떠한 원소들도 포함하지 않는 순수 집합, 다시 말해서
36) 불로스 (G. Boolos) 는 집합 개념에 대한 반복적 이해를 명료화하려는 시도를 Boolos(1971) 에서 제시하고 있다.
공집합∅ 가 위치한다. 집합론의 우주 (universe) 혹은 논의영역 (domain) 은 이 공집합 ∅ 를 원소로 하여 반복적으로 형성된 순수 집합들로 이루어져 있다. 이러한 생각은 ZF 체계에서 다음의 공집합 공리 (the axiom of the null set) 를 통해 반영되어 있다.
(공집합 공리)∃x∀y(y ∈ x ↔ y 6= y)(There is a set with no members).37)
이제 이 공집합의 존재만을 받아들이게 되면, 수학의 모든 분야들은 집합론으로 환원된다.
그리고 논리학과 수학과의 관계를 다루고 있는 현재 논의의 맥락에서 볼 때, 공집합만을 원초 적인 것으로서 받아들이면 수학뿐만 아니라 메타논리학까지도 모두 기술할 수 있다는 사실은 집합론이 메타논리학에 필수 불가결하다는 생각을 더욱 강하게 만들어주는 것 같다.
하지만 집합을 더 기본적인 개념을 통해서 정의할 수 없는 원초적인 것으로 받아들인다는 것 자체가 집합론이 메타논리학에 필수 불가결하다는 것을 정당화할 필요가 없음을 말해주는 것은 당연히 아니다. 더군다나 집합을 어떠한 방식으로든 정의하고자 했던 여태껏 우리가 살펴본 시도들과 달리 집합을 원초적인 것으로 받아들이는 견해는 메타논리학에서 사용되는 집합이 논리학의 존재론적 보수성을 위반한다는 사실에 대해 어떠한 해명도 제시하지 않는다.
따라서 오늘날 많은 수학자들과 논리학자들이 집합을 원초적인 것으로 받아들이면서 동시에 필수 불가결성 논제를 받아들이기 위해서는 메타논리학에 집합론을 사용하는 것이 정당하다 는, 다시 말해서 집합이 논리학의 존재론적 보수성을 해치지 않는다는 것을 보여주는 별도의 논증을 제시할 필요가 있다. 아마도 다음이 그러한 논증의 역할을 한다고 생각될 수 있을 것 이다.
(메타언어 논증) 집합론은 메타논리학을 기술하는 메타언어 (metalanguage) 이다.
메타논리학을 기술하기 위해서 집합론의 언어를 사용하는 것은 라틴어라는 대 상언어 (object-language) 에 대해서 한국어를 메타언어로 사용하여 기술하는 것과 아무런 차이가 없다. 만일 대상언어-메타언어 관계에서 대상언어와 메타언어가 서로 다른 언어라는 점이 전혀 문제가 되지 않는다면, 논리학과 집합론 간의 관계 역시 마찬가지이다. 따라서 집합 개념을 원초적인 것으로 받아들이는 집합론을 통해서 메타논리학을 기술하는 것은 존재론적 보수성과 관련해서 아무런 문제도 일으키지 않는다.38)
37) 공집합은 우리에게 친숙한 표기법으로는 ‘{y | y 6= y}’ 로 표현되며, 자기 자신과 동일하지 않은 것들을 원소로 갖는 집합을 말한다.
38) 한 언어에 관해서 다른 언어로 기술할 경우, 기술되는 언어를 대상언어, 기술하는 언어를 메타언어라고 한다.
대상언어와 메타언어에 관한 구별은 Mates(1972), p. 77을 참고하라. 이 둘 사이의 구별은 상대적이다.
위의 논증에 대한 답변부터 이야기하자면 이러하다. 집합론은 라틴어라는 대상언어에 대해 기술하는 한국어와는 사정이 다르다. 왜냐하면 메타논리학을 집합론의 언어로서 기술하는 일은 단순히 논리학의 언어라는 대상언어에 대해서 집합론이라는 메타언어를 사용하여 기술 하는 일을 포함할 뿐 아니라 논리학에 대한 환원적 기초로서의 집합론을 받아들이는 것 역시 포함하기 때문이다. 한국어를 사용하여 라틴어에 대해 서술하는 경우, 우리는 한국어에 포함된 개념, 가령 ‘체언이나 부사, 어미 따위에 붙어 그 말과 다른 말과의 문법적 관계를 표시하거나 그 말의 뜻을 도와주는 품사’ 로 정의되는 조사 (助詞) 나 활용이 어미의 교체로 행해질 때에 그 교체되는 부분을 뜻하는 활용어미 (혹은 끝바꿈씨끝) 등과 같은 개념들을 사용하여 라틴어를 정의하고 분석하지 않는다. 하지만 집합론을 사용하여 메타논리학을 기술할 때에는 논리학의 언어를 기술하는 일부터 논리학의 개념들을 정의하는 일에 이르기까지 논리학의 언어 자체를 언급할 때를 제외하고는 집합론적 개념들을 사용하여 기술하고 집합론적 개념들로 환원시킨 다.
그리고 논리학의 기초로서 집합론을 사용하는 이와 같은 시도는 논리학이 적용되는 모든 담론의 영역 (사실 이는 가능한 모든 영역인데) 에 수학적 존재자들을 추가적으로 포함시킴 으로써 논리학의 존재론적 보수성을 위반하게 되고, 결과적으로는 논리학의 주제 중립성과 보편적 적용가능성을 해치게 만든다. 따라서 집합론은 단순한 메타언어가 아니며, 원초적인 집합 개념은 메타논리학을 제시하는데 사용될 수 있는 논리적 개념이 아니다.
하지만 만일 이러한 식의 논변이 누군가의 동의를 이끌어낼 수 있다면, 그 이유는 무엇일까?
우리는 잠시 수학자들과 논리학자들이 집합론을 논리학의 메타언어 정도로 생각했던, 그리 고 (혹은 그래서) 논리학의 존재론적 보수성과 같은 중요한 개념에는 큰 관심을 갖지 못했던 이유에 대해 해명해보는 기회를 갖도록 하겠다. 우리는 아마도 그 이유를 수학사에서 찾아낼 수 있을 것이다.
현재 거의 모든 수학 분야의 방법론적 기초는 공리적 방법 (axiomatic method) 이다. 하지 만 수학은 방법론적 기초의 측면에서 유클리드 이후 오랫동안의 공백기를 갖다가 19세기에 접어들어서야 비로소 다시 공리화 (axiomatize) 되기 시작하였다. 그리고 지난 세기에 접어들 어서는 거의 대부분의 수학의 분야들을 포함하여 논리학과 몇몇 과학 이론들도 본격적으로 공리화되기 시작하였다. 우리는 이러한 과정에서 집합론이 그 자체로 수학을 공리화하기 위한 수단으로 사용되었다는 점에 주목할 필요가 있다. 그래서 수리 이론들 (mathematical theories) 이 공리화되는 과정은 그 이론이 집합론의 범위 내에서 연역적으로 발전되었거나 혹은 집합 론의 도움을 받아서 연역적으로 발전되었다는 사실을 포함한다. 이 때문에 집합론 자체를
공리화하려는 시도는 수학자들에게 자연스럽게 생각될 수 있는 종류의 것이 아니었다.39) 이러한 수학사 (數學史) 적 사실은 집합론이 지니는 방법론적, 도구적 특성과 중요성을 보 여준다. 그래서 이러한 역사적 사실을 인상적으로 바라보았던 사람들은 이 당시의 집합론과 수학과의 관계를 마치 수학과 자연과학과의 관계와 유사한 것으로 파악한다.40)자연과학에서 수학의 언어를 사용한 이래, 자연과학은 비약적인 발전을 이룩하게 되었으며, 수학은 자연 과학의 편리한 도구이자 언어로 자리매김하게 된다.41)그리고 우리가 러셀의 역설을 포함한 집합론의 다양한 역설들이 발견되기 직전까지의 집합론이 지니는 방법론적 지위에 주목하게 되면, 수학과 자연과학 사이의 관계와 유사한 방식으로 집합론을 수학과 수리 과학의 공통 언 어 정도로 간주할 수 있게 된다. 그래서 이러한 생각을 지닌 사람들에게 있어서 필수 불가결성 논제를 받아들인다는 것은 단지 이 공용어가 논리학의 영역에서도 사용되었다는 것을 의미할 뿐이다. 바로 이것이 누군가가 메타언어 논증을 제시하거나 동의하는 이유일 것이다.
하지만 논리학과 수학과의 관계뿐만 아니라 수학과 과학 간의 관계, 그리고 집합론과 수학 과의 관계를 이런 식으로 파악하고 있는 사람들은 자신이 지니고 있는 믿음의 근거가 되는 역 사적 사실들이 발생한 시점 이후까지 시선을 확장시킬 필요가 있다. “방정식이 전부이다 (It’s all just equations).”라는 피타고라스적인 형이상학에 기반을 두어, 양자역학에 대한 어떠한 해석도 부여하는데 반대하는, 소위 ” 닥치고 계산!(Shut up and calculate!)”이라는 식의 극단적 입장을 받아들이는 사람이 아니라면, 그가 단순히 “수학은 과학의 언어이다” 라고 이야기하 면서 수학에 대해 도구주의적 (instrumentalist) 입장을 취하는 것은 수학과 과학 간의 관계에
하지만 논리학과 수학과의 관계뿐만 아니라 수학과 과학 간의 관계, 그리고 집합론과 수학 과의 관계를 이런 식으로 파악하고 있는 사람들은 자신이 지니고 있는 믿음의 근거가 되는 역 사적 사실들이 발생한 시점 이후까지 시선을 확장시킬 필요가 있다. “방정식이 전부이다 (It’s all just equations).”라는 피타고라스적인 형이상학에 기반을 두어, 양자역학에 대한 어떠한 해석도 부여하는데 반대하는, 소위 ” 닥치고 계산!(Shut up and calculate!)”이라는 식의 극단적 입장을 받아들이는 사람이 아니라면, 그가 단순히 “수학은 과학의 언어이다” 라고 이야기하 면서 수학에 대해 도구주의적 (instrumentalist) 입장을 취하는 것은 수학과 과학 간의 관계에