수학적 귀납법의 오해

고등학교때 수학적 귀납법을 기계적인 증명 기술로 배우고 나서 흔히 하는 실수가 바로 무한대에 해당하는 것이 보이면 뭐든지 귀납법으로 증명 가능하다고 착각하는 것이다. 보통 사람들이야 그러거나 말거나 별로 중요한 일은 아니지만, 수학공부를 하면서 이런 오해가 계속되면 선택공리를 증명하면 되지 왜 공리로 받아들여야 하느냐고 반항을 하기 시작한다. (나도 한때는 가산선택공리는 귀납법으로 증명 가능한거 아니냐고 착각했었으니깐, 다른 사람들은 나를 보면서 “나만 모르는게 아니었어”하고 동지 의식을 가져도 된다.)

그런 착각에서 벗어나는 방법은 “귀납법은 임의의 유한한 n에 대해 명제가 성립함을 보이는 것”이라는 말을 이해하는 수 밖에 없다. 그런데 자연수 집합은 그 크기가 무한한데 왜 유한한 숫자에만 해당한다는 것일까? 그 대답은 집합론 교과서를 꺼내서 다시 꼼꼼하게 읽어보면 나온다.

교과서에서 자연수의 집합 \(\omega\)를 가장 작은 successor set이라고 정의하고 나면 수학적 귀납법의 원리를 다음과 같은 말로 설명한다: \(S\subset\omega\)일때, \(0\in S\)이고 \(n\in S\)일때마다 항상 \(n^+\in S\)이면 \(S=\omega\)이다. 이것만 꼼꼼히 봐도 이해가 되지만, 그래도 이해가 안된다면 \(n\)의 자리에 무한대라고 놓고 싶은 가장 작은 수 \(\omega\)를 넣고 보면 알 수 있다. 그렇게 해서 “증명”했다고 생각하는 순간 \(\omega\in\omega\) 그리고 \(\omega^+\in\omega\)라는 말을 뻔뻔스럽게 하고 있는 자신을 발견할 수 있다. 여기서 자기 자신에게 창피함을 느낀다면 이해가 다 된 것이다.

그래도 이해가 안되면? 별 수 없다. 외워서 숙제 풀어내고 시험 치르는 수 밖에.