위 링크 글의 중수처럼 생각하는 게 일반적으로 잘 저지르는 오류입니다만, 자신의 직관이나 고정 관념에 어긋난다는 이유로 그것을 오류라고 인정하기를 거부하거나 수학자들이 말도 안 되는 신선 놀음이나 하고 있다고 인식되는 것은 그래도 잠깐이나마 수학에 발을 담궜던 입장에서는 좀 아쉽게 생각합니다.

이 글은 무한이 무엇인가를 알려드리기 위한 글은 아닙니다. 다만, 일반적인 중수의 오류를 고교 수학 수준에서 해설함으로써 위 링크 글의 소위 '고수'의 인식을 받아들일 수 있는 길을 열어드리고자 함입니다. 아주 나중에 여유가 된다면 초고수는 무슨 생각으로 이런 짓을 하는가도 한 번 넘겨짚어볼 기회가 있지 않을까 싶습니다. 우리가 프로의 플레이를 따라하지는 못해도 왜 그랬는 지는 옆에서 보고 대충은 아는 척 할 수 있듯이 말입니다.

사실 중수의 오류의 핵심은 수학적 귀납법에 대한 오해입니다. 수학적 귀납법의 일반적인 방법에 대해 한 번 정리하면서 이 '모든 소수의 곱' 문제를 대응시켜보죠.

1. 자연수 n과 연관된 명제 P(n)을 구성한다.

 지금 우리의 예제에서는 'P(n): n번째 소수까지의 곱은 짝수이다'가 되겠지요.

2. n=1일 때의 명제를 증명한다.

  즉, 'P(1): 1번째 소수까지의 곱은 짝수이다."가 되겠네요. 첫 번째 소수는 2입니다. 2가 짝수라는 건 다들 잘 아시는 사실이겠지요?

3. P(n)이 참일 때 P(n+1)이 참임을 증명한다.

  n번째 소수까지의 곱이 짝수라면, 짝수에 n+1번째 소수를 곱한 수도 짝수일 것입니다. '짝수 x 자연수 = 짝수'라는 것도 다들 잘 아는 사실이니까요.

4. 이상으로 P(n)은 모든 자연수 n에 대해 참이라는 결론을 내릴 수 있다.

 즉 임의의 자연수 N에 대해, 처음부터 N번째까지 소수를 곱한 수는 짝수라는 이야기입니다.

여기까지는 문제 없습니다. 문제는 여기에서 '모든 자연수 n에 대해서 P(n)이 참이니 n이 무한대여도 참이다'라고 확장하는 데에 있지요.

이에 대한 가장 심플한 설명은 '무한대는 자연수가 아니다'이지만, 보통은 이 포인트를 납득을 못합니다. 맞는 설명이긴 한데, 솔직히 말해서 게으른 설명이라고 생각합니다. 수학자들의 안 좋은 말버릇 중에 하나가 '자명하다'라고 생각하는데, 이 말은 '내가 증명해봤는데 쉽더라. 그러니까 니가 직접 증명해보고 알아서 이해해. 난 귀찮으니까.'의 줄임말 정도로 보시면 될 것 같습니다. 수학의 길을 걷고자 하는 사람들에게는 통용될 지도 모르겠으나, 일반인과는 커뮤니케이션이 안 되는 방법이지요.

여기서 거짓임을 보이고 싶은 명제, 우리의 고정관념은 이것입니다. '명제 P(n)이 모든 자연수 n에 대해 참이면, n을 무한대로 보냈을 때도 명제는 참이다.' 어떤 명제가 거짓임을 보일 때는 반례를 하나만 찾으면 됩니다. 명제가 참이려면 모든 경우에 대해 참이어야 하는데, 거짓이 되는 사례가 있으면 그 명제는 틀린 것이지요.

물론 이렇게 생각할 수도 있습니다. '지금 니가 들 반례랑 '모든 소수의 곱' 문제랑 무슨 상관이냐.' 네, 인정합니다. 지금 이 방법은 말하자면 메시지를 공략하기 귀찮으니 메신저를 패는 겁니다. 반례를 들면 수학적 귀납법이 '모든 경우'에 대해서 무한대로 보냈을 때 참인 것은 아니라고 할 수는 있어도, '어떤 경우'에 대해서 참일 수도 있다는 것을 부정하지는 못합니다. 그래도 '어떤 경우'에 이것이 통하는 지, '모든 소수의 곱'이 그 '어떤 경우'에 해당하는 지에 대해 추가적인 논증이 없이는 한계가 있다는 것은 지적할 수 있습니다. 말씀드렸듯이 저는 길을 열어드리기 위해서, 즉, 이 문제에 기존의 고정관념을 가지고 접근하면 안 된다는 것을 알려드리기 위해 이 글을 쓴 것이지, '모든 소수의 곱' 문제를 납득시키기 위해서 쓴 게 아니라고 비겁한 변명을 다시 한 번 강조하겠습니다.

자, 쓸데없는 이야기는 관두고 고정관념을 깨봅시다. 반례를 하나 들겠습니다. 고교 수학에서 연속 함수에 대한 다음 명제를 기억하고 계실 것입니다.

'모든 실수에서 정의된 두 연속 함수 의 합 도 모든 실수에서 연속이다.'

수학적 귀납법을 적용해서 다음 명제로 확장시킬 수 있다는 것도 받아들이실 수 있으실 겁니다.

'모든 실수에서 정의된 n개의 연속 함수 의 합 도 모든 실수에서 연속이다.'

자, 그럼 무한히 많은 연속 함수의 합 역시 연속일까요? 다음 함수들을 생각해봅시다.

각각은 우리가 흔히 보는 단항식입니다. 각각의 단항식이 연속이라는 것도 고교 수학에서 나오는 사실입니다. 유한 개의 단항식의 합은 다항식이고, 다항식 역시 연속이라는 것도 수학적 귀납법까지 갈 필요도 없이 잘 알려져 있는 사실이죠.

자, 이 단항식들로 이루어진 급수  는 보시다시피 공비가 인 등비급수입니다. 등비급수의 합 공식도 고교 수학 내용이죠. 

공식에 따르면 이 급수의 합은 입니다. 단, 수렴할 조건이 있었죠? 일 때 수렴이고, 나머지 경우에선 발산합니다.

즉, 각각의 함수는 모든 실수에서 정의되고 연속인데, 그것들을 다 합한 것은 고작 에서만 정의된 연속 함수라는 것입니다. 우리의 고정관념 대로라면 이 등비 급수의 합으로 정의된 함수 역시 모든 실수에서 연속이어야 할 텐데 말입니다.

이로써 수학적 귀납법으로 증명할 수 있는 명제를 무한대로 확장했을 때, 성립하지 않는 명제가 있다는 것을 보였습니다. 실제로 이 명제가 무한대로 확장 되려면 좀더 세심한 조건이 필요하다라는 것은 대학에서 배우는 기초 해석학의 초반의 중요한 내용이기도 합니다. 아마 수학도가 처음으로 무한이라는 개념을 제대로 마주하는 부분이 아닐까 싶어요.

우리가 수학적 귀납법에서 증명한 것은 임의의 자연수 n을 선택 했을 때, P(n)이 참이라는 것입니다. 그 n이 백만일 수도 있고, 일억일 수도 있고, 구골이니 복구골이니 무량대수니 하는 여러분들이 생각할 수 있는 엄청나게 큰 수일 수도 있습니다. 그러나 어찌됐건 그 n들은 유한합니다. 무한대 infinity는 말 그대로 '끝이 없음'을 뜻하는 말입니다. 아무리 큰 수를 택해도 무한대는 그것보다 큰 것이죠. 일반적인 실수 체계에서 무한대는 수가 아닙니다. 이 글은 그것을 납득시키기 위한 글은 아닙니다. 아쉽게도 저에겐 그런 재주가 아직 없는 탓이 크지요. 다만 여기까지의 이야기를 통해, 우리가 '상식'적으로 생각하던 수학적 귀납법의 확장은 옳지 않은 방법이며, 무한대를 대응하기 위한 다른 방법이 필요하다는 점은 이해를 해주셨으면 합니다. 그 방법이 직관적이지 않을 지언정, 논리적인 방법이고, 결코 우리 일상과 관련이 없는 신선 놀음이 아니라는 이야기는 언젠가 다른 글을 통해 제가 하고 싶은 이야기이기도 합니다. 그때는 여러분들께 진정 '고수'의 영역, 그리고 '초고수'를 엿보는 법을 소개할 수 있는 지식 수준이 되면 좋겠네요.

마지막으로 수학자이자 철학자였던 버트런드 러셀의 'Introduction to Mathematical Philosophy'의 한 문단을 발췌 번역한 글로 마무리 짓고자 합니다. 제 글이 무한대에 대한 접근법이 왜 필요한 지 논리적으로 납득이 되는데 도움이 된다면 기쁠 것 같습니다. 아울러서 여기 계실 많은 수학 고수 분들께서도 제 얕은 지식을 뽐낸 허접한 글의 허점을 가차없이 지적해주신다면 감사히 달게 받겠습니다.