1. 개요
실해석학( 實 解 析 學)은 해석학의 하위 학문으로, 실수와 이를 집합으로 갖는 함수의 구조를 연구하는 학문이다.2. 설명
집합에서 구간의 길이를 따지는 것을 측도론(measure theory)이라고 한다. 예컨대 일반적인 구간의 측도는 양 끝 점의 차이로 구할 수 있다. 단일 실수의 길이는 0이다. 이것은 측도의 정의를 사용해서 증명할 수 있다. 점이 유한 개가 아닌 무한 개라도 길이가 0일 수 있는데, 유리수의 집합이 대표적인 예이다. 무리수 집합은 실수와 길이가 같다. 무리수는 셀 수 없는 무한 집합이고 유리수는 셀 수 있는[1] 이렇게 보면 셀 수 없는 무한집합은 길이가 항상 있을 것으로 보이지만. 칸토어 집합같이 셀 수 없는[2] 무한 집합이지만 길이가 0인 특별한 케이스도 있다. 이 모든 것을 논리적으로 판단하는 개념이 측도론이다.그냥 구간 길이 정도로 파악하면 되는 측도론을 굳이 배우는 중요한 이유는 어찌 보면 실수의 모든 부분 집합이 측도 값을 가지겠네 하겠지만 그것이 아니라는 반전이 있기 때문이다! 즉 측도의 가장 실생활에 밀접한 형태인 '길이'라는 개념을 볼 때 실수의 부분집합 중에는 '길이'를 부여할 수 없는 부분집합이 존재하기 때문이다!
따라서 실수의 부분집합 중에서 측도를 부여할 수 있는 부분집합 체계를 엄밀하게 정의해야 하고, 그 측정가능한 집합(measurable set) 상에서 정의된 함수에 한해서 적분이 잘 정의되게 된다. 이를 위해 측정가능한 집합이란 무엇이며 측도라는 것이 무엇인지 여러가지 예시에 대한 논리적 판단의 경험을 통해 구별해야 한다. 이를 이해하는 데는 상당한 시간이 걸린다.
측도론을 공부하면 '적분이란 구간 내 함수값*구간길이 를 모두 더한 것' 이란 개념에서 구간의 길이라는 것이 무엇인지 감이 잡히게 된다. 이제 구간 내 함수값을 따져보자. 고등학교 수학에서는 구간 내 함수값을 왼쪽 끝, 오른쪽 끝, 중앙 중에서 선택하는데, 해석학에서는 이 조건을 좀더 느슨하게 풀 수 있다. 즉, 구간의 어느 함수값을 잡아도 구간길이가 무한소로 가면 특정한 극한 값으로 수렴하므로 이런 느슨한 일반화를 할 수 있는 것이다. 이렇게 정의한 적분의 정의를 리만 적분이라고 한다.[3]
연속함수가 아닌 함수에 대해 리만 적분의 한계가 드러나는데, 함수가 ' 유리수일 때에는 1, 무리수일 때에는 0을 가지는 특이한 경우([math(\bold{1}_{\mathbb{Q}})])'일 때 구간을 어떻게 자르느냐에 따라서 다른 값으로 수렴하므로 리만적분값은 존재하지 않게 된다.[4]
또한 적분값의 수열이 수렴하지 않는 경우가 발생하는데, 이는 심각한 문제가 된다. 실수는 코시 수열의 수렴값들로 정의되므로, 만약 실수를 인정하지 않는다면 정사각형의 대각선의 길이는 생각도 하지 말아야 하는 것이다. 또한 많은 수학적 정의가 수열의 극한이 존재한다는 것을 전제한 것인데, 만약 수열이 수렴하지 않으면 수학적 존재의 정의를 수열로 할 수 없게 된다. 어떤 확률의 기댓값은 적분값이지만 적분값이 수렴을 보장할 수 없다면 확률론에서 기대값의 수열의 극한으로 뭔가를 정의할 수 없게 되므로 이론적 모형으로서는 치명적이다. 게다가 물리의 양자역학은 모든 측정값은 확률의 기댓값으로 계산되므로 리만적분의 약점은 양자역학의 이론적 도구로서의 결함을 의미한다.
이 문제를 해결하기 위해서 르베그 적분은 '구간 내 함수값*구간 길이 를 모두 더한 것' 이라는 접근 방법을 취하는 리만 적분과는 근본적으로 다른 접근 방법을 취한다. '함수값과 그 함수값을 갖는 집합의 측도들의 합' 으로 접근하는 것이다. 예컨대 f(x)를 적분할 때 f(x)를 계단으로 근사한 다음 각 계단 높이, 예컨대 f(x)=0.3 이 되는 x의 집합[5]의 측도가 2 라면 0.3*2 를 취한다. 이 과정을 f(x)의 모든 계단 높이에 대해서 구한 값을 다 더하면 적분이 되는 것이다. 매끄러운 함수는 이런 근사 계단을 통해 극한으로 정의를 하고, 디리끌레 함수처럼
르베그 적분이 되면 적분상에서 극한 표현 같은 것이 보장된다. 이는 물리학이나 공학에서 요구하는 타당한 이론적 도구임을 보장하는 것으로서 물리학이나 공학 책에 L2공간 이라고 흔히 보는 것이 거기서 함수를 논하려면 제곱한 것이 르베그 적분이 되는가 를 보장한다는 징표임을 뜻한다.[7]
이런 엄밀한 과정을 통해서 기존의 단점을 보완한 새로운 개념의 르베그 적분을 도입하였지만 실용적으로 계산할 때는 르베그 적분이나 리만적분이나 방법이 차이가 나지 않는다. 따라서 해석학 책의 다음 부분은 리만적분과 대부분은 같다는 전개이다. 이 때문에 물리학과에서는 그냥 르베그 적분을 몰라도 공부하는 데는 지장 없다. 어차피 디리클레 함수 같은 특이한 함수는 물리학에서 거의 사용하지 않기 때문이다.
다만 다중적분의 적분 순서가 바뀌는 문제는 수학전공자나 경제학에서는 문제가 된다. 적분은 본질적으로 극한이고, 극한이란 건 특별한 조건이 붙어있지 않는 한 순서를 바꾸었을 때의 결과가 원래의 결과와 같다는 보장이 없기 때문이다. 실제로도 일반위상적으로 특이한 조건 하에서는 르베그 적분에서 적분 순서를 바꿀 수 없다. 하지만 그런 아주 특수한 조건을 제외하면 항상 바꿀 수 있으므로 공대와 물리학과에서 다루는 평이한 공간에서는 그냥 생각없이 적분 순서를 바꿀 수 있는 것이다.[8]
그런 다음 해석학에서는 함수공간을 다룬다. 르베그 적분 가능한 집합들을 마치 실수공간처럼 접근한다. 그 이유는 증명할 때에 테크닉으로 사용되기 때문이다. 예컨대 미분방정식의 해가 존재하는가 하는 증명을 할 때에 미분방정식의 해는 실수가 아니라 함수인데 마치 실수의 근을 수치적으로 찾을 때 해에 가까워지는 알고리즘을 설정해 그 근으로 해를 찾듯이 미분방정식의 해가 되는 함수를 마치 알고리즘에 따른 수열로 설정하고 그 수열의 극한을 미분방정식의 해로 증명하는 것이다. 여기서 실수의 경우는 알고리즘으로 찾아가는 수열은 반드시 수렴한다는 것인데 그것은 실수가 이미 코시 수열은 수렴하는 성질이 있기 때문이다. 함수공간도 이런 성질을 갖는 것이 확인 되면 그 함수공간 내의 함수 열이 코시수열이다는 것(함수간의 거리를 따지고 그 거리에 의해서 코시수열을 정의)만 밝혀도 극한이 존재한다는 것을 증명할 수 있다. 즉 미분방정식의 해는 반드시 존재하는 것이다. 이와 같은 증명에 테크닉으로 이용될 수 있으므로 함수공간의 이해는 해석학에서 다루는 주제가 된다.
더 깊게 나아가면 다루는 함수공간의 작용소라는걸 배우게 되는데, 순수 수학적으로 접근하면 이때 대수학의 기법이 상당수 사용된다. 이는 함수해석학의 세부분야로 작용소 대수라는 학문으로, 이 정도 수준에 이르르면 사실상 미적분학과의 연관성이 많이 상실되며 높은 추상화 단계에 이르르게 된다. 유명한 수학자인 폰 노이만이 정의한 폰 노이만 대수의 개념도 볼 기회가 있다. 만약 여기서 더 나아간다면 비가환 기하학이라는 분야에 입문하게 될 것이다. 이쪽 분야의 창시자로 알랭 콘 이라는 필즈상 수상자가 있다.
함수의 정의를 측정가능한 집합상에서 했기 때문에 이에 대한 미분 개념을 정의할 수 있다. 단 함수에서 정의된 집합이면 기울기 개념 같은 것은 없어지고 Radon-Nikodym 도함수라는 개념이 생긴다. 이것은 미분과는 일견 전혀 닯은 점은 없어 보이지만 집합이 실수 집합일 경우에는 이것은 도함수의 개념으로 축소된다. 하지만 좀 더 넓은 개념으로 사용되는데, 예컨대 확률론에서는 조건부 기댓값, 통계에서는 확률밀도함수 개념이 바로 이 Radon-Nikodym 도함수 개념이다.
함수의 정의가 집합으로 확장되었기 때문에 훨씬 다양한 환경에서 적분 이론을 사용할 수 있다. 2차원, 3차원은 말할 것도 없고 복소수 공간 뿐 아니라 꼬이고 꼬인 집합 등등, 기본 조건만 충족되면 많은 다양한 공간에서 적분 이론을 전개할 수 있게 하므로 특수한 공학적 문제에 이론적인 도구를 제공할 수 있다.
마지막으로 좀 느슨한 조건의 함수 (예: 디랙 델타 함수[분포]) 같은 것에 대해서도 엄밀한 이론적 토대를 제공하는 방법을 배우거나 푸리에 해석 같은 것을 앞서 배운 이론적 틀로 재구성해서 배운다.
위 내용을 보면 알겠지만 실해석학은 그야말로 통수의 연속(...)이므로 수업에 임하기 위해서는 어느 정도 열린 태도를 갖고 있어야 한다.
3. 교과서
실해석학의 교과서들은 무턱대고 구입하기 전에 직접 목차를 찾아보는 것이 중요하다. 왜냐하면, 수학과 1~2학년생을 위한 해석학 입문과정 교과서들도 실해석학(Real Analysis)라는 제목을 달고 출간되는 일이 많기 때문이다. 예를 들면 Bartle저 <Introduction to Real Analysis>, Stoll저 <Introduction to Real Analysis>는 이름과는 달리 2학년생을 위한 해석학개론 교과서이므로 3~4학년 이후에나 진행되는 실해석학 내지 '실변수함수론'의 수업 및 공부의 주교재로는 적합하지 않다.[10] 양영오저 <실해석학 개론>은 구성상 르베그 적분론을 써먹지 않으면서 함수해석학에 접근하는 교재이므로 흔히 측도에 대해 소개하며 시작하는 고학년 실해석학의 커리큘럼과는 약간 차이가 있다. 이들을 구분하는 방법이 없지는 않다. 완비순서체로서의 실수를 정의하면서 시작하는 해석학개론 책들과 달리 고학년~대학원 실해석학을 위한 실해석학, 아니 '실변수함수론' 교과서들은 대부분 첫 단원을 적분론, 측도론, 드물게는 푸리에 급수부터 다루면서 시작한다. 한편으로는 실해석학의 가장 널리 쓰이는 응용분야가 바로 확률론이기 때문에 가끔은 측도(Measure), 적분(Integral) 같은 키워드를 제목에서 포함하고 있는 확률론 교과서들이 실해석학 강의에 특별출연(?)하기도 한다. 이러한한편, 이 과목은 마땅한 한국어 교과서를 찾기 어려운 편이다. 임용시험 대비용으로 수요가 꽤 있는 해석학개론이나 선형대수학, 현대대수학, 복소해석학, 미분기하학, 위상수학, 수리통계학 등 핫한 과목들과 달리 실해석학은 사범대학 수학교육과에서는 수학교육학 과목들의 진도를 빼거나 졸업을 위해 반드시 이수해야 하는 교육실습 등의 빅 이벤트로 인해 도저히 시간이 없어서 제대로 가르치기 힘든 분야이고 수학교사 임용시험 범위와도 다소 동떨어져 있어서 한국어 교과서에 대한 수요가 그리 많지는 않다. 애초에 실해석학이 학부와 대학원의 경계에 걸쳐 있는 과목이라서 어쩔 수 없다. 그래도 한국어 교재를 몇 추천하자면...
-
김성기/계승혁, <실해석>
<해석개론>의 개노답 삼형제 중 김도한 교수를 제외한 2인이 지어 일명 '김계'라 불리는 교재. <해석개론>의악명명성에 비해 이 책은 딱히 널리 쓰이지는 않는 편인데, 개정 없이 방치된지 오래되었다는 점이나 저자들의 전공인 조화해석 부분에 너무 치우친 편식성(?) 교재라는 점 등이 원인으로 꼽힌다. 저자중 한명인 계승혁 교수의 강의도 온라인 상에서 볼 수 있다. #
-
김종진/박성희/이용훈, <르베그적분(측도론) 입문>
르베그 적분을 다루는 한국어 교재 중 보기 드물게 상세한 설명을 추구하는 책. 실해석학 수업을 학부생으로서 처음 따라가는 독자들에게 적합하다. 제목과 집필 의도에서도 알 수 있듯이 측도와 르베그 적분을 처음 접하고 쩔쩔매는 학부생들을 위한 교재이니만큼 대학원 과정에 가까운 깊은 내용들은 커버하지 못하지만, 어차피 그렇게 어려운 내용은 붙어있어봤자 학부생 수준에서는 제대로 다루기도 어렵기 때문에 해석학 말고도 해야 할 것이 많은 학부생의 입장에서는 이 책이 다루는 범위만 제대로 다져도 학점관리에는 충분하다. 단점은 책의 편집 스타일이 김계를 너무 따라한 티가 난다는 점으로, 한글 폰트를 2010년대 유행하는 최신 폰트로 바꾼 것 외에는 페이지별, 챕터별 레이아웃 면에서 김계와 별 차이가 없다. 심지어 서울대 교재들의 고질병(?)인 꼬불꼬불 장식체 남발까지 따라했다.이왕에 맛있는 해석학이나 Friedberg 선대 번역판 같은 알록달록한 책을 따라하지 왜 하필 칙칙한 디자인을 고집한건지 궁금하다.동 저자들의 복소해석학, 다변수해석학 교과서도 비슷한 것을 보면 그냥 취향입니다 존중해주시죠[11]
-
양영오, <실해석학 개론>
르베그 적분을 안 쓰고(!) 바나흐 공간, 힐베르트 공간 등의 함수해석학 진도를 다루는 책.
-
조성진, <예제가 풍부해서 이해가 잘 되는 실해석학>
독학용보다는 단학기 강의용으로 적합한 교재. 측도론에 앞서 집합론, 실수계, 리만 적분, 함수열 같은 해석학개론 진도를 다룬 다음에야 측도를 소개한다.
실해석학 수업 및 공부에서는 이렇듯 선택의 범위가 그리 넓지 않은 한국어 교재 대신 영어 교재를 많이들 본다. 보통 가장 많이 보는 책은 아래에서 소개하는 Rudin저, Folland저, Stein저 등이 꼽히나, 실해석학이 경제학과 통계학 등 타전공 학생들에게도 공부할 필요가 있는 과목인지라 그 쪽 방면으로의 응용을 강조하는 서적들도 있다. 그 쪽 독자층을 타겟으로 삼는 저자들은 실해석학 외에도 확률론이나 금융수학 교과서도 내기도 한다.
-
Walter Rudin, <Real and Complex Analysis>, <
Funtional Analysis>
루딘 삼신기 중 <Principles of Mathematical Analysis>를 제외한 두 권. 일반위상수학의 지식을 가정하고 작성된 책으로 보인다. 해석학 뿐만 아니라 위상수학과 대수학의 기본까지 충실하게 다져져있지 않은 이상은 공부하기 버겁다. 학부생들의 수준으로는 진도를 나가기 버거운 책이지만, 대학원생들은 진정으로 해석학 만렙을 찍고자 한다면 어떻게든 독파해내야만 한다. 다만 루딘 삼신기를 읽으며 성장하여 논문을 준비하거나 후학을 가르칠 수 있을 정도의 경지에 오른만렙대학원생이나 교수들은 후학들에게 독학용으로 권하기에는 다른 책에 비해 허술하다는 (PMA를 까는 것과 비슷한 맥락의) 미묘한 평가도 간혹 내리곤 하는데, 아무래도 루딘 삼신기가 오래된 시리즈이니만큼 PMA, RCA, FA의 구성을 따라하며 여러 시도를 첨가한 형태로 다른 교과서들이 나오곤 하기 때문에 오랜 내공을 쌓아야만 음미할 수 있는 차이이므로 이런 훈수(?)에 너무 얽매일 필요는 없다.
- Gerald Folland, <Real Analysis: Modern Techniques and Their Applications>
-
Elias M. Stein/Rami Shakarchi, Princeton Lectures in Analysis 시리즈
1권은 푸리에 해석, 2권은 복소해석, 3권은 실해석, 4권은 함수해석을 다루는 크고 아름다운 프린스턴 대학원 해석학 강의 시리즈. 해석적 정수론이나 편미분방정식론 등의 테크트리를 타는 대학원생들에게 특히 추천되곤 하며, 1, 2권은 학부 과정의 푸리에, 복소 수업에서도 자주 쓰이지만, 실해석학을 다루는 3권부터는 학부생 수준에서는 홀로 해내기 버겁다는 평가도 받는다.
-
Robert G. Bartle, Elements of Integraion and Lebesgue Measure
해석학 입문 교재에다 실해석학개론이라는 간판을 걸어놓아서 여러 독자들을 골탕먹이는 Bartle의 진퉁(?) 실해석학 교재. 입문교재에 비해 다소 오래되었다.
- Zygmund, <Measure and Integral>
- Royden[12] & Fitzpatrick, <Real Analysis>
4. 관련 문서
[1]
유한이라는 것이 아니라
자연수 집합과 일대일 대응이 되는 집합이다.
[2]
그 크기가 자연수와 일대일 대응이 안되는 개념이다. 이것을 이해하는 것은 무한개념이 있는 집합론을 이해해야 한다.
[3]
다만 일반적인 해석학 책에서는 리만 적분→측도론/르벡적분 순으로 단원을 나열한다.
[4]
이 함수는 수학자 르죈 디리클레(Lejeune Dirichlet)의 이름을 따 디리클레 함수라고 부른다.
[5]
이 집합은 f(x)가 sin(x)같은 들쭉날쭉한 함수라면 리만적분같은 소구간이 아니라 실수상에 퍼져있는 집합이 된다.
[6]
불연속점의 르벡 측도가 0이라는 뜻.
[7]
제곱을 따지는 이유는 물리학에서 불확실성을 나타내려고 분산 개념을 사용하기 때문이고 공학에서는 power가 대부분 제곱차원이기 때문이다.
[8]
수학전공자와 물리전공자가 여기서 차이가 나는데 수학 전공자는 조건에 대한 아무런 단서가 없다면 적분순서 변경이 가능한지 논리적으로 따지고 간다.
[분포]
정확히는 함수가 아니다.
분포 문서 참고
[10]
Stoll저서는 푸리에 해석과 르베그 적분론을 끄트머리에서 챕터를 하나씩 배당하여 소개하기는 한다.
[11]
사실 이는 전형적인
LaTeX 조판 디자인을 따르면서 나온 현상이다. Friedberg도 LaTeX을 사용하긴 했지만, 그 책을 번역한 출판사 한빛아카데미는 원래 컴퓨터 서적을 주로 내던 회사인만큼 LaTeX을 쓰더라도 디자이너를 따로 고용해서 디자인을 개선했을 것이다. 반면, 실해석의 내용은 임용 범위에도 들어가지 않아 수요가 적을 것이므로 이 책의 출판사(경문사)가 손해를 보면서까지 그렇게 해야할 동기가 없을 것이다. 여러 수학 전공서적을 보면 한빛아카데미처럼 디자인까지 신경을 쓴 게 오히려 더 특이하다는 것을 알 수 있을 것이다.
[12]
여담으로 홀시 로이든(Halsey Royden)은 19년간 박사과정 졸업을 못한
대학원생이 교수를 때려죽인 사건으로 유명한 테드 스트렐스키(Ted Streleski) 사건 당시 지도교수였다. 사망자인 카렐 드리우(Karel deLeeuw) 교수는 스트렐스키의 옛 지도교수였지만 스트렐스키는 지도교수가 지나치게 자주 바뀌고 생활고도 심해지며 정신적으로 피폐해졌다고.