최근 수정 시각 : 2024-10-30 22:08:02

범주론


수학기초론
Foundations of Mathematics
{{{#!wiki style="margin: 0 -10px -5px; min-height: calc(1.5em + 5px)"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin: -5px -1px -11px" 		다루는 대상과 주요 토픽
수리논리학 논리 · 논증{ 귀납논증 · 연역논증 · 귀추 · 유추} · 공리 및 공준 · 증명{ 증명보조기 · 자동정리증명 · 귀류법 · 수학적 귀납법 · 반증 · 더블 카운팅 · PWW} · 논리함수 · 논리 연산 · 잘 정의됨 · 조건문( 조각적 정의) · 명제 논리( 명제 · 아이버슨 괄호 · 역 · 이 · 대우) · 양상논리 · 술어 논리( 존재성과 유일성) · 형식문법 · 유형 이론 · 모형 이론
집합론 집합( 원소 · 공집합 · 집합족 · 곱집합 · 멱집합) · 관계( 동치관계 · 순서 관계) · 순서쌍( 튜플) · 서수( 하세 다이어그램 · 큰 가산서수) · 수 체계 · ZFC( 선택공리) · 기수( 초한기수) · 절대적 무한 · 모임
범주론 범주 · 함자 · 수반 · 자연 변환 · 모나드 · 쌍대성
계산가능성 이론 계산 · 오토마타 · 튜링 기계 · 바쁜 비버 · 정지 문제 · 재귀함수
정리
드모르간 법칙 · 대각선 논법 · 러셀의 역설 · 거짓말쟁이의 역설 · 뢰벤하임-스콜렘 정리 · 슈뢰더-베른슈타인 정리 · 집합-부분합 정리 · 퍼스의 항진명제 · 굿스타인 정리 · 완전성 정리 · 불완전성 정리( 괴델 부호화) · 힐베르트의 호텔 · 연속체 가설 · 퍼지 논리
기타
예비사항( 약어 및 기호) · 추상화 · 벤 다이어그램 · 수학철학
틀:논리학 · 틀:이산수학 · 틀:이론 컴퓨터 과학 · 철학 관련 정보 · 논리학 관련 정보 · 수학 관련 정보 }}}}}}}}}



[[대수학|대수학
Algebra
]]
{{{#!wiki style="margin: 0 -10px -5px; min-height: calc(1.5em + 5px)"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin: -5px -1px -11px" 		이론
기본 대상 연산 · 항등식( 가비의 이 · 곱셈 공식( 통분 · 약분) · 인수분해) · 부등식( 절대부등식) · 방정식( /풀이 · 근( 무연근 · 허근 · 비에트의 정리( 근과 계수의 관계) · 제곱근( 이중근호 · 개방법) · 환원 불능) · 부정 · 불능) · 비례식 · 다항식 · 산술( 시계 산술)
수 체계 자연수( 소수) · 정수( 음수) · 유리수 · 실수( 무리수( 대수적 무리수 · 초월수) · 초실수) · 복소수( 허수) · 사원수 · 팔원수 · 대수적 수 · 벡터 공간
다루는 대상과 주요 토픽
대수적 구조
군(group) 대칭군 · 기본군 · 자유군 · 리 군 · 괴물군 · 점군 · 순환군 · 군의 작용 · 동형 정리 · 실로우 정리
환(ring) 아이디얼
체(field) 갈루아 이론 · 분해체
대수 가환대수 · 리 대수 · 불 대수( 크로네커 델타)
마그마· 반군· 모노이드 자유 모노이드 · 가환 모노이드
선형대수학 벡터 · 행렬 · 텐서( 텐서곱) · 벡터 공간( 선형사상) · 가군(module) · 내적 공간( 그람-슈미트 과정 · 수반 연산자)
정리·추측
대수학의 기본정리 · 나머지 정리 · 유클리드 호제법 · 부분분수분해 · PID 위의 유한생성 가군의 기본정리 · 산술·기하 평균 부등식 · 바이어슈트라스 분해 정리 · 호지 추측미해결 · 가환대수에서의 호몰로지 추측미해결
관련 하위 분야
범주론 함자 · 수반 · 자연 변환 · 모나드 · 쌍대성 · 토포스 이론 · 타입 이론
대수 위상수학 연속변형성 · 사슬 복합체 · 호몰로지 대수학( 호몰로지 · 코호몰로지) · mapping class group · 닐센-서스턴 분류
대수기하학 대수다양체 · 층 · 스킴 · 에탈 코호몰로지 · 모티브
대수적 정수론 타원곡선 · 디오판토스 방정식 · 유리근 정리 · 모듈러성 정리
가환대수학 스펙트럼 정리
표현론 실베스터 행렬
기타 및 관련 문서
수학 관련 정보 · 추상화 · 1학년의 꿈 · 노름 · 혼합계산 · 분배법칙 · 교환법칙 · 결합법칙 · 교재 }}}}}}}}}


1. 개요2. 내용3. 참고 서적4. 여담5. 관련 문서

1. 개요

範 疇 論, 圏 論[1] / category theory

수학 전반에서 등장하는 각종 수학적 구조와 그들 간의 관계를 메타 개념으로 생각하여, 그들을 범주( category)라는 추상적인 개념으로 묶어서 다루는 이론. 본래는 대수학 및 대수위상수학에서의 필요에 의해 창시되고 체계화하였지만, 점차 토포스 이론, 층 이론, 타입 이론 등 깊고 깊은 세부 및 연계 분야가 발전해나가며 수많은 분야에 영향을 끼치고 공리적 집합론의 대안으로까지 거론되는등 현대수학의 뼈대가 되는 핵심 이론으로 주목받고 있다.

오늘날 범주론은 추상대수학을 비롯하여 수학의 많은 분야를 다루고 있으며, 특히 이론 컴퓨터 과학이나 수학기초론, 수리물리학과의 연관성이 대두되고 있다. 이외에 범주 이론, 권론(圈論), 카테고리 이론 등의 명칭으로도 불린다.

2. 내용

수학과 학부 전공심화과정 이상의 수준에서 대수학과 위상수학 등을 일정 수준 이상으로 공부하다 보면[2], 배우는 분야마다 해당 분야에서 관심이 있는 '특정 구조를 가지는 집합'들과 '그 집합들 사이의 대응관계'라는 비슷한 구조가 나타나며 심지어는 자기가 읽고 있는 교과서가 여러 가지 논리전개나 서술 방식을 우려먹는(?)다는 느낌도 받게 된다. 예를 들면, 현대대수학 교과서에서 군( 환)과 군(환) 사이의 준동형 사상 혹은 동형 사상, 선형대수학 교과서에서 벡터 공간 사이의 선형 변환, 위상수학 교과서에서 위상 공간 사이의 연속함수 등을 다루는 것을 오랫동안 음미하다보면 사상, 변환, 함수들 간에 어떤 특정한 패턴이 약간의 용어나 서술방식만 달리한채 반복되고 있다는 점을 알 수 있다. 항등 사상이 항상 저런 특정한 '집합들 사이의 대응관계', 혹은 속칭 '모피즘' 내지는 '화살표' 중 하나에 속한다든가 화살표와 화살표의 합성 또한 화살표라는 것도 있지만, 이런 기초적인 것 말고도 몇몇 독특한 구조들이 서로 상관 없어 보이는 분야 여기저기서 나타난다. 가장 대표적인 예로 split exact sequence를 들 수 있고, universal object라는 구조[3]도 좋은 예에 속한다. 화살표들을 갖고 놀다 보면(...) 이런 예들을 심심찮게 찾을 수 있다. 니콜라 부르바키의 정체 중 하나였던 사무엘 에일렌베르크(Samuel Eilenberg)와 손더스 맥레인(Saunders Mac Lane)이 대수적 위상수학, 특히 호몰로지 이론을 연구하면서 이러한 각 수학 분야들에서 부지기수로 나타나는 공통된 구조를 다시 한번 추상화시켜서 다룰 수 있지 않을까 하는 데에 착안하여 범주(category)라는 개념을 도입하게 된다.

범주론에서 다루는 범주(category)는 쉽게 말하면 아주 간단한 몇몇 조건을 만족시키는 대상(object)과 그 대상들 사이의 관계를 나타내는 사상(morphism)의 모음인데, 이 대상과 사상은 그 조건만 만족시키면 말 그대로 무엇이든 가능해서, 대상은 굳이 어떠한 집합일 필요가 없고 사상도 굳이 어떠한 함수일 필요도 없다. 물론 이렇게 정의된 범주들 사이의 대응관계도 생각해볼 수 있는데, 두 범주를 대응시키는 사상을 '함자(functor)'라고 한다. 물론 이 범주들과 함자들을 또 하나의 범주로 보고(...) 범주의 범주를 정의할 수도 있다.


범주론을 전공한 수학자 겸 피아니스트 겸 작가인 유지니아 쳉(Eugenia Cheng) 박사가 전세계 함수형 프로그래머들의 정모인 '람다 월드 2017'에 참석하여 가진 프리젠테이션 영상. 본업이 프로그래머가 아니다보니 어려운 프로그래밍에 관한 주제보다는 비전공자를 위한 실생활 속 예시를 들며 범주론 소개에 치중한 내용이라 비전공자에게도 영어가 들린다면 범주론에 대해 흥미를 돋구기 좋다.

이렇듯 고도로 추상적인 분야이지만, 알렉산더 그로텐디크와 장피에르 세르를 필두로 대니얼 퀼런, 데이비드 멈포드, 마이클 아틴, 샤를 에레스만, 로제 고드망 등 필즈 메달리스트급의 대가부터 요네다 노부오, 다니엘 칸 등 오늘날 범주론 교과서에 등장하는 주인공들에 이르기까지 20세기 수학의 수많은 거목들이 기존 집합론이 한계를 보여줬던 많은 분야에서 범주론을 대안삼아 현대수학의 오만 분야에서 써먹기 시작[4][5]했다. 마냥 순수수학만의 문제인가 싶었지만, 20세기 중후반부터는 컴퓨터과학과 같은 응용 학문에서도 범주론을 끌어다 쓰는 판이다.[6] 오히려 어떤 면에서는 대수학 전공자가 아니라 덕력 높은 프로그래머 및 컴퓨터 사이언티스트들이 범주론을 논하는 업계 학계의 주류로 발돋움하고 있는게 아닌지 갸우뚱할 지경이나, 사실은 프로그래머들도 어지간한 내공이 쌓이지 않으면 수학을 이 정도로까지 체화하고 함수형 프로그래밍을 능수능란하게 해낼 정도는 되지 않기에 흔한 코딩 부트캠프에서 범주론을 마스터한 함수형 프로그래머를 찍어낼수는 없다. 대신 위의 유지니아 쳉 같은 순수수학자들도 밥벌이는 말할 것도 없고 학문적 필요에 의해 프로그래밍을 공부해야 하는 지경이 되었는데, 이런 점에서는 범주론이 수학, 수리논리학, 컴퓨터과학 등의 학제간 연구분야가 되어간다고 볼 수도 있을 것이다. 대표적으로 함수형 프로그래밍 언어 Haskell에서는 범주론에 등장하는 개념들이 아주 중요하게 사용되며, 이 하스켈이나 Scala를 비롯한 함수형 프로그래밍 언어를 완벽하게 써먹을 정도로 숙련된 전문가들은 수학 전공자나 그에 맞먹는 수리논리학적, 대수학적 내공을 쌓은 컴퓨터 과학자들이 대부분이다. 이 분야 거장 중 하나인 스티브 아우디(Steve Awodey)는 오리건 대학 여름 강의에서 범주론이 크게 람다대수 등 논리학적 관점과 대수학의 관점이라는 두 갈래 관점으로 나뉘면서도 이 둘은 상호보완적이라고 지적했는데, 프로그래머들의 관점은 후자보다는 전자에 해당한다 할 수 있겠다. 하지만 범주론은 결국 대수적 구조를 다룰 때 비슷한 패턴으로 반복되어 나타나는 현대대수학의 클리셰에서 출발하는 내용이므로 결국 함수형 프로그래밍을 깊이 학습하고자 하는 컴퓨터 사이언티스트 및 프로그래머들은 대수학에 대한 상당한 수준의 역량을 갖출 것이 요구되고 있다.

3. 참고 서적

  • 《Categories for the Working Mathematician》, Saunders Mac Lane[7]
    보통 이 분야의 창시자 중 한명인 손더스 맥레인(Saunders Mac Lane)이 집필한 이 책이 스탠다드 교재로 평가받지만 신생분야치고는 연식이 오래된 책이라 처음 카테고리 이론을 배우려는 학생들 눈높이와는 조금 괴리감이 있을 수 있다.
    제목이 희한한데, Working Mathematician이라는 이 요상한 말은 원래 니콜라 부르바키에게서 나온 것으로 알려져 있다. 부르바키는 기호논리학 저널에 낸 기고와 원론 시리즈를 통해 자신들은 (수학자라기보다는 철학자라 봐야 할 듯한) 수리논리학자들이 좋아하는 메타수학보다는 논리를 가지고 호몰로지 대수라던가, 대수위상이라던가, 가환대수라던가, 대수기하학 같은 실용적(...)인 연구를 하는 수학자들의 언어에 더 큰 관심을 갖고 있다는 취지로 이 말을 썼는데, 부르바키의 본체 중 하나였던 사무엘 에일렌베르크와 함께 범주론의 기초를 다진 맥레인도 이 말을 썩 맘에 들어했는지 고전으로 남은 교과서의 제목에다 박제를 해버렸다. 결국 에밀리 릴 등 후대의 카테고리 이론가들도 즐겨 쓰는등 Working Mathematician이라는 말은 반쯤 밈이 되어버렸다. 굳이 한국어로 번역하자면 실용수학(...)자, 실전수학자, 현역수학자 노동수학자 등의 용어로 번역할 수 있는데, 영미권 수학자들이 이 용어를 쓰는 실제 용도도 수학기초론과는 동떨어진 '실용'적인 분야를 연구하는 수학자들을 가리키는 목적으로 쓰이곤 한다. 이외에 가끔 수학과를 나와 연구를 계속 하고 싶었지만 생계를 위해 학계를 떠난 소프트웨어 개발자나 사교육 강사 등이 이 말을 자조적으로 쓰기도 하며, 하술할 GitHub 링크에서 보이는 여러 책의 제목에서 알 수 있듯이 만국의 노동과학자들이 이 제목으로 단결하여 교과서를 내기도 한다.
  • 《Category Theory》, Steve Awodey
    맥레인의 저서는 후세대 working mathematician들의 공헌에 힘입은 현대수학의 급물살을 따라가지 못하는 점이 지적되기도 하는데, 이런 아쉬운 점을 보완할 수 있는 가장 훌륭한 책으로 맥레인의 제자 에이우디의 책이 꼽히곤 한다. 대수학, 기하학, 위상수학, 수리논리학, 컴퓨터, 프로그래밍 등 전공분야를 막론하고 다방면의 전공자들에게 골고루 높이 평가받는다.
  • 《An Introduction to Category Theory》, Harold Simmons
    에이우디의 책과 함께 레퍼런스로 자주 쓰이는 교과서이다. 에이우디 책에 비해 분량은 적지만 케임브리지대학 출판부의 깔끔한 편집 덕에 가독성이 좋아 독학용으로도 추천된다.
  • 《Conceptual Mathematics: A First Introduction to Categories》, F. William Lawvere & Stephen H. Schanuel
    에일렌베르크의 제자로서 범주론, 토포스 이론의 발전에 크게 공헌한 노학자 로비어 교수의 저서로, 아이비리그 등 많은 명문대학에서 범주론 입문서로 쓰인다. 두꺼워봤자 300페이지 미만에서 적당히 끊어주는 다른 책들에 비해 두께가 100페이지 이상 두껍다는 특징이 있다.
  • 《Basic Category Theory》, Tom Leinster
    이 책 역시 케임브리지대학 출판부의 깔끔한 편집 덕에 가독성이 좋으나, 따라 쓰기 힘든 필기체가 은근히 있다. 입문서인 이 책 외에 범주론 고급 분야에서도 저술한 책이 많기 때문에 이 분야에서 맥레인만큼은 아니지만 상당히 자주 보이는 이름이다보니 린스터 저서로 입문하여 린스터 저서들을 중심으로 공부하는 학생들도 있다.
  • 《Category Theory in Context》, Emily Riehl
    2010년대 후반부터 특히 많이 읽히는 신세대 교과서. 난이도가 린스터 등 다른 저자들의 명저에 비해 높다는 의견이 있지만 반대로 초심자가 읽기에도 무난하다는 상반된 평가도 혼재한다. 내용은 훌륭하지만 적지 않은 분량을 너무 작은 판형의 적은 종이에 쑤셔넣었기 때문에 작은 종이책으로 읽기엔 피곤하다는 지적도 있다. 카테고리를 표기함에 있어 볼드 표시를 해놓는 다른 책들과 달리 프리드버그저 선형대수학 교과서에서 자주 보이는 돋움체 표기로 일관하는등 가독성을 배려한 부분이 있기는 하지만, 종잇장을 늘리더라도 줄 간격을 늘리는게 어땠을지 아쉬움이 남는다. 이건 솔직히 도버가 잘못했다 일단 초반부는 수학도들의 기준에서는 다른 책들에 비해서도 제법 잘 읽히는 편이나, 배경지식이 없는 독자의 입장에서는 초장부터 서수를 갖고 화살표를 찍찍 긋는 등의 전개를 보며 기가 질려버릴 수가 있다. 릴이 머리말에서 언급하듯 이 책(뿐만 아니라 아무 범주론 책)을 읽으면서는 어려운 예시 갖고 시간 허비하면 안되니 모르는 예시는 빨리 건너뛰는 과감함이 필요하다. 한편 다른 책에서는 잘 안 쓰는 다양한 형식의 화살표를 머리말에서부터 용도별로 지정해놓고 다양하게 휙휙 써갈기는 노테이션이 눈에 띄는데, 초장부터 화살표마다의 용법을 파악해둬야 필기 및 강의실 판서에서 부담이 덜하다. 이 책을 많이 읽다보면 다른 과목의 다른 책과 논문을 보고 공부를 하면서도 필요조건과 충분조건 화살표를 가장 흔한 ⇒/⇐ 대신 물결무늬 화살표(⇝/⇜, [math(\rightsquigarrow)], \rightsquigarrow, \leadsto 등)로 쓰는 소소한 버릇이 생기기도 한다.
  • 《Sets, Logic and Categories》, Peter J. Cameron
    이 책은 한국어 역서가 나와있는 보기 드문 책이다. 참고로 역서에서는 '범주론'이라 하지 않고 그냥 음역한 '카테고리 이론'이라는 챕터명을 쓴다. 영어판에서는 흔히 쓰이는 기호들과는 조금 다른 표기법을 쓰기 때문에 읽을 때 다소 어색함을 느낄 수 있으므로 다른 집합론 책에 익숙한 독자들에게는 약간의 불편을 초래하는데, 《 실버만 복소해석학》 번역에도 참여한 수학 나라의 앨리스 출신 역자들이 번역을 맡아 《수리논리학입문》이란 제목으로 출간한 번역본은 원저자가 써먹은 특이하거나 오래된 표기법을 오늘날 흔히 쓰는 표기법으로 많이 교정한 채 번역되었다. 다만 오타가 군데군데 보이고, '맥레인과 손더스가 지은 Categories for the Working Mathematician' 같은 맥빠지는 오역도 많이 보인다. 평범한 한국어 번역서들처럼 내용을 읽어나가는데에는 문제가 없는 정도이다. 다만 범주론이 이 책의 메인 토픽까지는 아니라서 한 챕터 분량의 맛보기에 그친다는 단점이 있다. 분량 뿐만 아니라 질적으로도 학부생 수준에 맞추다보니 유경험자의 눈에는 썩 엄밀하지 않은 서술이 눈에 띌 정도로 딱히 심오하고 골때리는 뭔가를 기대하기엔 많이 부족하다. 이렇듯 성에 차지 않는 점은 많지만, 역제에서 알 수 있듯 수리논리학 및 수학기초론 분야 전반을 골고루 조금씩 찍어먹는 입문서의 성격에는 적절하다. 낯선 옛날 기호를 견뎌낼 수만 있다면 대수학적 배경지식이 불충분한 초보 수학도 및 타전공자들이 에이우디, 로비어, 린스터, 릴 등의 주요 교과서들을 본격적으로 시작하기 전에 읽기에 좋은 책이다.
  • 《All The Math You Missed (But Need to Know for Graduate School)》, Thomas A. Garrity
    본격 대학수학 총망라서. 머리가 굳은채 대학원에 가야 하는 수학도들의 수학능력 복구에 도움이 되라며 나온 책인데, 실질적으로는 대학수학의 '부페식당'에 가까운 책이라 깊게 공부하려는 학생들은 그냥 과목별 서적을 보는게 낫다는 평도 있다. 마지막 챕터에서 범주론을 소개하고 있다. 에이콘출판사에서 《대학 때 놓친 수학》이라는 제목으로 번역하여 2023년 12월 29일 출간했다.
  • 《Axiomatic Method and Category Theory》, Andrei Rodin
  • 《The Joy of Abstraction: An Exploration of Math, Category Theory, and Life》, Eugenia Cheng
    범주론 전공의 수학자 겸 작가 유지니아 쳉[8]이 반쯤 교양서스럽게 쓴 책. 비전공자나 수포자 수준의 초보들도 읽기 좋은 입문서의 취지를 잘 살렸지만 일부 예시들이 정치적으로 호오가 갈린다는 지적이 있다.[9]
  • 《Handbook of Categorical Algebra》 3부작, Francis Borceux
    카테고리 이론을 바탕으로 대수학도들이 목말라하는 주제를 폭넓게 다루고 있다.
  • 《From a Geometrical Point of View: A Study of the History and Philosophy of Category Theory》, Jean-Pierre Marquis
    수학철학과 현대수학사를 연구하는 관점에서 범주론을 소개하는 책으로, 학습용보다는 범주론을 낯설어하지 않는 독자들이 현대수학의 격동기를 조망하기에 좋은 책이다. 첫 챕터에서 펠릭스 클라인의 에를랑겐 프로그램을 소개할 정도로 수학사, 특히 20세기 대수기하학에 대한 배경지식을 요구하는 책이다. 다른 범주론 교과서들이 구성 면에서 점점 정형화하는 가운데 어쩌다 범주론이 오늘날의 모습으로 정립되었는지 소개하고 Daniel Kan의 Adjoint Funtor 등 역사상 중요한 논문의 해설과 현대 연구자들끼리의 비사까지 다루는 역덕후의 기질이 묻어난다. 기본적으로는 전부 영어로 쓰여 있으나, 퀘벡 출신 수학자가 다룬 책이니만큼 프랑스 수학계의 영향이 강한 편이라 프랑스어를 접해본 독자들이라면 더욱 쉽게 읽을 수 있다.
  • 《Category Theory for Programmers》, Bartosz Milewski
    프로그래머 및 소프트웨어 개발자를 위한 서적. 웹으로도 공개되어 있고, 강의 또한 유튜브에 공개되어 있다. 실질적인 프로그래밍 언어론 및 디자인 패턴에서 주요하게 사용되는 개념들을 망라하고 있고, 예시들이 Haskell로 작성되어 있어 Haskell의 입문 서적으로 쓰이기도 한다. GitHub 등지에서 찾아보면 Haskell은 물론 Scala까지 포함된 버전도 있다. 전문 수학자가 아닌 사람을 독자로 상정하느라 엄밀한 서술보다는 프로그래머에게 직관적인 해석과 예시를 풍부하게 제공하지만, 대학에서 직접 연필로 화살표를 그려가며 공부할 여건이 안되나 Python, C++ 같은 프로그래밍 언어[10]를 익혀본 경험이 있는 학습자들은 오히려 하스켈 인터프리터를 틀어놓고 설명하는 유튜브 등지에서의 강의 영상이 학습에는 더 편리할 수 있다. 범주론을 낯설어하지 않는 수학도들이 코딩을 연습하는 용도로 쓰기에도 나쁘지 않으며, 오히려 수학도의 입장에서는 사투리를 익히는 느낌을 받을 수도 있다.
  • 《Categories, Types and Structures》, Andrea Asperti & Giuseppe Longo
    An Introduction to Category Theory for the Working Computer Scientist(실전컴퓨터과학자를 위한 개론서)라는 부제에서 알 수 있듯 수리논리학 및 컴퓨터 과학의 관점에 적합하게 작성한 이론서이다. 1991년에 나온 고전이지만 LISP 등 오래된 언어에 대한 예시[11]를 제외하면 의외로 21세기 교과서와 크게 다를 바는 없으며, 코딩 및 프로그래밍 언어에 익숙지 않은 수학과생들도 수리논리학적 관점을 익히는 용도로 읽기에 적합하다. 수학 교과서와 컴퓨터과학용 교과서의 장단점을 모두 갖고 있어서, 특히 람다 칼큘러스를 소개하는 대목은 컴퓨터과학을 모르는 수학과생들도 컴퓨터과학의 노테이션 관행에 익숙해진다면 평범한 수학 교과서 읽듯이 그럭저럭 읽어나갈 수 있다. 다만 내용 외적인 문제가 있는데, 인터넷으로 무료공개된 파일은 절판된 책을 전자책으로 예토전생시키면서 LaTeX를 잘 쓰지 않고 유니코드상 수학기호 위주로 입력한 것이다보니 가독성이 여느 수학책 수준에 비해 좋지 않은 편이다.

보다 많고 다양한 교과서 소개를 원하면 prathyvsh GitHub도 참조하자. 린스터, 릴 등을 비롯한 일부 저자들은 아예 자신이 직접 교과서 PDF를 웹으로 공개하기 때문에 일부러 책을 돈 주고 살 필요는 없다. 그리고 이들 외에도 대학원 수준 대수학 교재에서는 한 소챕터나 부록 등에 간단한 카테고리 이론이 들어가 있는 경우도 많으니 대수학/교재 문서에 소개된 책을 비롯한 여러 고급 추상대수학 교재들도 참고하자. 예를 들면 서지 랭의 대수학 명저 《Algebra》에서도 카테고리 이론 챕터가 나오는데, 정말 핵심적인 내용만 소개하고 넘어가지만 그것만으로도 평이 상당히 좋다. 이야기책(...)으로 악명 높은 서울대 이인석 교수의 《학부 대수학 강의 II : 대수학》에서도 그 영향으로 초반부터 카테고리 이론의 언어를 동원하며 구조에 대해 추상적으로 접근한다.

다만 아예 이 쪽을 전공으로 하지 않는다면 굳이 한 우물만 팔 필요는 없고, 다른 수학분야(주로 대수학)를 공부하면서 해당 개념이 등장할 때 관련 서적을 찾아서 개념을 보충하는 정도로 공부해서 이미지를 잡아가도 충분하다. 물론 대수기하학이나 호몰로지 대수와 같은 고도로 추상적인 분야를 공부하게 되면 반드시라고 해도 좋을 정도로 카테고리 이론의 철학이 끼어들어가니 공부하다 보면 언젠가는 승부를 봐야 하는 분야이다. 이 때문에 일부 학자들은 이제 막 집합론을 배우는 학부 저학년생들에게도 일찍부터 범주론을 가르쳐야 한다는 주장을 펴기도 하나, 처음부터 미분다양체 및 미분동형사상 같은 어마어마한 예시를 거론하는 교재들을 이제 막 엡실론-델타 논법을 배우는 1~2학년 햇병아리들에게 읽히는 것은 부담스럽기만 하다. 대개의 교재들도 학부 저학년생보다는 고학년생 및 대학원생 독자를 대상으로 쓰이는 것이 현실이라 이런 주장은 아직은 실현되지 않고 있다.

한국어로 된 서적은... 사실상 없다고 봐도 무방하다. 위에서 소개한 《수리논리학입문》이 위 영상에 등장하는 유지니아 쳉 박사가 요리책 컨셉으로 저술한 교양서 《수학을 요리하다》(절판)에 소개된 것을 제외하면 한국어 (번역) 교재로서 카테고리 이론을 다루는 사실상 유일한 사례이며, 범주론만을 전문적으로 다룬 고급과정 교과서를 본격적으로 번역하는 용자 번역자들은 아직 나오지 않고 있다. 그나마 한국어로 된 교재 중에 서울대 수리과학부 이인석 교수가 지은 《학부 대수학 강의 II : 대수학》이 대수적 사고방식을 체화하려는 목적에서 범주론의 universal property 같은 개념을 동원하기는 하지만 이 책 역시 본질적으로는 대수학 서적이라 범주론 찍먹을 넘어 본격적으로 다루지는 않는다는게 수리논리학도들에게는 아쉬움으로 남는다. 물론 프로그래머 독자도 낚아올리기에 좋은 블루오션이므로 번역서가 언젠가는 나오리라는 기대는 걸어볼만 하지만, 이 분야는 아직 한국어 용어도 제대로 정립되지 않은 분야이기 때문에 첫 발을 내딛는 번역자는 누가 되었건 굉장한 욕을 들어먹을 것이 확실하다. 일단 아무리 대수학에서 중요하게 쓰인다고는 해도 교과서를 저술할만큼 통달한 학자들은 결국 수리논리학자들인데, 수리논리학은 국내 대학에서 근무하는 전문가의 수도 그리 많지 않은 분야라서 국역에 있어서도 여러 용어가 제대로 정립되거나 합의되지 않은 주제가 많다. 우선 집합과 모임이 다르고 함수와 사상이 다르고 인젝션과 모노모피즘이 다르고 서젝션과 에피모피즘이 다른 판이니 이런 분야의 전공서적은 번역에 앞서 국립국어원과 국가수리과학연구소, 대한수학회 정도의 권위를 갖춘 학술기구에서 규범을 정립할 필요가 있는데, 그쪽의 국어학과 수학 박사님들이 이런 대업을 해낼만큼 대수학과 한국어에 능통한지는 모르겠다.(...) 이런 말을 엄밀하게 구분하지 않고 쓰는 많은 교과서와 많은 저자들을 죄다 수알못으로 규정할 수도 없는 일이니 보통 난관이 아닐 수 없다. 이걸 영어 서적은 물론 프랑스어로 쓰인 니콜라 부르바키의 원론 시리즈나 독일어, 일본어 등 다른 언어로 된 고전 논문과 교과서들까지 분석해가며 번역을 해내는 용자가 나온다면, 번역이 맘에 안 든다고 까내리기에 앞서 부디 응원과 격려를 보내주자.

또한 학습시 주의해야 할 점이 있는데, 절대 지나치게 어려운 예시에 과몰입하면 안된다. product라는 성질만 해도 군처럼 직관적으로 어느정도 이해할 수 있는 구조가 있는가 하면 기저까지 꺼내들어야 할만큼 세심한 접근이 필요한 위상공간 같은 구조도 있는데[12] 이런 여러 universal property가 나타나는 모습을 일일이 이해하기는 어렵다. 범주론은 어디까지나 object보다 화살표를 중심으로 공부해야 하는 과목으로, 이제 막 벡터 공리 8가지를 겨우 암기하는 저학년생이 범주론 책을 펼쳐들었다가 격자점이나 대수, 미분다양체 같은 어려운 예시를 보고 그 하나하나가 무슨 의미를 갖는지 궁금증이 도져서 아직 외계어로만 느껴지는 고급 대수학이나 다변수해석학, 미분기하학 같은 고급과정 서적을 하나하나 뒤져보다가는 범주론을 오랜 시간이 걸려도 떼지 못하고 허덕이는 수가 있다. 이 때문에 범주론을 일찍 가르치자 주장하는 학자들은 초반부터 텐서 같은 지나치게 어려운 예시를 마구 꺼내드는 여러 교과서 저자들을 비판하기도 한다. 그래도 예시를 아예 안 쓸 수도 없으니 군, 환, 체, 벡터 공간 등의 '간단한' 대수적 구조를 야금야금 꺼내들다보면 결국 저학년들은 나가떨어지고 웬만한 학부 교과과정은 한번쯤 섭렵해본 학부 고학년~대학원 수준의 학생들만이 견뎌내게 된다.

4. 여담

알렉산더 그로텐디크는 니콜라 부르바키의 꼰대 선배들이 범주론의 접근법 및 언어를 원론 시리즈 저술에 있어 잘 써먹지 않으려 하자 아예 탈퇴해버리고 오랜 기간을 부르바키까로 지냈지만, 그로텐디크의 제자들 중 몇몇은 훗날 부르바키에 가입하기도 했다. 이처럼 범주론은 20세기 중반 즈음 부르바키를 난장판으로 만든 뜨거운 감자 중 하나였는데, 그로텐디크처럼 부르바키를 그만두고 안티로 돌아선 탈퇴자 중 대부분이 범주론에 대해 호의적인 입장이었다고 봐도 무방할 정도였다. 이를 보다못한 손더스 맥레인이 이런 논쟁에서 지나치게 까이던 범주론을 실드쳐보려고 미국에서 프랑스로 넘어와 정모에 참석해봤으나 험악한 논쟁에 끼어들기엔 프랑스어가 서툴러서(...) 별로 큰 역할을 하지는 못했다고.

영미권에서 범주론을 공부하는 사람들은 Category를 Cat이라고 줄여 부르는 경우가 많다. 인기 있는 교과서가 The Joy of Cats라는 이름을 달고 있을 정도. 물론 근본적으로는 필기에서 글자수를 아끼기 위함이지만, 화살표를 갖고 고양이를 그리며 놀거나 중성화수술(...) 짤방을 갖고 함자를 설명하는등 사실상 공식처럼 쓰이는 밈이다. 범주론 전공 대학원생이 졸업을 못하면 Crazy Cat Lady가 되는걸까

"수학자는 커피를 정리로 만드는 기계이다"(A mathematician is a machine for turning coffee into theorems)라는 명언을 뒤집어 "코수학자는 코정리를 피로 만드는 기계이다."(A comathematician is a device for turning cotheorems into ffee.)라는 드립이 있는데, 이는 카테고리의 화살표를 뒤집는 dual(쌍대)에서 나온 드립이다. 간략하게 말하면 coffee → theorems를 cotheorems → cocoffee로 바꿨는데, 쌍대를 두 번 취하면 자기 자신으로 되돌아온다는 성질을 이용해 cocoffee를 ffee로 만든 것. 컴공 버전으로 A der turns de into ffee 도 존재한다.(A co-coder turns co-code into co-coffee) 범주론을 공부하다보면 옛날엔 삼각함수에서나 보던 co가 오만군데 다 붙어있는 마경을 볼 수 있다.

5. 관련 문서

[1] 권(圈)론. 주로 일본에서 쓰이는 명칭이다. [2] 대수위상수학 같은 대학원에 준하는 과정까지 선결되어야 한다는 의견도 있으나, 선형대수, 미분기하, 현대대수, 위상수학 등 수학과의 여러 학부 코어과목을 섭렵해본 경험만으로도 충분하다거나 사실 그조차도 필요없이 집합론과 해석학과 선형대수학만으로도 충분하다는 의견도 있다. 범주론 학습에 앞서 진짜 필요한 것은 '선행지식'보다는 학습자가 이를 처음 접해도 낯설어하지 않는 '수학적 숙련도'인데, 정작 그 수학적 숙련도가 언제 얻어졌느냐는 학생은커녕 지도교수들마다도 천차만별이기 때문에 학부생 나부랭이(?) 수준에서는 함부로 일반화할 수 없다. 일단 많은 학생들은 학부 전공심화과정이나 대학원 석사과정에서 대수학 및 위상수학을 공부하다가 범주론을 처음 접하곤 한다. [3] Free object(group, associative algebra 등)들을 보자. lie algebra에서 나타나는 universal enveloping algebra라든가 위상수학에서 나타나는 universal covering space도 보자. [4] 영어판 위키백과에는 맥레인과 에일렌베르크 이전 다비드 힐베르트 시절부터 시작된 빌드업을 아우르는 범주론과 그 인접분야 중심의 연표를 만들어놓은 페이지가 있다. 그런데 그 실상을 보면, 그냥 현대수학사 연표라고 봐도 무방하다. 이 연표만 봐도 범주론이 현대수학의 필수불가결한 요소임을, 그리고 맥레인과 에일렌베르크의 아이디어를 이 지경으로까지 키워낸 빌런 혁명가의 영향력을 짐작할 수 있을 정도이다. [5] 집합론이 한계를 보여줬다는 말은, ZFC 공리계가 아닌 다른 공리계를 익혀 써먹는 것도 각오해야 한다는 뜻이다. 이런 생소함을 덜기 위해 사전에 ZFC와 더불어 익혀두면 좋은 공리계로는 폰 노이만-베르나이스-괴델(von Neumann-Bernays-Gödel)과 모스-켈리(Morse-Kelley) 공리계가 있는데, ZFC의 보존적 확장이라 할 수 있는 NBG의 증명가능성은 집합에 관한 명제에 있어 ZFC의 증명가능성과 동치이며, MK는 NBG와 비슷해보이나 재귀적 정의의 허용과 유한공리화의 불가능성 등 약간의 차이가 있는 공리계이다. 그리고 타르스키-그로텐디크(Tarski-Grothendieck) 공리계는 ZF에다 보다 강력한 공리를 추가함으로써 도달불능기수의 존재를 보장하며 범주론의 집합론적 근거까지 제공한다. 이런 대안적인 공리계는 카테고리 이론 학습에 있어 필수까지는 아니어도 미리 ZFC와 더불어 사전에 익혀두는 것이 교과서를 읽어나가는 데에 편리하다. [6] 이는 고도로 병렬화된 컴퓨터의 동시성 문제의 해결책으로 계산의 범주론적 모델인 함수형 프로그래밍이 주목받는 것과 연관이 깊다. [7] 절대 MacLane으로 쓰면 안된다. 아내가 남편의 원고 및 구술 타이프라이팅을 하면서 MacLane이라는 이름을 자꾸만 Mac Lane이라 띄어쓰는 버릇이 있었는데 남편이 아내의 버릇을 맘에 들어하여 아예 정식으로 이름을 바꿔버렸다고 한다.(...) 사랑꾼 [8] 국내에도 수리논리 등의 토픽을 중심으로 역서가 많이 출간되어 있으며, 지금은 절판되었지만 《수학을 요리하다》라는 요리책 컨셉으로 쓴 범주론 교양서가 번역되기도 했다. [9] 사실 부분순서와 전순서 같은 교과서적 설명에까지 인종주의에 관한 예시를 쓸 정도인 과감한 서술 때문에 특이해보일 뿐, 예로부터 순수수학자 중에는 힙스터 기질을 가진 이들이 상당히 많다. 딱히 힙스터들이 순수수학을 좋아해서 그런건 아니다. 사회생활 잘하는 갓반인 수학도들은 돈 되는 다른 분야로 도망갔기 때문에 남은 이들 중 힙스터와 오덕이 많아보이는 것이다. 범주론의 중요성을 현대수학의 기본기로까지 끌어올린 주역인 알렉산더 그로텐디크는 부모에게 물려받은 투쟁의 혼을 주체하지 못하고 수학마저 때려친 채 혁명에 몰두하는 광기어린 일생을 살았을 정도이다. 오늘날의 수학자들도 크게 다르지는 않다. [10] 이 책에서는 내내 C와 C++로 짠 코드가 복잡하다고 욕(...)을 거듭하며 반대급부로 Haskell 예제가 얼마나 아름답고 간결한지 극찬을 아끼지 않는데, 밀렙스키 본인이 마이크로소프트에서 일하며 C와 C++를 실무에 써먹었던 경력이 있어서 그렇다. 같은 것을 표현하는 Scala 예제조차도 간단하게 썼다는 것이 Haskell로 쓴 것보다 많은 줄을 차지하는 것을 보면 밀렙스키가 욕을 할만도 하다는 생각이 들 정도이다. [11] 21세기에 나오는 책들은 Scala, Haskell, Kotlin, JavaScript 등의 신세대 실무용 언어, 심지어 전지전능한 Python 등 함수형 언어 외의 예시까지 꺼내들기도 한다. 그러나 이 책에서는 코드보다는 LISP의 특징만 언급할 뿐 대부분의 분량은 이론에 전력투구하기 때문에 큰 문제가 될 요소는 아니다. [12] 예를 들어 위상동형사상, 미분동형사상은 한국어 번역어로는 그냥 동형사상의 하나로만 인식될 수 있지만, 영어로는 각각 homeomorphism, diffeomorphism으로 다른 용어를 쓰며, 군이나 환에서 비교적 간단히(?) 소개되는 isomorphism보다 더 복잡하고 기나긴 빌드업을 거쳐서야 정의된다. 각각 위상공간과 매끄러운 다양체를 대상으로 삼는 카테고리를 보면 이 카테고리가 갖는 사상 역시 연속함수, 매끄러운 사상 등 다소 까다로운 조건의 사상들이다.

분류