범주론

범주론(範疇論, 영어: category theory)은 수학적 대상과 그 사이의 사상을 범주라는 구조로 다루는 수학의 한 분야이다. 군과 군 준동형, 위상 공간과 연속함수처럼 여러 분야에 나타나는 대상과 사상을 함께 연구하며, 사상의 합성과 항등사상이 만족하는 공리를 바탕으로 이들의 공통된 성질을 설명한다.

범주 사이에서 대상과 사상을 대응시키는 함자, 함자 사이의 사상인 자연 변환이 기본 개념이다. 보편 성질, 수반 함자, 요네다 보조정리를 이용하면 대상의 구체적인 구성에 의존하지 않고 다른 대상과의 관계로 그 성질을 나타낼 수 있다. 범주론은 대수적 위상수학과 호몰로지 대수학에서 발전했으며, 대수기하학, 수리논리학, 프로그래밍 언어의 의미론 등에도 쓰인다.

기본 관점

군을 연구할 때에는 군의 원소와 연산뿐 아니라 군 사이의 준동형도 살펴본다. 두 군 $G,H$ 사이의 함수 $f:G\to H$가 준동형이라는 것은 모든 $x,y\in G$에 대해

$f(xy)=f(x)f(y)$

를 만족한다는 뜻이다. 준동형 두 개를 합성하면 다시 준동형이 되고, 각 군의 항등함수도 준동형이다. 위상 공간과 연속함수, 벡터 공간과 선형사상에서도 합성과 항등함수에 관한 같은 성질이 성립한다.

범주의 정의는 이러한 공통점을 추려 낸 것이다. 개별 구조를 대상이라 하고, 그 사이에서 허용하는 변환을 사상이라 한다. 범주를 정할 때에는 대상뿐 아니라 어떤 사상을 허용하는지도 정해야 한다. 예를 들어 같은 위상 공간들을 대상으로 하더라도 연속함수 전체를 사상으로 하는 범주와 위상동형사상만을 사상으로 하는 범주는 다르다. 추상적인 범주에서는 대상이 집합일 필요도, 사상이 함수일 필요도 없다.

범주의 정의와 예

 이 부분의 본문은 범주 (수학)입니다.

정의

범주 ${\mathcal {C}}$는 대상들의 모임과 사상들의 모임, 사상의 합성으로 이루어진다. 각 사상에는 정의역과 공역이 정해져 있으며, 대상 $A$에서 $B$로 가는 사상을 $f:A\to B$로 쓴다. 이러한 사상 전체를 $\operatorname {Hom} _{\mathcal {C}}(A,B)$로 나타낸다. $f:A\to B$, $g:B\to C$처럼 앞 사상의 공역과 뒤 사상의 정의역이 같으면 합성 $g\circ f:A\to C$가 정의된다. 합성은 다음 공리를 만족한다.

• 결합법칙: 합성할 수 있는 세 사상 $f,g,h$에 대해 $h\circ (g\circ f)=(h\circ g)\circ f$이다.
• 항등사상: 각 대상 $A$에는 사상 $1_{A}:A\to A$가 있어, 모든 $f:A\to B$에 대해 $1_{B}\circ f=f=f\circ 1_{A}$가 성립한다.

범주에서 사상들이 만족하는 등식은 흔히 가환 그림으로 나타낸다. 대상들을 꼭짓점으로, 사상들을 화살표로 그렸을 때 같은 출발점과 도착점을 잇는 경로들의 합성이 같으면 그림이 가환한다고 한다. 예를 들어 $A\xrightarrow {f} B\xrightarrow {g} C$와 $A\xrightarrow {h} C$로 이루어진 삼각형의 가환성은 $h=g\circ f$라는 등식이다.

대표적인 범주

다음 표의 범주에서 사상의 합성은 함수의 합성이며, 항등사상은 항등함수이다.

수학적 구조로 이루어진 범주의 예

범주	대상	사상
$\mathbf {Set}$	집합	함수
$\mathbf {Grp}$	군	군 준동형
$\mathbf {Ab}$	아벨 군	군 준동형
$\mathbf {Vect} _{k}$	체 $k$ 위의 벡터 공간	선형사상
$R{\text{-}}\mathbf {Mod}$	환 $R$ 위의 왼쪽 가군	가군 준동형
$\mathbf {Top}$	위상 공간	연속함수

부분 순서 집합 $(P,\leq )$에서도 범주를 얻는다. 원소들을 대상으로 하고, $x\leq y$일 때에만 유일한 사상 $x\to y$가 있다고 정한다. 순서의 반사성은 항등사상에, 추이성은 사상의 합성에 해당한다.

모노이드는 대상이 하나인 범주로 볼 수 있다. 모노이드의 원소가 그 대상에서 자신으로 가는 사상이며, 곱셈과 단위원은 각각 합성과 항등사상이다. 모노이드가 군이면 모든 사상에 역이 존재한다. 이때 한 군의 원소들을 사상으로 보는 범주와, 여러 군을 대상으로 하는 $\mathbf {Grp}$는 서로 다른 범주이다.

동형사상과 단사·전사 사상

 이 부분의 본문은 동형 사상, 단사 사상 및 전사 사상입니다.

사상 $f:A\to B$에 대해 $g\circ f=1_{A}$, $f\circ g=1_{B}$를 만족하는 사상 $g:B\to A$가 있으면 $f$를 동형사상이라 한다. 이때 $A$와 $B$는 동형이며 $A\cong B$로 쓴다. 집합의 범주에서 동형사상은 전단사함수이고, 위상 공간의 범주에서는 위상동형사상이다.

단사 사상과 전사 사상은 합성에서의 소거 조건으로 정의한다. 사상 $f:A\to B$가 단사라는 것은, 모든 대상 $X$와 사상 $u,v:X\to A$에 대해 $f\circ u=f\circ v$이면 $u=v$라는 뜻이다. 전사라는 것은 모든 $u,v:B\to X$에 대해 $u\circ f=v\circ f$이면 $u=v$라는 뜻이다. $\mathbf {Set}$에서는 각각 단사함수, 전사함수와 일치한다.

일반적인 범주에서는 단사이면서 전사인 사상이 동형사상이 아닐 수 있다. 예를 들어 모노이드와 모노이드 준동형의 범주에서, 덧셈에 관한 포함 사상 $\mathbb {N} \hookrightarrow \mathbb {Z}$는 단사이면서 전사이다. 여기서 $\mathbb {N} =\{0,1,2,\ldots \}$이다. $\mathbb {Z}$에서 다른 모노이드로 가는 준동형은 정수 $1$의 값으로 결정되므로 전사 사상의 소거 조건을 만족하지만, 이 포함 사상에는 역이 없다.

범주의 크기

 이 부분의 본문은 작은 범주입니다.

대상 전체와 사상 전체가 각각 집합을 이루면 작은 범주라 한다. 임의의 두 대상 $A,B$에 대해 사상들의 모임 $\operatorname {Hom} _{\mathcal {C}}(A,B)$이 집합이면 국소적으로 작은 범주라 한다. 집합 전체를 대상으로 하는 $\mathbf {Set}$은 국소적으로 작지만 작은 범주는 아니다. 모든 집합의 모임을 다시 하나의 집합으로 취급할 수 없기 때문이다.

이 구별은 범주들을 다시 하나의 범주로 모을 때 필요하다. 예를 들어 작은 범주를 대상으로, 함자를 사상으로 하는 범주 $\mathbf {Cat}$을 고려할 수 있다. 그러나 아무런 크기 제한 없이 ‘모든 범주의 범주’를 같은 방식으로 취급할 수는 없다.

함자와 자연 변환

함자

 이 부분의 본문은 함자 (수학)입니다.

함자 $F:{\mathcal {C}}\to {\mathcal {D}}$는 각 대상 $A$를 대상 $F(A)$에, 각 사상 $f:A\to B$를 사상 $F(f):F(A)\to F(B)$에 대응시킨다. 이 대응은 합성과 항등사상을 보존해야 한다.

$F(g\circ f)=F(g)\circ F(f),\qquad F(1_{A})=1_{F(A)}$

함자도 합성할 수 있으며, 각 범주에는 대상과 사상을 그대로 두는 항등 함자 $1_{\mathcal {C}}$가 있다.

군을 그 바탕 집합에, 군 준동형을 같은 함수에 대응시키면 $U:\mathbf {Grp} \to \mathbf {Set}$이라는 함자를 얻는다. 이처럼 주어진 구조의 일부를 잊는 대응을 망각 함자(영어: forgetful functor)라고 한다. 군의 연산을 생략해도 함수의 합성과 항등함수는 유지되므로 함자의 조건을 만족한다.

특이 호몰로지는 종류가 다른 구조를 연결하는 함자의 예이다. 음이 아닌 정수 $n$을 고정하면, 각 위상 공간 $X$에 호몰로지 군 $H_{n}(X;\mathbb {Z} )$를, 각 연속함수 $f:X\to Y$에 군 준동형 $H_{n}(f)$를 대응시킨다. 연속함수를 합성한 뒤 호몰로지 사상을 구하는 것과, 각각의 호몰로지 사상을 먼저 구해 합성하는 것은 같은 결과를 준다.

쌍대성과 반변 함자

범주 ${\mathcal {C}}$의 반대 범주 ${\mathcal {C}}^{\mathrm {op} }$는 대상은 그대로 두고 사상의 방향과 합성 순서를 뒤집어 얻는다. 따라서

$\operatorname {Hom} _{{\mathcal {C}}^{\mathrm {op} }}(A,B)=\operatorname {Hom} _{\mathcal {C}}(B,A)$

이다. 범주의 공리만으로 증명한 명제에서 모든 화살표를 뒤집으면 다시 유효한 명제를 얻는다. 이를 쌍대성 원리라 하며, 단사 사상과 전사 사상이 서로 쌍대인 개념의 예이다.

반변 함자는 사상 $f:A\to B$를 반대 방향의 사상 $F(f):F(B)\to F(A)$에 대응시킨다. 이 대응은 항등사상을 보존하고 합성 순서를 뒤집으며, ${\mathcal {C}}^{\mathrm {op} }\to {\mathcal {D}}$인 함자로 볼 수 있다. 예를 들어 쌍대 공간을 취하는 대응은 선형사상 $f:V\to W$를 $f^{*}:W^{*}\to V^{*}$로 보내며, $f^{*}(\varphi )=\varphi \circ f$이다. 이에 비해 방향을 유지하는 함자는 공변 함자라고 한다.

자연 변환

 이 부분의 본문은 자연 변환입니다.

자연 변환의 자연성 조건. 위쪽과 오른쪽을 따라 합성한 사상은 왼쪽과 아래쪽을 따라 합성한 사상과 같다.

두 함자 $F,G:{\mathcal {C}}\to {\mathcal {D}}$ 사이의 자연 변환 $\eta :F\Rightarrow G$는 각 대상 $A$에 사상 $\eta _{A}:F(A)\to G(A)$를 대응시키는 것으로, 모든 $f:A\to B$에 대해

$G(f)\circ \eta _{A}=\eta _{B}\circ F(f)$

를 만족해야 한다. 이는 $F(A)$에서 $G(B)$로 가는 그림의 두 경로가 같은 사상을 나타낸다는 뜻이다. 각 성분 $\eta _{A}$가 동형사상이면 자연 동형이라 한다.

벡터 공간에서 이중쌍대 공간으로 가는 표준 사상들은 자연 변환을 이룬다. 이 사상들은 기저를 선택하지 않고 정의할 수 있다. $V^{*}=\operatorname {Hom} _{k}(V,k)$라 할 때

$\eta _{V}:V\longrightarrow V^{**},\qquad \eta _{V}(v)(\varphi )=\varphi (v)$

로 정의한다. 모든 선형사상 $f:V\to W$에 대해 $f^{**}\circ \eta _{V}=\eta _{W}\circ f$이므로, $\eta$는 항등 함자에서 이중쌍대 함자로 가는 자연 변환이다. 유한차원 벡터공간으로 제한하면 각 $\eta _{V}$가 동형이어서 자연 동형이 된다.

자연 변환은 성분별로 합성한다. 따라서 작은 범주 ${\mathcal {C}}$에서 국소적으로 작은 범주 ${\mathcal {D}}$로 가는 함자들을 대상으로, 자연 변환들을 사상으로 하는 함자 범주(영어: functor category) $[{\mathcal {C}},{\mathcal {D}}]$를 얻는다.

범주의 동치

 이 부분의 본문은 범주의 동치입니다.

범주 ${\mathcal {C}},{\mathcal {D}}$ 사이에 함자 $F:{\mathcal {C}}\to {\mathcal {D}}$, $G:{\mathcal {D}}\to {\mathcal {C}}$가 있고

$G\circ F\cong 1_{\mathcal {C}},\qquad F\circ G\cong 1_{\mathcal {D}}$

인 자연 동형이 존재하면 두 범주는 동치라고 한다. 합성이 항등 함자와 정확히 같을 필요는 없다.

함자 $F$가 각 사상 집합에 유도하는 함수가 모두 단사이면 충실, 모두 전사이면 충만하다고 한다. ${\mathcal {D}}$의 모든 대상이 어떤 $F(A)$와 동형이면 본질적으로 전사라고 한다. 범주의 동치를 이루는 함자는 이 세 조건을 만족한다. 작은 범주들 사이의 함자에 대해서는 선택 공리를 가정할 때 그 역도 성립한다. 행렬과 선형 변환의 관계가 한 예이다. 음이 아닌 정수를 대상으로 하고, $n$에서 $m$으로 가는 사상을 체 $k$ 위의 $m\times n$ 행렬로 정하면 행렬곱을 합성으로 하는 범주를 얻는다. $n$을 $k^{n}$에, 행렬을 그 행렬이 정의하는 선형사상에 대응시키는 함자는 유한차원 벡터공간의 범주와 동치를 이룬다. 모든 유한차원 벡터공간은 어떤 $k^{n}$과 동형이고, 표준 좌표공간 사이의 선형사상은 행렬로 유일하게 표현되기 때문이다.

보편 성질과 극한

 이 부분의 본문은 보편 성질 및 극한 (범주론)입니다.

곱의 보편 성질

곱의 보편 성질. 두 인자로 가는 사상들은 곱으로 가는 유일한 사상을 통해 분해된다.

두 집합 $A,B$의 곱집합에는 좌표를 취하는 함수 $p_{A}:A\times B\to A$, $p_{B}:A\times B\to B$가 있다. 같은 집합 $X$에서 출발하는 함수 $f:X\to A$, $g:X\to B$가 주어지면, 두 함수의 값을 좌표로 갖는 함수는

$\langle f,g\rangle :X\longrightarrow A\times B,\qquad x\longmapsto (f(x),g(x))$

이다. 이 함수는 $p_{A}\circ \langle f,g\rangle =f$, $p_{B}\circ \langle f,g\rangle =g$를 만족하며, 이 조건을 만족하는 함수는 유일하다.

일반적인 범주에서도 같은 조건으로 곱을 정의한다. 곱은 대상 $P$와 두 사상 $p_{A}:P\to A$, $p_{B}:P\to B$로 이루어지며, 임의의 $f:X\to A$, $g:X\to B$에 대해 $p_{A}\circ u=f$, $p_{B}\circ u=g$인 사상 $u:X\to P$가 유일하게 존재해야 한다. 이처럼 사상의 존재와 유일성으로 구성을 규정하는 조건을 보편 성질이라 한다. 같은 두 대상의 곱 사이에는 각각의 사영과 양립하는 동형사상이 유일하게 존재한다.

보편 성질의 간단한 예로 시작 대상과 끝 대상이 있다. 시작 대상에서는 모든 대상으로 가는 사상이 정확히 하나씩 존재하고, 끝 대상으로는 모든 대상에서 오는 사상이 정확히 하나씩 존재한다. $\mathbf {Set}$에서 공집합은 시작 대상이고, 원소가 하나인 집합은 끝 대상이다. 이 두 개념은 사상의 방향을 뒤집으면 서로 바뀐다.

극한과 쌍대극한

극한은 곱을 비롯한 여러 보편적 구성을 일반화한 개념이다. 작은 범주 $J$와 함자 $D:J\to {\mathcal {C}}$가 주어졌다고 하자. 여기서 $D$를 도식이라 한다. 대상 $L$에서 각 $D(j)$로 가는 사상 $p_{j}$가 모든 $a:j\to k$에 대해

$D(a)\circ p_{j}=p_{k}$

를 만족하면 $(L,(p_{j}))$를 이 도식 위의 원뿔이라 한다. 이 원뿔이 극한이라는 것은, 다른 모든 원뿔 $(X,(q_{j}))$에 대해 $p_{j}\circ u=q_{j}$인 사상 $u:X\to L$이 유일하게 존재한다는 뜻이다. 화살표의 방향을 뒤집으면 쌍대극한을 얻는다. 이때는 사상 $i_{j}:D(j)\to Q$가 주어지고, 모든 $a:j\to k$에 대해 $i_{k}\circ D(a)=i_{j}$를 만족해야 한다. 같은 조건을 만족하는 다른 사상족은 $Q$에서 나가는 유일한 사상을 통해 분해된다. 극한과 쌍대극한은 항상 존재하는 것은 아니다.

도식의 모양에 따른 극한과 쌍대극한

도식	극한	화살표를 뒤집은 도식의 쌍대극한
대상이 없는 빈 도식	끝 대상	시작 대상
항등사상 외의 사상이 없는 두 대상	곱	쌍대곱
$A\to C\leftarrow B$	당김	밂
같은 두 대상을 잇는 평행 사상 $A\rightrightarrows B$	동등자	쌍대동등자

집합의 범주에서는 이러한 구성을 원소로도 설명할 수 있다. 함수 $f:A\to C$, $g:B\to C$의 당김은

$A\times _{C}B=\{(a,b)\in A\times B:f(a)=g(b)\}$

이다. 반대로 $f:C\to A$, $g:C\to B$의 밂은 서로소 합집합 $A\sqcup B$에서 각 $c\in C$에 대한 $f(c)$와 $g(c)$를 같은 원소로 식별한 몫집합이다. 일반적인 작은 도식의 극한도 곱집합에서 호환 조건을 만족하는 원소들을 골라 얻으며, 쌍대극한은 서로소 합집합에서 도식의 사상들이 지정하는 원소들을 식별하여 얻는다.

수반 함자

 이 부분의 본문은 수반 함자입니다.

국소적으로 작은 두 범주 사이의 함자 $F:{\mathcal {C}}\to {\mathcal {D}}$, $G:{\mathcal {D}}\to {\mathcal {C}}$에 대해, 모든 대상 $X,Y$에서 사상 집합 사이의 전단사

$\operatorname {Hom} _{\mathcal {D}}(F(X),Y)\cong \operatorname {Hom} _{\mathcal {C}}(X,G(Y))$

가 주어지고 이 대응이 $X,Y$ 모두에 대해 자연스러우면 수반 관계 $F\dashv G$가 성립한다고 한다. $F$는 $G$의 왼쪽 수반, $G$는 $F$의 오른쪽 수반이다. 자연성은 $X$나 $Y$ 사이의 사상으로 합성하는 연산과 위 대응이 양립한다는 뜻이다.

자유군과 망각 함자가 대표적인 예이다. 집합 $S$로 생성되는 자유군을 $F(S)$라 하고, 군 $H$의 바탕 집합을 $U(H)$라 하면

$\operatorname {Hom} _{\mathbf {Grp} }(F(S),H)\cong \operatorname {Hom} _{\mathbf {Set} }(S,U(H))$

이다. 생성원 각각의 값을 임의로 정하면, 그 대응을 군 준동형 $F(S)\to H$로 유일하게 확장할 수 있기 때문이다. 따라서 자유군 함자는 망각 함자의 왼쪽 수반이다. 이 관계는 두 함자가 서로 역이라는 뜻이 아니다. 군의 연산을 잊고 그 원소들로 자유군을 만들면 일반적으로 원래 군과 다른 군을 얻는다.

수반 관계에는 단위 $\eta :1_{\mathcal {C}}\Rightarrow GF$와 쌍대단위 $\varepsilon :FG\Rightarrow 1_{\mathcal {D}}$라는 두 자연 변환이 따른다. 이들은 위 전단사에서 항등사상에 대응하는 사상들로 이루어지며,

$\varepsilon _{F(X)}\circ F(\eta _{X})=1_{F(X)},\qquad G(\varepsilon _{Y})\circ \eta _{G(Y)}=1_{G(Y)}$

를 만족한다. 자유군의 예에서 단위는 집합의 원소를 자유군의 생성원으로 보내는 함수이고, 쌍대단위는 군의 원소들을 기호로 하여 만든 단어를 그 군에서 곱해 값을 구하는 준동형이다.

왼쪽 수반은 존재하는 쌍대극한을 보존하고, 오른쪽 수반은 존재하는 극한을 보존한다. 즉, 극한을 이루는 대상과 사상들에 오른쪽 수반을 적용하면 그 결과도 극한을 이루며, 왼쪽 수반과 쌍대극한에도 같은 설명이 성립한다. 예를 들어 군에서 집합으로 가는 망각 함자는 오른쪽 수반이므로, 군의 곱의 바탕 집합은 각 군의 바탕 집합의 곱과 정준적으로 일대일 대응한다.

표현 가능 함자와 요네다 보조정리

 이 부분의 본문은 표현 가능 함자 및 요네다 보조정리입니다.

작은 범주 ${\mathcal {C}}$의 대상 $A$를 고정하면, 각 대상 $X$에 $A$로 가는 사상들의 집합을 대응시키는 함자

$h_{A}=\operatorname {Hom} _{\mathcal {C}}(-,A):{\mathcal {C}}^{\mathrm {op} }\longrightarrow \mathbf {Set}$

를 얻는다. 사상 $u:X\to Y$는 $f:Y\to A$를 $f\circ u:X\to A$로 보내는 함수에 대응한다. 함자 $P:{\mathcal {C}}^{\mathrm {op} }\to \mathbf {Set}$가 어떤 $h_{A}$와 자연 동형이면 $P$를 표현 가능하다고 하고, $A$를 그 표현 대상이라 한다.

요네다 보조정리는 $h_{A}$에서 $P$로 가는 자연 변환 전체가 $P(A)$의 원소들과 다음과 같이 일대일 대응한다는 정리이다.

$\operatorname {Nat} (h_{A},P)\cong P(A),\qquad \eta \longmapsto \eta _{A}(1_{A})$

반대로 원소 $a\in P(A)$가 주어지면, 각 $f:X\to A$에 대해 $\eta _{X}(f)=P(f)(a)$로 놓아 자연 변환을 복원한다. 여러 대상에 걸쳐 주어진 자연 변환이 한 대상에서의 원소 하나로 결정되는 것이다.

특히 $P=h_{B}$로 놓으면

$\operatorname {Nat} (h_{A},h_{B})\cong \operatorname {Hom} _{\mathcal {C}}(A,B)$

를 얻는다. 따라서 $A\mapsto h_{A}$라는 대응은 충실충만한 함자이며, 이를 요네다 매장이라 한다. 특히 $h_{A}$와 $h_{B}$가 자연 동형이면 $A$와 $B$도 동형이다.

보편 성질로 정의한 대상은 표현 가능 함자의 예를 준다. 곱 $A\times B$의 보편 성질은

$\operatorname {Hom} _{\mathcal {C}}(X,A\times B)\cong \operatorname {Hom} _{\mathcal {C}}(X,A)\times \operatorname {Hom} _{\mathcal {C}}(X,B)$

라는 자연 동형으로 나타낼 수 있다. 즉 곱은 $X$에서 두 인자로 가는 사상 쌍을 대응시키는 함자의 표현 대상이다.

범주 개념의 확장

모노이드 범주와 풍성한 범주

 이 부분의 본문은 모노이드 범주 및 풍성한 범주입니다.

모노이드 범주에는 두 대상을 결합하는 이항 함자 ${\displaystyle \otimes$ :{\mathcal {C}}\times {\mathcal {C}}\to {\mathcal {C}}} 와 단위 대상 $I$가 주어진다. 결합법칙과 단위법칙은 지정된 자연 동형으로 표현되며, 이 동형들은 오각형·삼각형 가환 조건을 만족해야 한다. 예를 들어 벡터 공간의 텐서곱은

$(U\otimes V)\otimes W\cong U\otimes (V\otimes W),\qquad k\otimes V\cong V\cong V\otimes k$

라는 자연 동형을 갖는다. 곱집합과 한 원소 집합을 사용하는 $\mathbf {Set}$도 모노이드 범주이다.

풍성한 범주에서는 사상들의 모임 자체에 구조를 부여한다. 모노이드 범주 ${\mathcal {V}}$에 대해, 각 두 대상 $A,B$ 사이의 사상들을 ${\mathcal {V}}$의 대상 ${\mathcal {C}}(A,B)$로 나타내고 합성을

${\mathcal {C}}(B,C)\otimes {\mathcal {C}}(A,B)\longrightarrow {\mathcal {C}}(A,C)$

라는 ${\mathcal {V}}$의 사상으로 나타낸다. 항등사상도 이 구조에 맞게 주어지며, 합성은 결합법칙과 단위법칙을 만족해야 한다. 예를 들어 아벨 군의 범주 위에 풍성한 범주에서는 각 사상 집합이 아벨 군이고 합성은 두 변수 각각에 대해 덧셈을 보존한다. 가군 사이의 준동형들을 점별로 더할 수 있는 것이 한 예이다.

고차 범주

고차 범주(영어: higher category)는 대상과 사상에 더하여 사상 사이의 사상, 그 사이의 사상 등을 다룬다. 기본적인 예는 작은 범주, 함자, 자연 변환을 각각 대상·1차 사상·2차 사상으로 갖는 구조이다. 자연 변환을 합성하는 방법에는 성분별 합성과 함자의 합성에 대응하는 합성이 있으며, 이 두 합성은 서로 양립한다.

위상 공간의 점을 대상, 경로를 사상으로 생각하면 경로 사이의 끝점을 고정하는 호모토피는 2차 사상에 해당한다. 호모토피 사이의 호모토피도 차례로 고려할 수 있다. 이러한 예에서는 합성의 결합법칙이 엄밀한 등식 대신 고차 사상을 통해 성립하도록 하는 약한 고차 범주가 나타난다. 고차 사상들 역시 합성과 양립하는 호환 조건을 만족해야 한다.

응용

대수적 위상수학과 대수기하학

 대수적 위상수학, 호몰로지 대수학 및 층 코호몰로지 문서를 참고하십시오.

대수적 위상수학에서는 공간의 문제를 군이나 가군의 문제로 옮겨 연구한다. 호몰로지 함자는 호모토픽인 연속함수들에 같은 군 준동형을 대응시킨다. 따라서 호모토피 동치인 공간들은 서로 동형인 호몰로지 군을 갖는다. 이를 이용하면 호몰로지 군이 다른 두 공간이 호모토피 동치일 수 없음을 알 수 있다.

호몰로지 대수학에서는 가군의 범주와 아벨 군 값을 갖는 층의 범주를 아벨 범주의 공리로 함께 다룬다. 핵·여핵·완전열을 범주 안에서 정의하고, 유도 함자로 Ext나 층 코호몰로지 같은 불변량을 구성한다. 이로써 가군과 층의 호몰로지 계산에 공통된 정리를 적용할 수 있다. 대수기하학에서는 이러한 방법으로 층의 국소적인 정보와 전역적인 성질을 연구한다.

논리와 수학기초론

 토포스 및 수학기초론 문서를 참고하십시오.

범주론에서는 집합과 함수의 구조를 공리화하여 수학기초론을 전개할 수 있다. 집합의 범주에서 원소가 하나인 집합을 $1$이라 하면, 집합 $A$의 원소 하나를 고르는 것은 함수 $1\to A$를 고르는 것과 같다. 이 관점에서는 원소, 곱, 함수집합 등의 개념을 사상과 그 보편 성질로 기술한다. 이러한 방식으로 집합의 범주에 대한 일차 공리계가 제시되었다.

토포스는 집합과 함수에서 성립하는 여러 구성을 일반화한 범주이다. 집합의 부분집합 $A\subseteq X$는 특성 함수 $\chi _{A}:X\to \{0,1\}$로 나타낼 수 있다. 토포스에서도 대상 $X$의 부분대상을 사상 $X\to \Omega$로 표현한다. 여기서 $\Omega$는 진릿값을 나타내는 대상이며, 이를 바탕으로 논리 연산과 양화사를 해석한다. 일반적인 토포스의 내부 논리는 직관 논리이며, 배중률이 항상 성립하는 것은 아니다.

컴퓨터 과학

 데카르트 닫힌 범주 및 모나드 (범주론) 문서를 참고하십시오.

프로그래밍 언어의 의미론에서는 자료형을 대상, 프로그램의 의미를 사상으로 나타낼 수 있다. 특히 데카르트 닫힌 범주는 단순형 람다 계산을 해석하는 데 쓰인다. 곱형은 범주의 곱에, 함수형은 지수 대상에 대응하며, 항의 대입은 사상의 합성으로 해석한다. 이로써 프로그램의 식과 변환 규칙을 범주 안의 등식으로 다룰 수 있다.

예외나 상태 변화를 포함하는 계산의 의미론에는 모나드가 쓰인다. 모나드를 이용하는 의미론에서는 값의 형 $B$와 계산을 나타내는 대상 $T(B)$를 구별하고, 계산을 $A\to T(B)$라는 사상으로 나타낸다. 예를 들어 예외들의 집합을 $E$라 하면 $T(B)=B\sqcup E$는 정상적인 반환값 또는 예외를 나타낸다. 두 계산을 이어 실행할 때 첫 계산이 정상값을 내면 다음 계산에 전달하고, 예외를 내면 그 예외를 전파한다. 이러한 계산의 합성과 항등성을 모나드의 연산과 법칙으로 다룬다.

역사

사무엘 에일렌베르크와 손더스 매클레인은 1945년 논문 〈General theory of natural equivalences〉에서 범주, 함자, 자연 변환을 체계적으로 정의했다. 연구의 출발점은 대수학과 대수적 위상수학에 나타나는 여러 동형이 ‘자연스럽다’는 말의 뜻을 명확히 하는 것이었다. 대상을 바꾸는 사상들과 양립하는 대응을 정의하려면 자연 변환이 필요했고, 이를 서술하기 위해 범주와 함자를 함께 도입했다.

1950년대에는 호몰로지 대수학의 발전과 함께 범주론의 적용 범위가 넓어졌다. 알렉산더 그로텐디크는 1957년 논문에서 가군과 층의 코호몰로지를 아벨 범주에서 함께 다루었다. 다니얼 칸은 1958년 논문에서 수반 함자의 일반 개념을 제시하고, 텐서곱과 Hom의 관계 및 극한 구성을 수반 관계로 설명했다.

프랜시스 윌리엄 로비어는 1964년 집합의 범주를 공리화하여 범주론을 수학기초론에 적용했다. 이후 층과 토포스의 이론은 논리학과 연결되었다. 로비어는 1970년 국제수학자대회 발표에서 마일스 티어니(Myles Tierney)와의 연구를 소개하며, 토포스 안에서 논리 연산과 양화사를 해석하는 관점을 제시했다.

컴퓨터 과학에서는 자료형과 람다 계산의 의미론에 범주적 방법이 사용되었으며, 1991년 에우제니오 모지(Eugenio Moggi)는 모나드로 여러 종류의 계산을 해석하는 이론을 제시했다.

같이 보기

• 구체적 범주
• 아벨 범주
• 유도 범주
• 오퍼라드 이론

참고 문헌

교과서와 강의록

• Awodey, Steven; Bauer, Andrej (2009년 6월 1일). “Lecture Notes: Introduction to Categorical Logic” (PDF) (영어). 《Carnegie Mellon University》. 2026년 9월 29일에 확인함. 
• Barr, Michael; Wells, Charles. 《Category Theory for Computing Science》 (PDF) 3판 (영어). 
• Leinster, Tom (2014). 《Basic Category Theory》 (PDF) (영어). 2025년 수정 공개본. Cambridge Studies in Advanced Mathematics 143. Cambridge University Press. 
• Riehl, Emily. 《Category Theory in Context》 (PDF) 2판 (영어). 저자 공개 원고. 2026년 9월 29일에 확인함. 
• Pitts, Andrew. “Category Theory: Lecture Notes, 2023–24” (PDF) (영어). 《University of Cambridge》. 2026년 9월 29일에 확인함. 
• Gautam, Sachin (2021년 1월 13일). “Algebra II: Lecture 1” (PDF) (영어). 《Ohio State University》. 2026년 9월 29일에 확인함. 
• Gautam, Sachin (2021년 1월 15일). “Algebra II: Lecture 2” (PDF) (영어). 《Ohio State University》. 2026년 9월 29일에 확인함. 
• Gautam, Sachin (2021년 1월 20일). “Algebra II: Lecture 3” (PDF) (영어). 《Ohio State University》. 2026년 9월 29일에 확인함. 
• Hatcher, Allen (2002). 《Algebraic Topology》 (PDF) (영어). Cambridge University Press. 
• Kelly, G. M. (2005). “Basic Concepts of Enriched Category Theory” (PDF) (영어). 《Reprints in Theory and Applications of Categories》 10: 1–136. 
• Leinster, Tom (2004). 《Higher Operads, Higher Categories》 (PDF) (영어). 2003년 공개 원고. London Mathematical Society Lecture Note Series 298. Cambridge University Press. 
• The Stacks Project Authors. “The Stacks Project” (영어). 2026년 9월 29일에 확인함. 

원논문

• Eilenberg, Samuel; Mac Lane, Saunders (1945). “General Theory of Natural Equivalences” (PDF) (영어). 《Transactions of the American Mathematical Society》 58 (2): 231–294. doi:10.1090/S0002-9947-1945-0013131-6. 
• Grothendieck, Alexandre (1957). “Sur quelques points d’algèbre homologique” (PDF) (프랑스어). 《Tohoku Mathematical Journal, Second Series》 9 (2): 119–183. doi:10.2748/tmj/1178244839. 
• Kan, Daniel M. (1958). “Adjoint Functors” (PDF) (영어). 《Transactions of the American Mathematical Society》 87 (2): 294–329. doi:10.1090/S0002-9947-1958-0131451-0. 
• Lawvere, F. William (1964). “An Elementary Theory of the Category of Sets” (PDF) (영어). 《Proceedings of the National Academy of Sciences》 52 (6): 1506–1511. doi:10.1073/pnas.52.6.1506. 
• Lawvere, F. W. (1971). 〈Quantifiers and Sheaves〉 (PDF) (영어). 《Actes du Congrès international des mathématiciens, Nice, 1970》 1. Gauthier-Villars. 329–334쪽. 
• Moggi, Eugenio (1991). “Notions of Computation and Monads” (PDF) (영어). 《Information and Computation》 93 (1): 55–92. doi:10.1016/0890-5401(91)90052-4. 

외부 링크

• The Stacks Project: Categories — 범주론의 정의와 정리