數理邏輯發展中形成的一個重要的分支，是現代各數學分支的共同基礎。集合論是在19世紀70年代由G.F.P.康托爾創立的。它從集合的直觀概念出發研究集合上的運算、順序，特別是各種超窮數的性質，並用集合定義各種數學物件，使得全部數學都可以在該理論範圍內展開。康托爾在建立集合論時沒有使用公理化和形式化的方法，後來就將這種沒有使用公理化和形式化方法的集合論稱為樸素集合論。集合論的進一步發展是公理化集合論，它除瞭用公理化和形式化的方法處理樸素集合論的內容之外，更重要的的是研究集合論形式公理系統的元數學性質──集合論的模型、各公理之間的關系、各系統之間的關系、各種不可判定語句，以及集合論研究過程中所提出的種種新方法和新問題。
公理系統 集合論的公理系統有很多，最常用的是由德國數學傢E.策爾梅洛提出，後經A.A.弗蘭克爾和J.von 諾依曼等人改進的一組公理，稱為ZF系統。ZF系統的語言是帶等詞的一階語言，唯一的非邏輯符號是二元謂詞符號∈。它的非邏輯公理是：①外延性公理。該認為，如果兩個集合的元素完全相同，它們就是同一個集合。其公式為∀x∀y[∀u(u∈x↔u∈y)→x=y]。②空集公理，存在一個沒有元素的集合。其公式為 ヨx∀y[y∉x]，記為 ø。③對集公理，任給集合x、y，存在一個恰以x，y為元素的集合。其公式為∀x∀yヨz∀u[u∈z↔(u=x∨u=y)]。該公理所確定的集合是唯一的，記作 {x，y}，{x，x}簡作{x}。④子集公理模式，也稱分離公理模式。任給集合x和含自由變元u的公式ψ(u)，存在一個由x中那些滿足ψ的u組成的集合，其公式為∀xヨy∀u[u∈y↔u∈x∧ψ(u)]。⑤並集公理，任給集合x，存在一個恰由x的元素的元素組成的集合，記作∪x。其公式為∀xヨy∀u[u∈y↔ヨυ(υ∈x∧u∈υ)]。⑥冪集公理，任給集合x，存在一個恰由x的全體子集組成的集合，記作∮(x)。公式為∀xヨy∀u[u∈y↔u⊆x]。⑦無窮性公理，存在一個無窮集合，其公式為ヨx[ψ∈x∧∀y(y∈x→y∪{y}∈x]。⑧替換公理模式（見子集公理模式）。⑨正則公理，即對每個非空集合x，存在y∈x使y與x沒有公共元素。其公式為 ∀x[x≠ψ→ヨy(y∈x∧y∩x=ψ)]。由於有子集公理模式和替換公理模式，所以ZF系統是無窮多條公理，不能被有窮公理化。如上9條公理不彼此獨立，隻是為瞭研究各種弱系統的方便，才把它們作為公理列出。ZF系統和選擇公理AC組成的系統記作ZFC（見選擇公理）。
另一個比較常見的集合論公理系統是由諾依曼提出，並由P.貝奈斯完成的。這個系統由於K.哥德爾的使用而流傳開來，所以被稱作GB系統。該系統也是一階理論，它隻比ZF多瞭一個一元謂詞符號M。它的個體稱作類，其中滿足M(x)的個體稱作集合。GB系統隻有有窮多條公理，它是ZF系統的保守擴充，也就是說一個ZF語句在GB中可證當且僅當它在ZF中可證。
運算和推演 利用ZF系統中的①～⑥條公理，可以定義集合上的各種運算，包括交(∩x(x≠ψ))、差(x-y)、有序對(〈x，y〉={x，｛x，y｝})、卡氏積(x×y={〈u，υ〉｜u∈x∧υ∈y})，等等。有序對組成的集合稱作關系，單值的關系稱作函數。設R為集合A上的關系，滿足自反性、對稱性、傳遞性的R稱作A上的等價關系；滿足自反性、反對稱性、傳遞性的R稱作A上的偏序；滿足不對稱性、傳遞性和可比較性的 R稱作 A上（嚴格）線序。如果 R是A上的嚴格線序且 A的每個非空子集有R最小元，則稱R為A上的良序；如果x的元素的元素仍是x的元素，則稱x是傳遞集。通過這一系列概念就可以定義自然數、整數、有理數、實數等數學對象並展開運算。如把自然數概念推廣，就可以得到有序數和基數這兩種超窮數的概念。如果x是傳遞集並且∈是x上的良序，就稱x是序數。自然數都是序數，叫做有窮序數； ω也是序數；如果a是序數則S(a)=aυ｛a｝也是序數，稱作a的後繼；不是後繼的序數叫做極限序數，例如0，ω等等。全體序數組成的類不再是集合，這個類記作on，定義序數間的＜關系為∈。這樣，每個序數恰好由小於它的全部序數組成，而每個良序集都與唯一的一個序數同構。有瞭序數就可以建立超窮歸納原則，即對每個性質P，∀a(∀β(β＜a→P(β))→P(a))→∀aP(a)，利用替換公理，就可以證明超窮遞歸定理。設G是在全體集合上有定義的運算，則存在運算F對應於一切序數a，且F(a)=G(F妿a)。
根據超窮遞歸定理可以定義序數上的加法、乘法和冪運算。
在集合論中，序數的運算反映瞭良序集的迭加，如果序數a不能與比它小的序數建立一一對應，則稱a為初始序數。每個有窮序數都是初始序數，而ω 是第一個無窮初始序數，其後的初始序數依次記為ω1，ω2...，ωW，...。每個良序集都能與唯一的一個初始序數建立一一對應，因此，可以把初始序數定義為良序集的基數。如果承認AC，則每個集合都可良序，初始序數也就是全部的基數。自然數都是基數，稱作有窮基數，ω，ω1，ω2，...作為基數時常寫作N0，N1，N2，...如果X能與基數k一一對應，則稱k為X的基數，記作｜X｜=k；如果X能1-1地映入Y，則稱｜Y｜；如果X能與Y一一對應，則稱｜X｜=｜Y｜。根據伯恩斯坦定理（｜X｜≤｜Y｜且｜Y｜≤｜X｜，則｜X｜=｜Y｜），──知≤是基數間的偏序關系；根據康托爾定理，｜X｜＜∮(X)沒有最大的基數，全體基數的類也不再是集合。
在基數上可以定義加法、乘法和冪運算，它們分別反映瞭並集、卡氏積、映射集的基數。基數運算和序數運算限制在自然數上是完全相同的，但在超窮部分則完全不一樣。作為序數運算ω+ω >ω，但作為基數運算則埲+埲=埲。集合論在研究基數時，通常都假定AC。因為，如果沒有AC，隻能證明很少幾條關於基數的重要定理，特別是對大於N的基數運算得不出什麼規則，而有瞭AC就可以建立一大批簡單的運算規則。基數運算還要涉及到正則公理。正則公理的作用在於排除瞭如同滿足x∈x或x∈y∧y∈x的集合，也排除瞭無窮遞降 ∈鏈的可能性。這一切對定義各種數學對象並無影響，不過由於利用正則公理建立的累積分層能使集合論的模型論研究大為簡化。而且，由於正則公理建立瞭秩的概念，從而有可能在沒有AC的情形下也能把基數定義為集合。因此，如果沒有AC又沒有正則公理，就無法在ZF系統內定義基數概念。
新的研究進展 由於幾乎全部數學都可歸約為集合論，所以ZF系統的一致性一直是集合論中至關重要的問題。但根據哥德爾的不完全性定理，卻無法在ZF系統內證明自身的一致性。此外，一些重要的命題，如連續統假設CH（見連續統假設）也是在ZF中不可判定的。尋找這些不可判定問題並證明其不可判定性和擴充ZF，以期在擴充後的系統中判定這些命題，就成瞭公理化集合論研究的兩個出發點。1963年，美國學者P.J.科恩創立力迫法，從而證明瞭集合論中的一大批獨立性問題。此後的20多年中，集合論研究者一方面推廣和改進科恩的力迫法，如提出迭代力迫、真力迫等新概念和新方法；一方面則將這些方法應用於具體的數學領域，如拓撲學，以證明該領域中的某些命題是不可判定的。與此同時，對大基數的研究也十分引人矚目。因為在擴充 ZFC系統的各種嘗試中，大基數公理多少還算直觀。引入大基數之後，需要討論各種一致性和獨立性問題，而且要構造各式各樣的模型，因而也就離不開力迫法。由於很多大基數，例如拉姆塞基數和洛波托姆基數，可以看作是N的某些組合論性質的推廣，從而又推動瞭無窮組合論的研究。70年代以來，由於發現決定性公理（見選擇公理）和大基數公理及無窮組合論有密切聯系，於是這兩個方向的研究就交織在一起。此外，隨著新概念、新方法的引入，停滯瞭幾十年的描述集合論也重新活躍起來，使一大批長期懸置的問題得到解決或有瞭某種新的進展。不過由於描述集合論的研究方法與遞歸論頗多相似之處，所以也有人把它歸入遞歸論范疇。
參考書目
Thomas Jech，Set Theory，Academic Press，New York，1978.
A.A.Fraenkel，Y.Bor-Hillel，A.Levy，Foundationsof Set Theory，2nd ed.，North-Holland Publ.Co.，Amsterdam，1973.