476年西羅馬帝國滅亡至 1640年英國資產階級革命，是歐洲封建社會從確立到瓦解的時期，基督教會的勢力和影響遍佈歐洲，在社會政治、經濟、文化等各方面都佔有重要地位。教會積累的大量檔案，不僅反映瞭教會本身的活動，也反映瞭中世紀歐洲各國的社會面貌，具有珍貴的價值。為瞭保管和利用這些檔案，教會形成瞭自己的檔案管理體系，但其檔案館和世俗檔案館一樣，實際隻是不開放的文件貯存庫。
4、5世紀隨著羅馬帝國日益沒落，基督教越來越成為剝削削階級的附屬物和統治工具，其教會、教堂、教徒遍佈羅馬帝國各地，羅馬主教因得到皇帝的支持而上升為教皇，擁有更大的權力和財富。教皇檔案館就在這時產生瞭，並成為最大最重要的教會檔案館。7 世紀時教皇檔案館設在拉特蘭宮，與教皇辦公廳在一起，藏有關於教會事務、政治事務，以及管理教會財產和教皇國庫的文件。以後經多次變遷，一直存在至今(見梵蒂岡秘密檔案館)。
在地方上的教會管理機關──大主教牧師會中，形成瞭主教和大主教檔案館。6 世紀起修道院數量迅速增長，又產生瞭為數眾多的修道院檔案館。教會形成的文件是多種多樣的，最主要的是與加強占有土地和依附農民的權利有關的文件，如賞賜與贈予特權證書、俗人向教會遺贈財產的遺囑、租佃證書等。有些檔案材料是與封建式的教會土地管理分不開的，如收支帳簿、向依附農民征收賦稅的名單、教會什一稅文據等。教會各專門機構在行使其職能過程中，也形成瞭許多文件，如教皇訓諭、教會長官的命令、修道院院長指示、修士名冊和教會雇工名冊、任命文件、行政來往文書等。由於僧侶作為一方或中間人參加世俗政治事務的結果，教會高級神職人員也形成瞭政治性文件。由於教會的神聖性和穩定性有利於文件的長久保存，所以世俗封建主，包括國王往往把自己的重要文件(如遺囑、條約)放到教會或修道院檔案館保管。教會檔案館往往和圖書館或貯藏室在一起，設在教堂特別保險的地方，如鐘樓或地下室，有的是專建的案卷樓。文件放在櫃子裡或抽屜裡。教堂和修道院的檔案，通常由總管理人管理，他同時也是庫長和圖書館長；主教教堂的檔案，則由管庫員或圖書館員管理。為瞭對所存文件有一個概覽，並且節省查找原件的時間，開始按序列原則把特權狀等重要文件抄錄在謄錄簿上，按發文者、公文種類和事由分類排列。修道院和教堂占有大量的土地財產，證明其產權的文件是最常被利用的，因為每一個新國王都要求呈報作為證明的文件。證書副本被用於編輯法規(教會規程摘錄)。修道士們在廣泛收集並抄寫著作手稿的同時，開始依據文件編寫皇帝、國王、王公的名單和編年史。
中世紀中期(11～15世紀)，教皇檔案館與圖書館分離，成為獨立機關。它已經具有國際意義，因為其中集中瞭教皇派往西歐所有國傢的教皇代表和使節的情報。隨著教會機關的增長，檔案館的數量有瞭增長。教會和修道院於11～12世紀建立瞭養老院、孤兒院以及其他慈善機關，它們都有自己的檔案館，館藏文件有關於出生率、死亡率和病情的情報，關於各團體的動產和不動產的情報，關於學校、醫院就業等的情報。這些檔案館後來被稱為醫院檔案館。除教會本身的檔案館以外，還出現瞭由榮譽教民組成的管理教會經濟和土地的教區議會檔案館，它除瞭保存經濟性質的文件以外，還積累瞭關於修建、裝飾教會建築物的材料，是中世紀藝術史的史料。教會檔案館的館藏量也有瞭增長，但主要是與教會的財產和政治利益有關的、具有實際意義的文件，失去現實性的文件則不受重視，因為宗教界道德和文化水平的衰落導致缺乏鑒定文件史料價值的人才。教會為私人保管文件的傳統具有更正式的性質，一些修道院被稱為"受委托的地方"，擁有負責草擬私法文件的權利，並承擔瞭這些文件的保管和確證其法律效力的責任，即執行瞭若幹公證機關的職能。在其檔案館中保存的反映財產關系的文件，對研究社會經濟史很有價值。
中世紀末期，盡管天主教仍在歐洲國傢占優勢，1612年教皇成立瞭頗具規模的梵蒂岡秘密檔案館，但教會檔案館的知名度和作用降低瞭。由於教會土地世俗化的結果，修道院的世襲領地檔案已收歸國有，通常被交給地方財政機關保存。在改革獲勝的那些歐洲國傢，天主教各機關檔案館被沒收，其中的檔案文件被歸入政府檔案館。由於廢除瞭司法行政方面的教會法律，教會機關的現行檔案文件的意義變得更加局限。在文藝復興時期，人文主義者進入教堂和教區檔案館，搜尋古代文件和手稿，埋頭鉆研，他們敢於向舊的傳統思想挑戰。意大利史學傢L.瓦拉論證瞭"君士坦丁贈予"證書是偽造文件，從而給以教皇為首的天主教會以有力的打擊。
中世紀歐洲教會檔案是人類文化遺產的重要組成部分，具有珍貴的文化史料價值。在18、19世紀資產階級革命時代，有關教會地產及由於領土行政而形成的檔案被國傢政府接收，而純粹教會性質的檔案仍留歸教會組織。