古羅馬起源於西元前10～前 9世紀義大利臺伯河下遊的原始拉丁人部落，經過擴張發展，西元前 1世紀末形成奴隸制強國，到476 年西羅馬帝國滅亡，前後經歷瞭約1500年歷史。根據古希臘和羅馬作傢的作品，以及考古獲得的銘文和紙草文獻，羅馬的檔案工作是從接受並保存希臘的預言書開始的。這時羅馬還沒有自己的文字，他們通過學習希臘人的字母創造瞭自己的拉丁文，於是開始積累拉丁文檔。羅馬的書寫材料，除石頭、金屬(如青銅板)和木板外，主要是紙草和羊皮紙。關於羅馬早期檔案工作作的史料極少，難得其詳。
在羅馬國傢繁榮時期，官僚機構發達，有許多地方機關。政府有嚴謹的立法活動，有廣泛的國際性政治和貿易聯系，有巨大的私人財產和與之相聯系的私法關系。這一切必然導致大量文件的形成和積累，因而形成瞭各種類型的檔案館或檔案庫。主要的可分為兩大類，即祭司(宗教的)檔案館和非宗教的檔案館。
祭司檔案館最古老，在羅馬國傢早期起過巨大作用，後來在世俗權力占優勢的時候，由於祭司在國傢生活和社會生活中的決定性作用，仍然保持瞭它的意義。最重要的祭司檔案館有：①預言書保管庫。設在卡皮托利諾山上的朱庇特神廟裡，負責保藏來自希臘的預言書手稿。它是最古老的祭司檔案館，其歷史可以追溯到公元前6世紀。預言書手稿同神廟的金庫在一起，由專門的祭司部管理，隻有根據最高政權的命令和在特殊情況下，才能查看。②最高祭司團檔案館。它在祭司檔案館中是最重要的，也是很古老的。設在祭司長的府邸，往往在卡皮托利諾山上的朱諾女神廟裡。它保存的管理日歷的材料及與之相關的編年史材料，反映瞭社會生活的一切重要事件。它還保存有豐富的法律史和法律理論史料，有關祭司團內部生活的材料，以及經濟性案卷。③軍事外交祭司團檔案館。設在卡皮托利諾山上的菲得斯女神廟裡。軍事外交祭司執行國際關系方面的重要職能，並負責擬制和保管書面文件。公元之初，該館藏有 3000份條約及其他外交文件的簡板，88年毀於火災，被視為國傢最大的災難。④占卜祭司檔案館。占卜祭司作為預言者，其主要職能是應當局的請求，解釋某種措施是否宜於實行的“征兆”。該館保存有元老院和執政官的查詢和答復查詢的註釋副本。
非宗教的檔案館，反映瞭羅馬國傢繁榮時期的政治和經濟生活。主要有：①國庫檔案館。當時稱為“埃拉裡”(Aerarium)，即國庫或寶庫，屬於元老院，是羅馬共和國最重要的檔案館。設在鄰近元老院的薩圖爾努斯神廟裡。收藏元老院本身形成的文件：會議記錄、法律草案、元老院決議、已批準的法令、與外國締結的條約等。起初文件與錢幣、軍旗等珍寶放在一起。後在條約保管方面，逐漸取代瞭軍事外交祭司檔案館的地位。國庫檔案館也接受其他機關和私人檔案館的重要材料。隨著羅馬國傢威力的增長和疆域的擴大，國庫檔案館在公元前 1世紀發生瞭顯著變化，名稱改為“塔佈略裡亞”(tabularium)，即國傢檔案館，重點由實物珍藏變為文字珍藏。公元前78年，國傢檔案館遷到一所專建的巨大建築物內，從此脫離瞭在神廟保管檔案的舊傳統。國傢檔案館由財政官領導。由於財政官作為選舉的長官每年更換，所以起主要作用的是司書和檔案員。司書負責答復查詢和辦理機關與個人需要的文件副本；檔案員官職低於司書，負責按內容整理文件和保管文件，查找副本並按需要作摘錄。還有學會瞭文字的國傢奴隸，從事執行性的體力工作。檔案館的材料都是蠟板和成捆的簡板，以及成卷的紙草檔案，重要文件往往用羊皮紙制作。檔案材料按機關、負責人和文件種類在登記簿上登記和在庫房中排列，有些檔案按年排列，編有冊號、張號和目錄。②監察官檔案館。是一種機關性的檔案館，設在神女廟。公元前443年，原來由行政長官執行的都市調查權交給瞭由貴族選出的兩名監察官。監察官每5 年選舉一次。該館收藏的檔案，包括公民名冊、公民的誓詞和聲明、騎士名冊、兵役適齡青年名冊、元老院議員名冊、公民品行評價文件、捐稅表冊、國傢財產收入清單，以及其他財政性質的文件。這些材料在形成 5年後移交國庫檔案館保存。③刻瑞斯神廟檔案館。它是由平民創建的檔案保管處所，保存與平民有特別利害關系的文件。平民保民官和市政官的文件就保存在這裡。公元前 449年，平民取得瞭在刻瑞斯神廟檔案館保管元老院決議副本的權利。此前，平民不能接近貴族掌握的檔案。
檔案館在國傢和私人生活中有重大作用和意義。機關、官長、城市公民都求助於檔案館。檔案既用於實際目的，也作為國傢和歷史知識的源泉。M.T.西塞羅作為法學傢，經常利用檔案審理案件，處理財政問題；小加圖為瞭準備擔任財政官的職務，在國庫檔案館抄錄瞭多年的國傢財政收支帳目，以使自己明瞭國傢狀況；C.塔西佗也在國庫檔案館研究羅馬立法史，屢次從文件中汲取史料，以豐富其歷史著作。
在帝國時期，檔案館的組織和管理改變很少，但個別檔案館的作用發生瞭變化。隨著元老院地位的衰落，塔佈略裡亞喪失瞭以往的意義。皇帝檔案館成為國內最重要的檔案館，設在皇宮內與皇帝辦公廳在一起。在帝國晚期，它遷到瞭君士坦丁堡。
在羅馬帝國境內還有大量的其他種類的檔案館，諸如機關檔案館和官長、商人、高利貸者、大地產主、手工工場主、法學傢、作傢和學者的私人檔案館。在羅馬的各行省，有總督檔案館、國傢機關檔案館、自治城鎮檔案館、各種宗教的神廟檔案館和各種私人檔案館。
4世紀末葉，羅馬帝國分裂為東西兩部。476年西羅馬帝國滅亡，奴隸制羅馬的檔案史基本結束。羅馬的檔案遭到瞭悲慘的命運，塗蠟的木板和紙草卷在火災中化為灰燼；銅板檔案或是在火災中熔化，或是被進犯羅馬的敵人劫走，去制造武器或其他東西。羅馬統治末期存留下來的檔案，由於保管不善，也逐漸毀壞或被用作書寫材料。但是，古羅馬的檔案仍有一些被保留下來，成為人類的寶貴文化財富。