秦(西元前221～前207)是中國歷史上第一個統一的多民族的封建中央集權國傢。秦為加強中央集權形成瞭一套尊君抑臣的封建文書、檔案制度。秦以法為治，尤重律法檔案，重要者均立正副本。正本藏於中央禁室，封以禁印，由少府的尚書管理，不準私啟，凡私入禁室改剟一字者，處以死刑。副本存丞相、禦史大夫府與地方州縣，設法官、法吏管理。
秦代檔案主要是簡牘檔案，1975年在湖北雲夢睡虎地出土的秦簡，大都屬律法檔案，墓主人喜即為秦安陸(今雲夢夢)主管律法的官員。秦的輿圖和戶籍檔案，亦存丞相、禦史大夫府，由柱下史專管。秦改變瞭商周以來將重要活動記錄銘於青銅鑄器傳統的做法而刻於石，即為石刻檔案。秦始皇5次出巡，於7處立石刻，存世者有泰山刻石和瑯琊刻石。秦代縑帛檔案主要是輿圖和人物畫像。
秦統制時期不準民間收藏戰國時期六國的史書和歷史檔案，采取"燒滅"、"滌除"的政策。因為在檔案典籍中記載瞭秦國對他國攻戰的史實和六國對秦的指斥和譏諷。秦始皇於三十四年(公元前213)下"焚書令"，焚燒瞭大批古代檔案和六國的檔案和典籍。"不去者，醫藥、卜筮、種樹之書"。並規定，令下三十日後不燒者罰做長城勞役4年，以古非今者滅族。秦始皇的焚書使中國古代長期積累的檔案文化財富遭受瞭嚴重的摧殘和損失。
漢(公元前206～公元220)統治者對待歷史檔案的態度與秦顯然不同。劉邦等在起義過程中就註意收集秦代檔案。義軍入咸陽，蕭何獨入秦丞相、禦史府收集保護瞭秦的律令圖書，在鞏固漢代政權中起瞭重要作用。漢初，叔孫通制朝儀，蕭何定漢律，韓信申軍法，張蒼定章程都依據和參考瞭秦代舊檔。張蒼本為秦專管檔案的柱下史，熟習天下圖書計籍，備受漢王重用。
漢為適應封建政治、經濟、文化的發展，建立起比秦更為完整的檔案管理工作，綜理中央政務的三公府(丞相、禦史大夫、太尉)集中瞭大量的文書、檔案。由長史及禦史中丞主管。下屬各曹設掾史或令史具體管理。地方郡縣有主簿、丞等負責。東漢時尚書臺職典樞要，也成為主管王朝文書與檔案的重要部門。
漢歷朝皇帝在宮內外設館置閣典藏檔案和圖書。漢初，蕭何建石渠閣保管收集的秦檔，設蘭臺保管圖籍秘書，由禦史中丞主管。東漢有東觀，學者稱之為"老氏藏室"。兩漢還有天祿、麒麟、石室、宣明、鴻都諸閣庫。這些館庫收藏的檔案、圖書均極宏富，它們既是檔案、圖書庫，也是群儒議定五經，校勘書籍，從事著述的機構。至於皇帝封賞功臣的丹書鐵券，仍傳統地珍藏在石室金匱和宗廟裡。
漢代檔案庫保藏著豐富的檔案圖籍，為修史著述提供瞭條件。利用檔案修史的突出代表當推司馬遷和班固，二人都從事過檔案管理工作。司馬遷自幼受傢學薰陶，年輕時遊訪祖國名山大川，廣泛收集各種檔案史料，後任漢太史令，他利用所職掌的檔案及"石室金匱之書"，經幾十年奮鬥，終於寫成中國古代第一部通史──《史記》，其中利用檔案的痕跡歷歷可見。班固為蘭臺令史，他編纂的《漢書》即利用瞭蘭臺的檔案圖籍，班昭、馬續最後完成《漢書》，與他們能參閱利用東觀的檔案是分不開的。
漢代已發明瞭紙，但漢代的檔案制成材料仍以竹帛為主，漢代的簡牘和縑帛檔案有文獻記載，也屢有出土。漢代還有以動物骨頭(主要是牛骨)記事的。1986～1989年在西安漢代未央宮內官署遺址，發現萬餘片有文字的骨簽，總字數達數十萬，內容包括整個西漢王朝有關中央與地方、中央政府與皇室在經濟機構設置，財政收入，以及手工業行業分佈與生產水平等，許多材料是《漢書》等史籍沒有記載或記載很簡單的。這批骨簽屬於漢代中央級檔案。
紙作為中國官府正式的書寫材料是在東晉末桓玄稱帝時，404 年下令禁用簡牘書寫公文，官府才普遍用紙。紙質檔案大量產生，對檔案管理產生深刻影響。
漢亡後的魏晉南北朝是封建割據、列國對峙的動亂時代，檔案管理基本沿襲兩漢舊制。由於社會動蕩，政權更迭頻繁，原存於官府館庫的檔案流散嚴重，因此，官僚士大夫收集、抄錄、保藏檔案者頗多，有的世代相繼，利用檔案史料修史著述。當時私人修史盛行，一種史書往往多傢修撰。如修後漢史者9傢(一說13傢)，修晉書者20餘傢。晉人王銓、王隱父子，王偉之、王韶之父子，南朝宋人王彪之祖孫均利用抄錄收藏的檔案修史著書。
魏晉實行九品中正制，以出身高低定官品，因此反映世系出身的譜牒檔案備受重視，官府和豪門世族之傢廣為收藏及編修。梁武帝時朝廷設譜局，詔令專人收集纂修，譜牒學應運而生。故有"人尚譜系之學，傢藏譜系之書"之說(見傢譜檔案)。這是魏晉檔案管理的特點之一。