一種具有實空間原子分辨本領的表面分析儀器。由瑞士IBM蘇黎世實驗室的G.賓尼希博士、C.革貝爾博士和美國斯坦福大學C.F.庫特等人於1986年設計發明，原子力顯微鏡完全是在掃描隧道顯微鏡的基礎上發明的，因而其大部分的結構與掃描隧道顯微鏡相同（見掃描隧道顯微鏡）。兩者主要的區別在於，掃描隧道顯微鏡利用的是量子隧道效應，而原子力顯微鏡則利用的是樣品和探針原子間的範德瓦耳斯力或化學力。它能對包括絕緣材料在內的任任何材料表面成像，克服瞭掃描隧道顯微鏡僅能適用於導電樣品的缺點。
原子力顯微鏡的工作原理如圖1所示。與掃描隧道顯微鏡相比，主要區別包含一個對納牛頓量級的微弱力極其敏感的懸臂梁作為力傳感器。懸臂梁的厚度為幾個微米或更小，長度可在100微米以上，大多是在Si上蒸鍍SiO2或Si3N4制成。使用時將它的一端固定，另一端放上一個針尖。工作時用一束激光照射懸臂的背面，反射的光束用一個光電檢測器檢測。當針尖與樣品表面離得很近時，針尖尖端原子與樣品表面原子間的極微弱的相互作用力，使懸臂梁彎曲。懸臂梁的彎曲程度與力的大小成正比。檢測反射激光光束的位置變化，可得到由於彎曲程度不同對應的力的大小。當用壓電陶瓷驅動微懸梁在表面上進行兩維掃描時，記錄下每個掃描點處對應的反射激光束位置，就會得到樣品表面形貌的信息。
圖1 原子力顯微鏡工作原理圖
微懸臂的彎曲是幾種力共同作用的結果，其中最普遍的是范德瓦耳斯力。如果不考慮針尖與樣品表面的具體情況，隨著針尖與樣品表面的距離的逐漸變小，范德瓦耳斯力將由吸引力變為排斥力，如圖2所示。根據掃描時受力所在的區域，可以把其工作模式分為接觸模式、非接觸模式以及間歇接觸模式三種。
圖2 針尖樣品間范德瓦耳斯力曲線
在接觸模式中，針尖與樣品表面的距離非常近（幾納米），排斥力起主要作用。掃描時，探針在樣品表面滑行，摩擦力和表面機械形貌的變化會對懸臂施加橫向力，從而引起懸臂梁的橫向偏轉。記錄這個信息的就是橫向力（或摩擦力）顯微鏡。接觸模式中橫向力的存在不利於表面結合弱和軟的樣品分析，這是因為針尖的橫向滑動會破壞樣品表面形貌特征。在非接觸模式中，掃描過程中針尖不接觸樣品，針尖與樣品之間的相互作用力主要為長程吸引力。這時通過石英振蕩器等外界因素激發懸臂使其以共振頻率振動，這個吸引力會導致振動中的懸臂的振幅、相位以及頻率發生改變，記錄這些變化就能得到樣品表面的形貌和結構信息。在這種掃描模式中，針尖作用力主要是垂直方向的，沒有橫向力，圖像受針尖以及樣品表面弱化效應的影響相應減小。間歇接觸模式與非接觸模式類似，隻是針尖在掃描過程中在振幅的底點輕輕敲擊樣品表面，接觸到表面時會導致振幅衰減並由此記錄表面的信息。它也是一種較常用的成像模式。
原子力顯微鏡能達到原子級分辨本領，用以觀察典型的離子晶體NaCl的表面，可清晰地分辨各個離子在表面的位置。此外，AFM在化學、生命科學領域也有重要應用。1992年有人用它清晰地攝下瞭天花病毒感染活細胞的全過程。病毒入侵幾分鐘後細胞上出現大突起，6小時後突起物惡性膨脹爆發，最後突起消失，細胞上留下疤痕，表明病毒已離細胞。