V další části textu se budeme stručně zabývat konstrukcí jednotlivých částí mikroskopu, především obecnými záležitostmi, platnými pro všechny variace SPM. Celková stavba mikroskopu může být realizována několika způsoby. Starší konstrukce používají tělo mikroskopu ve tvaru , protože hrot je třeba vždy umístit proti vzorku. Novější konstrukce používají spíše provedení stolečku, na který se pokládá měřicí hlava.
Původní konstrukce byly určeny pouze pro vakuové prostředí (staví se i v přírubovém provedení), v současnosti většina mikroskopů pracuje na vzduchu, pokud to není na závadu vzorkům. Mikroskopy, které jsou určeny pro práci ve vakuu, jsou konstrukčně náročnější, protože musí být zajištěna výměna vzorku v evakuovaném prostoru, což s sebou nese nutnost stavby „podavače“, který je vzhledem ke své délce náchylný k vibracím. Materiály mikroskopu musí být schopny snést procedury na očištění a odplynění vzorku, realizované za zvýšených teplot.