De historische stadskern van Geraardsbergen ligt op de flank van de Oudenberg, die tot ongeveer 110 meter oploopt. Rond de markt met het stadhuis en Manneken Pis, en langs de steile straten richting de kapel op de Oudenberg, staan oude rijwoningen, herenhuizen en handelspanden dicht op elkaar. De historische stadskern is als archeologisch geheel opgenomen in de inventaris van het onroerend erfgoed. Veel gevels en daken hier zijn tientallen tot honderden jaren oud.
Rond die kern liggen de deelgemeenten met een heel ander bouwprofiel. In de vallei van de Dender, tussen Idegem en Ninove, en in het glooiende zuiden rond Moerbeke, Viane en Overboelare overheersen dorpskernen met rijwoningen, verspreide hoeves en vrijstaande woningen. Landschappen zoals het Moerbekebos, de Markvallei en de dorpskom van Vloerzegem tonen hoe landelijk een groot deel van Geraardsbergen nog is.
De stad heeft een eigen gemeentelijke stedenbouwkundige verordening ter vrijwaring van het woonklimaat en het waardevol bouwkundig erfgoed. Die legt bijkomende eisen op voor gebouwen die op de stedelijke lijst van waardevol bouwkundig erfgoed staan. Voor eigenaars van een oudere woning in Geraardsbergen is het dus nuttig om vóór een dakrenovatie na te gaan of hun pand op die lijst staat.