Tritt man durch das Stadttor, läuft man geradewegs auf den Stadtteil Hinterburg zu, der von einem mittelalterlichen Bergfried überblickt wird. Wer ein geschultes Auge hat, wird an vielen Orten hellgelben Sandstein entdecken. Der Tengener Muschelkalk wurde nicht weit von hier hunderte Jahre abgebaut und ist in Häusern, Kirchen oder auch Gartenmauern verbaut und trägt zum malerischen Stadtbild bei.