Guldbergsgade 1945. Fotograf: Johs. Jensen. (Lokalhistorisk Arkiv, nr. 1876).

Guldbergsgade er opkaldt efter Frederik Karl Kristian Pedersen, der i 1905 tog navneforandring til Guldberg efter den ejendom, Guldberggård, som han ejede i Lemming. I 1916 flyttede han til Alderslyst, hvor han fik som job at passe vandværket. Han bosatte sig i huset Guldbergsgade 8.
Navnet Guldbergsgade blev indført ved den store gadenavnerevision i 1933. Før den tid hed den første strækning fra Borgergade til svinget Knudsgade, og strækningen herfra til det nuværende Nytorv, hvor der var forbindelse til Sandvejen, hed Nygade.