La zona de Salzburg ha estat habitada des de l'època neolítica. Les primeres traces de poblament són de poblaments celtes que habitaren les valls del riu Salzach. Durant l'època romana, les petites poblacions celtes foren unificades en una única població anomenada Juvavum o Juvavia. Aquesta era la capital dels reis de Noricum fins que fou ocupada pels romans Fou seu de la V cohort de la I Legió i residència del governador provincial. A la segona meitat del segle V fou destruïda pels hèruls però fou restaurada al segle VII.

La construcció de la Fortalesa de Hohensalzburg l'any 1077 significà la consolidació de la població esdevenint la base del futur creixement. A la final del segle xiv el territori de Salzburg esdevingué completament independent de Baviera constituint-se com un principat de caràcter religiós sota l'autoritat d'un arquebisbe. Aquesta situació perdurà fins al 1803.

El 31 d'octubre de 1731, aprofitant el 214è aniversari de la publicació de Les 95 Tesis de Martin Luter, l'arquebisbe de Salzburg expulsa la població de religió protestant de la ciutat. En total 21.475 habitants que se'ls convidava a acceptar el catolicisme o a abandonar la ciutat. Molts es convertiren, però, prop de 12.000 salzburguesos hagueren de marxar de la ciutat instal·lant-se molts d'ells a Prússia gràcies a l'oferiment del rei Frederic Guillem I de Prússia els hi feu.

L'any 1803, en el marc de les guerres napoleòniques, els territoris eclesiàstics del Sacre Imperi Romanogermànic foren secularitzats, entre ells Salzburg. L'antic arquebisbat fou estregat al gran duc Ferran III de Toscana, després d'haver perdut el Gran Ducat de Toscana. L'any 1805, pel tractat de Pressburg el territori de Salzburg fou entregat a Àustria i cinc anys després al Regne de Baviera. Finalment, el 1816, el territori de Salzburg passà definitivament a Àustria gràcies al Congrés de Viena.

L'any 1850, el territori salzburguès esdevingué un territori independent de la Corona austríaca. L'any 1921, una enquesta feta a la població afirmava que el 99% dels ciutadans de Salzburg desitjaven l'annexió d'Àustria a Alemanya.

El 13 de març de 1938, durant l'Anchluss, les tropes alemanyes ocuparen Salzburg, els opositors als nacionalsocialistes i els jueus fores arrestats i la sinagoga jueva destruïda. Diferents camps de concentració tant per jueus com per dissidents i estrangeres foren ubicats a l'àrea de Salzburg.

Durant la Segona Guerra Mundial la ciutat fou bombardejada pels aliats; en aquests bombardejos moriren 550 persones i es destruïren 7.600 cases. Malgrat que la Catedral i diferents ponts de la ciutat foren destruïts, la ciutat mantingué un magnífic catàleg de monuments arquitectònics esdevenint un magnífic exemple de ciutat.

Salzburg fou alliberada per les tropes estatunidenques l'any 1945. La ciutat esdevingué el centre de decisió de les tropes d'ocupació aliades a Àustria després de la Guerra.