Na época do Imperio Romano, unha torre fortificada custodiaba o cruzamento de dúas vías romanas que se atopaban no lugar da cidade de Luxemburgo. A través dun tratado de intercambio coa abadía de San Maximín en Trier no 963, Siegfried I de Ardenas, un parente próximo do Rei Luís II de Francia e o emperador Otón I o Grande, adquiriron as terras feudais de Luxemburgo. Siegfried construíu o seu castelo, chamado Lucilinburhuc ("pequeno castelo"), no Bock Fiels ("rocha"), mencionado por primeira vez en dito tratado.

No 987, o arcebispo Egbert de Trier consagrou cinco altares na Igrexa da Redención (hoxe igrexa de San Miguel). Nunha estrada romana preto da igrexa, apareceu un mercado ao redor do que se desenvolveu a cidade.

A cidade, debido a súa situación e xeografía natural, pasou pola historia como un lugar de importancia militar estratéxica. As primeiras fortificacións construíronse xa no século X. A finais do século XII, mentres a cidade se expandía cara ao oeste ao redor da nova igrexa de San Nicolás (hoxe a Catedral de Notre Dame), construíronse novas murallas que incluían unha área de 5 hectáreas. Ao redor de 1340, baixo o reinado de Xoán o cego, construíronse novas fortificacións que mantivéronse ata 1867.

En 1443, Borgoña baixo Filipe o Bo conquistou Luxemburgo. Luxemburgo pasou a formar parte do imperio de Borgoña e, posteriormente, dos imperios español e Austríaco (ver Países Baixos españois e Camiño Español) e baixo as administracións dos Habsburgo, o Castelo de Luxemburgo reforzouse repetidamente de xeito que ata o século XVI, Luxemburgo era unha das fortificacións máis fortes de Europa. Posteriormente, os burgundios, os españois, os franceses, de novo os españois, os austríacos, os franceses de novo e os Prusianos conquistaron Luxemburgo.

No século XVII construíronse as primeiras casamatas, inicialmente, España construíu 23 km. de túneles, a partir de 1644.[1] Estes foron despois ampliados baixo o dominio francés polo mariscal Vauban, e aumentaron de novo baixo dominio austríaco nos anos 1730 e 1740.

Durante as guerras revolucionarias francesas, a cidade foi ocupada por Francia dúas veces, unha vez, brevemente, en 1792-3 e, despois de sete meses de asedio.[2] Luxemburgo aguantou durante moito tempo o asedio francés que o político e enxeñeiro militar francés Lazare Carnot chamou a Luxemburgo "a mellor fortaleza do mundo, agás Xibraltar", dando lugar á cidade o alcume de 'Xibraltar do Norte'.[2]

Non obstante, a gornición austríaca acabou por entregarse e, como consecuencia, Luxemburgo foi anexado pola República Francesa, pasando a formar parte do departamento de Forêts, sendo a cidade de Luxemburgo a prefectura. Baixo o Tratado de París de 1815, que puxo fin ás Guerras napoleónicas, a cidade de Luxemburgo quedou baixo o control militar de Prusia como parte da Confederación Alemá, aínda que a soberanía pasou á Casa de Orange-Nassau, en unión persoal co Reino Unido dos Países Baixos.

Despois da Crise de Luxemburgo, o Tratado de Londres obrigou a Luxemburgo a desmantelar as fortificacións na cidade de Luxemburgo. A súa demolición tardou dezaseis anos, custou 1´5 millóns de francos de ouro, e requiriu a destrución de máis de 24 km. de defensas subterráneas e 4 ha de casamatas, baterías, cuarteis, etc.[3] Ademais, a gornición prusiana debía retirarse.[4]

 

A Passerelle, tamén coñecido como viaduto ou ponte antiga, con vistas ao val do río Pétrusse; abriuse en 1861.

Cando, en 1890, o Gran Duque Guillerme III morreu sen herdeiros masculinos, o Gran Ducado pasou das mans holandesas a unha liña independente baixo Adolfo de Luxemburgo. Así, Luxemburgo, que ata agora só era independiente en teoría, converteuse nun país verdadeiramente independente e a cidade de Luxemburgo recuperou parte da importancia que perdeu en 1867 ao converterse na capital dun estado totalmente independente.

A pesar dos grandes esforzos de Luxemburgo para manterse neutral na Primeira Guerra Mundial, foi ocupada por Alemaña o 2 de agosto de 1914. O 30 de agosto, Helmuth von Moltke trasladou o seu cuartel xeral á cidade de Luxemburgo, máis preto dos seus exércitos en Francia para prepararse para unha vitoria rápida. Non obstante, a vitoria nunca chegou e Luxemburgo albergou o alto mando alemán durante outros catro anos. Ao final da ocupación, a cidade de Luxemburgo foi o escenario dunha tentativa de revolución comunista, o 9 de novembro de 1918, os comunistas declararon unha república socialista, pero durou só unhas horas.[5]

En 1921, os límites da cidade expandíronse enormemente. As comunas de Eich, Hamm, Hollerich e Rollingergrund incorporáronse á cidade de Luxemburgo, convertendo a cidade na comuna máis grande do país.(posición que ocuparía ata 1978).

En 1940, Alemaña ocupou de novo Luxemburgo. Os nazis non estaban preparadas para permitir o autogoberno luxemburgués e integraron gradualmente Luxemburgo no Terceiro Reich ao unir informalmente o país a unha provincia veciña alemá. Baixo a ocupación, as rúas da cidade da capital recibiron nomes novos alemáns, que foron anunciados o 4 de outubro de 1940.[6] A avenida de la Liberté, por exemplo, unha rúa principal que conduce á estación de ferrocarril, renomeouse como "Adolf-Hitlerstraße".[6] A cidade de Luxemburgo foi liberada o 10 de setembro de 1944.[7] A cidade estivo baixo o alcance das bombas de longo alcance do canón V-3 alemá entre decembro de 1944 e xaneiro de 1945.

Despois da guerra, Luxemburgo puxo fin á súa neutralidade e converteuse en membro fundador de varias institucións intergubernamentais e supraternamentais. En 1952, a cidade converteuse na sede da Alta Autoridade da Comunidade Europea do Carbón e do Aceiro. En 1967, a Alta Autoridade fusionouse coas comisións das outras institucións europeas; aínda que a cidade de Luxemburgo xa non era a sede da CECA, albergou algunhas sesións parciais do Parlamento Europeo ata 1981.[8] Luxemburgo segue sendo a sede do secretariado do Parlamento Europeo, así como do Tribunal Europeo de Xustiza, o Tribunal de Contas Europeo e o Banco Europeo de Investimentos. Varios departamentos da Comisión Europea tamén están radicados en Luxemburgo.