Nominata per la prima volta nell'anno 806 con il nome di Halla, il luogo era già abitato in epoca celtica e germanica. Nel IX secolo la città acquisì una certa importanza grazie al commercio del salgemma estratto nelle sue vicinanze. Distrutta dagli Ungari nel 906-908, risorse velocemente; appartenne poi ai vescovi di Magdeburgo, fu libera città anseatica e nel 1541 aderì alla Riforma. Durante la guerra dei Trent'anni fu più volte devastata dai vari eserciti in campo. Nel 1680 fu annessa dalla Marca di Brandeburgo e nel 1694 vi fu fondata l'università.

Nel XIX secolo ebbe il suo maggiore sviluppo, grazie ai vicini giacimenti carboniferi e alla sua posizione geografica favorevole, che aiutò l'insediamento di numerose industrie.

Dopo la seconda guerra mondiale Halle fu il capoluogo della regione amministrativa di Sassonia-Anhalt, la quale tuttavia ebbe breve vita in quanto nel 1952 il governo della Repubblica Democratica Tedesca (DDR) abolì i suoi "Länder". Nella DDR, ossia fino al 1990, Halle fu capoluogo del distretto amministrativo ("Bezirk") di Halle.

Negli anni sessanta fu costruito il grande quartiere residenziale Halle-West, destinato ai lavoratori dell'industria chimica, che ebbe lo status di città indipendente dal 1967 al 1990 con il nome di Halle-Neustadt.

Quando il land Sassonia-Anhalt fu riattivato come Bundesland, ne divenne capitale Magdeburgo.

Nel 2006 Halle ha compiuto 1.200 anni.