Het bouwwerk is voortgekomen uit de hofkerk van Karel de Grote, die deel uitmaakte van de oorspronkelijke Akener koningspalts. Het achthoekige gedeelte, de Paltskapel, die thans als het middelpunt van de kerk fungeert, werd tussen 796 en 804 gebouwd naar Byzantijnse voorbeelden. De bouw werd voltooid door de bouwmeester Odo van Metz. De kerk werd ingewijd in 804 tijdens Driekoningen. Karel de Grote werd hier in 814 begraven. Tijdens een aanval van de Vikingen in 881 werd de kapel zwaar beschadigd en pas honderd jaar later, in 983, was hij weer gerestaureerd.

Nadat Karel de Grote in 1165 op voorspraak van Frederik Barbarossa heilig verklaard was door tegenpaus Paschalis III, kwam een stroom van pelgrims naar de kerk op gang. Hierom werd in 1355 een gotische koorhal gebouwd en een tweedelige Capella vitrea (glazen kapel). Deze werd ingewijd op de 600ste sterfdag van Karel. De koepel, een aantal kapellen en de toren werden op latere tijdstippen toegevoegd.

In 1881 werd de kerk onder leiding van de architect Joseph Buchkremer gerestaureerd, waarbij het in de barokke periode aangebrachte stucwerk werd verwijderd.

Tijdens de Tweede Wereldoorlog bleef de Dom van Aken als een van de weinige bekende Duitse historische gebouwen grotendeels onbeschadigd. Er sneuvelden alleen enkele glas-in-loodramen.

De kerk werd in 1978 als eerste Duitse monument op de Werelderfgoedlijst van de UNESCO geplaatst.