Il municipio si trova sul sito dell'antico Pretorio romano, che fino al 475 fu sede del governatore romano della Germania Inferiore. In seguito il pretorio divenne la residenza dei Re merovingi fino 754, ma l'edificio venne infine distrutto da un terremoto nel tardo VIII secolo[1]. Nel 795, sotto il vescovo Ildeboldo (784-818), Colonia venne elevata ad Arcidiocesi, e nella zona intorno al vecchio pretorio si insediarono ricchi mercanti patrizi e la comunità ebraica di Colonia, molti dei quali sotto immunità del re.

Nel 953 Bruno il Grande (poi San Bruno), fratello minore dell'imperatore Ottone I di Sassonia diventa arcivescovo di Colonia. Con lui, la dinastia ottoniana mise a capo del governo laico cittadino un ecclesiastico. Ma questo potere entrò in diretto conflitto con la classe borghese emergente: i conflitti armati nel 1074 e del 1096 portarono alla formazione di un Comune e delle prime strutture comunali, base per l'autonomia urbana. Al fine di consolidare i loro diritti economici e politici, i borghesi di Colonia si costituirono in Corporazioni, in particolare il Richerzeche. Nella guerra di successione del 1106 tra l'imperatore Enrico V di Franconia e suo padre l'imperatore Enrico IV, questi ultimi si opposero deliberatamente all'arcivescovo, guadagnando vantaggi sull'espansione territoriale della città nel corso degli anni successivi. Colonia era all'epoca una delle maggiori città commerciali d'Europa e la più grande città della Germania, la sua popolazione passò gradualmente da una società prevalentemente feudale a quella di liberi cittadini. I documenti degli anni 1135 e 1152, hanno registrato una domus in quam cives conveniunt, "una casa in cui i cittadini si riunisconoi", riferendosi alla prima sala del consiglio istituito, presso la sede odierna del municipio.

Entro il 1180, i cittadini di Colonia vinsero un'altra battaglia legale contro l'arcivescovo Filippo von Heinsberg, per un'ulteriore estensione delle mura civiche. Inoltre con la Battaglia di Worringen del 1288, Colonia divenne indipendente dagli arcivescovi-elettori guadagnandosi l'Immediatezza imperiale, e si resse ufficialmente a città libera dell'Impero il 9 settembre 1475. Nel 1388 Papa Urbano VI, firmò la Carta per la fondazione dell'Università di Colonia, la prima università d'Europa stabilita dalla cittadinanza. Il 14 settembre 1396 entrò in vigore la Costituzione di Colonia dove le corporazioni cittadine (Gaffeln e Zünfte) assunsero il potere nel consiglio. Seguendo la tradizione di consoli romani, il Consiglio era guidato da due borgomastri eletti (sindaci). Questa forma governativa continuò fino al 1797, quando il Consiglio e la costituzione vennero sostituiti col Codice Napoleonico prima, e il codice civile poi. Dal 1815 il consiglio comunale è guidato da un Oberbürgermeister.