Az Orhon völgye korábban már - más-más korokban - központja volt az hsziungnuk, göktürkök és ujgurok birodalmának is. A göktürkök hitvilágának központi eleme, az Ötüken kiemelt szerepet kölcsönzött a közeli Hangáj-hegységnek, illetve az ujgur főváros, Harbaglan a későbbi Karakorum helyétől nem messze helyezkedett el. A terület valószínűleg egyike a legrégebben művelés alá vontaknak Mongóliában.[1]

1218-19-ben Dzsingisz kán egy „Karakorum”-nak nevezett helyen[2] gyűjtötte össze csapatait a Hvárezmi Birodalom ellen folytatandó hadjáratra, de a város tényleges megalapítására csak 1220-ban került sor. 1235-ig Karakorum aligha volt több, mint kis jurtaváros, bár Dzsingisz hvárezmi háborúja idején, Szamarkand elfoglalása után áttelepítette az ottani kézműveseket a térségbe. Utódja, Ögödej kán, miután legyőzte a Csin (Jin) birodalmat, falakat emeltetett és palotát építtetett.[3]

Ögödej és utódai alatt a világpolitika alakításának fontos helyszínévé lett a város. Möngke kán kibővíttette a palotát, és uralkodása alatt fejezték be a nagy sztúpatemplom építését is.[3]

Willelmus Rubruk flamand ferences rendi misszionárius volt, akit a pápa a mongolokhoz küldött követségbe, 1254-ben érte el Karakorumot. Ő hagyta az utókorra a legrészletesebb, noha nem mindig túl hízelgő beszámolót a városról. Megítélése szerint a székhely még a Párizs melletti Saint-Denis-vel való összehasonlításban is alulmarad, a nevezett falu kolostora szerinte van tízszer olyan fontos, mint a kán palotája. Másrészt viszont a várost mint „nagyvilágias” és a vallási különbségeket toleráló helyet festette le, és az ezüst fa, melyet Möngke kán palotájának díszeként ábrázol, Karakorum szimbóluma lett.[4] Leírása szerint a fallal körülvett városnak négy kapuja volt a négy égtáj felé, két negyedben tartós anyagokból épült hajlékok álltak - a „szaracénok” (muszlimok) és a „katájok” (kínaiak)[Jegyzet 1] negyedében -, illetve a városban tizenkét pogány templom mellett két mecsetet és egy nesztoriánus templomot is talált.[3]

Amikor Kubiláj kán - öccsével, Arig Bökével viszálykodván - magáénak követelte a Mongol Birodalom trónját 1260-ban, Sangtuba (Shangdu) költöztette fővárosát, később pedig Tatuba (Dadu avagy Kanbalik, a mai Peking). A Jüan-dinasztia (Yuan) 1271-es megalapításával Karakorumból vidéki jelentőségű, stagnáló közigazgatási központ vált. Ráadásul az Arig Böke és később Kaidu ellen vívott háborúk súlyos csapást jelentettek a városra. 1260-ban Kubilaj megsemmisítette a város gabonatartalékait, 1277-ben pedig Kaidu foglalta el Karakorumot, ám a következő évben a jüani csapatok már ki is verték őket.[5] 1298-99-ben Ulusz-Böke herceg kifosztotta a piacokat és a magtárakat. Azonban a 14. század első fele másodszorra is gazdagságot hozott a városba: 1299-ben kelet felé kibővítették, és 1311-ben, majd 1342-től 1346-ig újra felújították a sztúpatemplomot (amelynek neve ezután Hszingjüanko (興元閣 Xingyuange), „a Jüan felemelkedésének pavilonja”).[3]

A Jüan-dinasztia 1368-ban bekövetkezett összeomlása után, 1370-ben Karakorum Biligtü kán szálláshelye lett. 1388-ban a Hszü Ta (Xu Da) vezette Ming csapatok elfoglalták és lerombolták a várost. Saghang sečen Erdeni-yin Tobči című műve szerint a kurultaj (a mongol és türk fejedelmek és kánok politikai-katonai tanácsa) 1415-ben az újjáépítése mellett döntött, de mindeddig nem került elő régészeti bizonyíték, mely egy ilyen vállalkozást alátámasztana. Mindazonáltal Karakorum lakott település volt a 16. század elején, amikor Batumöngke Dajan kán újra fővárossá tette. A következő időszakban aztán a város sokszor gazdát cserélt az ojrátok és a dzsingiszidek[3] (vagy másképpen: a tümet Altan és a csahar Ligdan kán) harcai közepette,[6] míg végül teljesen elnéptelenedett.

Forráshivatkozás-hiba: <ref> címkék léteznek a(z) „Jegyzet” csoporthoz, de nincs hozzá <references group="Jegyzet"/>