Arheologiniai radiniai liudija, kad gyvenvietė dabartinės Vavelio kalvos vietoje buvo įkurta dar akmens amžiuje.[1] Krokuvos apylinkėse nuo priešistorinių laikų buvo kasama druska. Vėliau miesto augimą kurstė šalia esančios Veličkos, Bočnios druskos, Olkušo ir Slavkovo alavo bei sidabro kasyklos.

V a. Krokuvos apylinkėse apsigyveno vakarų slavų vyslėnų gentis. Krokuvos istorija prasideda prieš susikuriant Lenkijos valstybei, kai šis miestas buvo vyslėnų genties sostine. Pagal legendą Vavelio kalvoje gyvenęs slibinas, kurį nugalėjo genties kunigaikštis Krakas. Prieš jį daugelis riterių bandę nužudyti slibiną, bet nesėkmingai; Krakas pavaišinęs slibiną užnuodytais pusryčiais ir taip įveikęs.

 

Vavelis, Vavelio pilis, Vavelio katedra

IX a. Krokuva greičiausiai dalinai priklausė Didžiajai Moravijai. Pirmą kartą rašytiniuose šaltiniuose miestas paminėtas 966 m., kai žydų keliautojas Abrahamas ben Jakobas aprašė Krokuvą kaip svarbų prekybos centrą.

X a. pabaigoje miestas tapo svarbiausiu Piastų dinastijos valdų prekybos centru. Pradėti statyti mūriniai pastatai, įskaitant Vavelio pilį, romanines bažnyčias, katedrą ir baziliką. 1241, 1259 ir 1287 m. totorių įsiveržimų metu miestas buvo beveik visiškai sugriautas.[2] Miestas buvo atstatytas ir 1257 m. jam suteiktos Magdeburgo teisės, suteikusios miestiečiams mokesčių ir prekybos lengvatų.[3] Lenkijos susiskaldymo laikotarpiu mieste įsikūrė daug vokiečių. Jausdami savo reikšmę ir tikėdamiesi Silezijos kunigaikščių palaikymo Krokuvos vokiečiai 1311 m. sukilo prieš karalių Vladislavą Lokietką, bet buvo numalšinti ir nubausti atimant lengvatas ir privilegijas.

 

Collegium Maius, Jogailos universitetas

Vladislavas Lokietka 1313 m. Krokuvoje įkūrė savo rezidenciją (vietoje Gniezno) ir karūnuojasi. Didelę reikšmę miestas įgavo 1364 m. Kazimierui III-ajam įkūrus Krokuvos universitetą.[4] Kazimieras Didysis pastatė mieste ir kitų pastatų bei skatino amatus bei prekybą.

1386 m. vasario 14 d. Krokuvoje buvo pakrikštytas Jogaila bei surengtos jo ir Jadvygos vestuvės. Valdant Jogailaičių dinastijai (1386–1572) miestas augo. Galingos valstybės sostinė ir Hanzos sąjungos narys, miestas traukė amatininkus, verslus ir gildijas, klestėjo menai ir mokslas.[5] Gyventojų skaičius išaugo iki 100 tūkst.

1572 metais mirė paskutinis Jogailaitis valdovas Žygimantas Augustas. Abiejų Tautų Respublikos sostas atiteko Henrikui Valua, o vėliau kitiems valdovams iš užsienio. Miesto reikšmė menko, ypač po nusiaubimo švedų tvano metu ir maro, kuris nusinešė 20 000 miesiečių gyvybių. 1609 metais Zigmantas Vaza galutinai persikėlė į naująją sostinę, tačiau karūnacijos tebevykdavo Krokuvoje.

XVIII a. nuo epidemijų, gaisrų, ir švedų puldinėjimų ėmė skursti. Po to jame ne kartą plėšikavo švedai, prūsai ir rusai. 1787 m. Krokuvoje bebuvo 9,5 tūkst. gyventojų.

Po 1795 metų išnykus Abiejų Tautų Respublikai, Krokuvos likimas buvo labai permainingas. Iš pradžių Krokuva įėjo į Austrijos imperijos sudėtį, kur buvo įjungta kaip Galicijos dalis. 1809 m. Napoleonas atkūrė Lenkijos valstybingumą, įkurdamas Varšuvos kunigaikštystę. Krokuva, kartu su Galicija, tapo šios valstybės miestu.

1815 m. po Vienos kongreso Krokuva tapo Laisvuoju Krokuvos miestu, kuris turėjo didžiulę savivaldą. Jo teritorija apėmė 1220 km² su 140 tūkst. gyventojų. Šiuo laikotarpiu miestas ėmė atsigauti po anksčiau patirtų sukrėtimų. 1846 m. po Krokuvoje vykusių sukilimų, Habsburgų monarchija aneksavo miestą. Jis buvo pervardintas Didžiąja Krokuvos Kunigaikštyste ir tapo sudėtine Austrijos imperijos dalimi. Nepaisant aneksijos, Krokuva tapo svarbiu kultūriniu centru ir lenkų tautinio atgimimo vieta, dar žinoma kaip Lenkijos Atėnai.

Nuo 1918 m. Krokuva vėl priklausė Lenkijai.

1939–1945 m. miestą okupavo Vokietija. Operacijoje, pavadintoje „Sonderaktion Krakau“, daugiau kaip 180 universiteto profesorių ir dėstytojų buvo suimti ir nusiųsti į Zaksenhauzeno ir Dachau koncentracijos stovyklas. Žydai buvo apgyvendinti gete ir vėliau nužudyti ar nusiųsti į „Płaszów“ ir „Oświęcim“ koncentracijos stovyklas.