Området omkring Derbent har flere bronzealderbopladser, mens byen Derbent, har rødder tilbage til det første årtusinde f.v.t. Fra omkring det 6. århundrede f.v.t. kom byen under persisk kontrol. Indtil det 4. århundrede e.v.t. var Derbent del et Albansk rige i Kaukasus. Byens nuværende persiske navn "Darband" stammer fra slutningen af det 5. århundrede eller starten af det 6. århundrede, hvor byen blev grundlagt på ny af Kavadh I, fra det persiske Sassanidedynasti.

Bymurene og citadellet stammer fra tiden under Kavadhs søn, Khosrau I, hvor Derbent blev en vigtig militær forpost og havn for Sassanideriget. I løbet af det 5. og 6. århundrede var Derbent desuden et vigtigt udgangspunkt for udbredelse af den kristne tro ud over Kaukasus.

I 627 i løbet af den tredje persiske-tyrkiske krig blev Derbent overrendt og plyndret af tyrkiske horder under Tong Yabghu af det Vestlige tyrkiske khanate. Yabghus efterfølger Buri-sad var imidlertid ikke i stand til at konsolidere hans erobring og Derbent blev for en kort tid generobret af perserne. I 654 blev Derbent indtaget af arabere, der gjorde byen til et vigtig administrativ center og introducerede islam til området.

Kaliffen Harun al-Rashid var ofte i Derbent og gjorde byen til et centrum for handel og kunst. Ifølge arabiske historikere voksede byen i denne periode, og i det 9. århundrede var den Kaukasus største med 50.000 indbyggere.

Da den arabiske kalifstat kollapsede i det 10. århundrede blev Derbent hovedstad for et selvstændigt emirat. Derbent kæmpede da ofte, og tabte ofte, krige med det kristne naborige Sarir, men forblev på trods at dette et selvstændigt rige indtil mongolerne 1239 invaderede byen.

I det 14. århundrede blev Derbent besat af Timur Lenk og i 1437 kom det under aserbajdsjansk kontrol. I det 16. århundrede blev Derbent igen et stridspunkt mellem persiske og tyrkiske hære. I det tidlige 17. århundrede lykkedes det den persiske shah Abbas at påføre tyrkerne et afgørende nederlag og fik tilbageerobret Derbent.

I 1722 fik russerene første gang kontrol over Derbent, da Peter den Store erobrede byen i forbindelse med den Russiske-persiske krig (1722-1723), men i 1736 faldt byen igen ind under persisk kontrol. I 1747 blev Derbent en del af et selvstændigt Khanat kaldet Derbent. I 1796 benyttede Katharina den Store sig af persisk uro omkring arvefølgen til at igangsætte en ekspedition ned over Kaukasus, i hvilke styrker under ledelse af Valerian Zubov stormede Derbent. I 1813 stipulerede Gulistan traktaten mellem Rusland og Persien endeligt at Derbent (sammen med resten af Dagestan, Aserbajdsjan og det østlige Georgien) skulle være en del af Rusland.