Zanzibar har av arkeologiska fynd att döma varit bebott i omkring 20 000 år. Öns strategiska läge gjorde att det tidigt blev en viktig hamn. Den nuvarande staden Zanzibar anlades först av arabiska handelsmän och kolonisatörer.

De första européerna som angjorde ön var portugiser, som under en tid hade kontrollen över ön. 1698 koloniserades ön av sultanatet Oman. Under Omans styre anlades de stora kryddplantagerna på ön. Man handlade också med elfenben och slavar. Ön kom att bli navet i slavhandeln över Indiska Oceanen, med en omsättning på upp till 50 000 slavar årligen.

Zanzibar erövrades av Tyskland i slutet av 1800-talet, och var en del av det tyska protektoratet Tyska Östafrika från 1885 till 1890, då ön kom under brittiskt protektorat i utbyte mot att Storbritannien lämnade ön Helgoland i Nordsjön till Tyskland genom Helgoland-Zanzibar-fördraget.

1896 utkämpades Anglo-zanzibariska kriget. Detta brukar räknas som världens kortaste, det varade i ungefär 45 minuter. Khalid bin Barghash hade efterträtt sin farbror efter dennes död men britterna vägrade erkänna denne. Den 27 augusti gav den brittiska flottan ett ultimatum att han måste avgå. När denne vägrade avgå började flottan att skjuta klockan 09:15. Bland annat började man skjuta mot sultanens palats och dessutom sänktes Zanzibars enda örlogsfartyg "Glasgow" med två skott innan skottlossningen upphörde klockan 09:40. Britterna tvingade senare lokalbefolkningen att betala för den ammunition som hade gått åt.

Den 19 december 1963 blev Zanzibar fullt självständigt från Storbritanniens protektorat. Zanzibar blev en konstitutionell monarki under dess sultan. Självständigheten varade inte så länge, sultanen störtades den 12 januari 1964, och den 26 april samma år förenades ön med Tanganyika och bildade unionen landet Tanzania.