Die Erbauungszeit des Ark ist unbekannt. Der Legende nach gilt Siyawasch als Erbauer der Zitadelle. Sein Grab soll sich an deren Osttor befunden haben. Ausgrabungen ergaben Spuren aus dem 4. Jahrhundert vor Christus.

Im Lauf der Jahrhunderte wurde die Zitadelle mehrmals zerstört und wiederaufgebaut, zuletzt unter den Scheibaniden. Hier befand sich nicht nur der Palast des Herrschers, sondern eine "Stadt in der Stadt" mit staatlichen Institutionen wie z. B. die Münze, Wohnungen hoher Staatsdiener, Kasernen und Wirtschaftsgebäude wie Vorratshäuser, Werkstätten, Stallungen usw.

Bei der Eroberung von Buchara durch die Rote Armee 1920 gingen die Holzbauten in Flammen auf, einige wurden nach historischen Plänen wiederaufgebaut.