Le minaret Kalon a été érigé près de la mosquée à l'époque des Karakhanides sous Arslan-khan (ru). À l'origine, il était couronné d'une lanterne en bois. Alors que la construction du minaret s'achevait, le minaret s'est effondré pour une raison inconnue. Il est reconstruit en 1127, mais cette fois entièrement en briques de céramique. Il est resté pratiquement inchangé depuis lors[1].

À l'époque, le minaret remplissait plusieurs fonctions : tour de la mosquée Kalon, au sommet duquel se chantait l'azan (appel à la prière musulman ou namaz) ; tour de guet ; phare, visible bien loin de la ville.

En 1920, au cours de l'assaut de Boukhara par l'Armée rouge (en), le minaret a souffert de tirs d'artillerie, un obus a détruit près de la moitié de la lanterne, qui a été rapidement restaurée, à l'exception de deux niveaux de la corniche supérieure. Depuis lors, la corniche se compose de trois niveaux de muqarnas, sa hauteur a été modifiée et cela a donné l'aspect général actuel du minaret.

En 1924, une petite partie du mur et des muqarnas du minaret a été restaurée. En 1960, la partie souterraine des fondations a été restaurée et renforcée. En 1997, à l'occasion du 2500e anniversaire de Boukhara, le minaret a été restauré.