Al segle xv, la dinastia de Shirvanshah sota Ibrahim I de Shirvan transferia la capital del seu país des de Shemakha fins a Bakú, i es comprometia a la construcció del palau. L'edifici es considera que és un complex commemoratiu construït al voltant del lloc sagrat de veneració (pir) i una tomba de Seyyid Yahya Bakuvi, que era un sant sufí Helwati. Els xirvanxàs eren patrons de l'orde sufí Helwati i Shirvanshah Khalilullah I estava enterrat amb la seva família a les terres del palau. Uns altres historiadors sostenen que l'edifici s'utilitzava com el palau del governant; tanmateix, les dues teories pateixen d'absència de proves. Se sap, tanmateix, que es considerava que els pous dins de les terres del "palau" tenien qualitats que guarien fins a temps recents, com era el turó on es construïa el palau.

Després de la conquesta de Safavid de Bakú el 1501, l'orde sufí fou expulsat i durant segles el «palau» caigué en ruïnes, i es coneixia a Bakú com Palau dels Kans de Bakú; aquest topònim va passar a la historiografia russa, fou citat primerament per Bartold.