El nombre de esta estructura subterránea proviene de una gran plaza pública en el Capitolio de Constantinopla, la Stoa de la Basílica, bajo la cual se construyó originalmente (otras fuentes indican que proviene de una basílica edificada con anterioridad en el mismo emplazamiento[1]​). De acuerdo con los antiguos historiadores, el emperador Constantino I el Grande construyó una estructura que fue más tarde reconstruida y ampliada por el emperador Justiniano después de los disturbios de Niká de 532.

La cisterna proveía agua para el Gran Palacio de Constantinopla y otros edificios en el Capitolio, y continuó proveyendo agua al palacio de Topkapi tras la conquista otomana en 1453 y en los tiempos modernos. Los jardines del palacio se regaban con el agua de Yerebatan hasta que se construyó un sistema propio. Los otomanos preferían el agua corriente que el agua almacenada por lo que se dejó de utilizar hacia finales del siglo XIV. A mitad del siglo XVI el investigador neerlandés P. Gyllus (que estuvo en la ciudad entre los años 1544 y 1550) descubrió la existencia de la cisterna tras investigar los relatos de algunos vecinos que señalaban que en algunas casas había pozos en los sótanos de donde extraían agua y, a veces, peces. Gyllus descubrió las escaleras de acceso y realizó un estudio sobre el monumento que publicó en su libro de viajes. A mediados del siglo XIX se restauró después de ser usada como almacén de madera.[2]​

Entre los años 1985 y 1987 se limpia (se sacaron 50 000 toneladas de barro) y restaura preparándola para la visita turística dotándola de una serie de pasarelas casi al nivel del agua (que se mantiene bajo) para que los visitantes puedan pasearse por la totalidad del monumento y acceder a las columnas en cuya base están esculpidas las Medusas.[1]​