Embora se saiba que a antiga Constantinopla tinha um grande mercado com uma estrutura semelhante ao Grande Bazar otomano, isto é, um espaço misto de comércio e pequena indústria, mas não se sabe onde ele se situava. Também não se sabe o que existiria no lugar antes da recosntrução otomana.

O Eski Bedesten foi construído entre 1455 e 1461 por ordem do sultão Maomé II, o Conquistador, pouco depois de ter conquistado a cidade. Como era usual com muitos mercados otomanos, parte das taxas cobradas sobre o comércio destinavam-se a gerar receitas para uma mesquita, que no caso do Grande Bazar era a recém convertida Santa Sofia. Além de angariar fundos para a mesquita, Maomé pretendia reavivar o comércio na cidade conquistada.

O mercado expandiu-se rapidamente à volta do primeiro bedesten, estimando-se que no final do reinado de Maomé II, em 1481, já ocuparia cerca de um terço da área que ocupa atualmente.N o século XVI, durante o reinado de Solimão, o Magnífico, o mercado foi bastante aumentado.

 Ruínas bizantinas dentro do Grande Bazar

Como o resto da cidade, o Grande Bazar foi fustigado por vários incêndios e terramotos ao longo da sua existência, após o que era reconstruído e expandido de uma forma algo caótica. Os mercados à volta dos bedestens foram destruídos por fogos em 1546, 1589 e 1618. Em 1652 houve um incêndio no Eski Bedesten e em 1660, um enorme incêndio destruíu praticamente toda a cidade. Em 1695 e 1701 voltaram a ocorrer incêndios no Eski Bedesten, após o qual as coberturas em madeira das ruas vizinhas foram substituídas por alvenaria. Em 1750 houve outro incêndio, o qual foi seguido de uma pilhagem dos janízaros, as tropas de elite imperiais otomanas. Em 1766 houve um terramoto e em 1791 e 1826 houve novamente fogos. Um terramoto em 1894 danificou as estruturas e coberturas, após o que o ministro das Obras Públicas do sultão Abdulamide II, Mahmud Celaleddin Paşa dirigiu uma grande reestruturação do Grande Bazar, reduzindo-lhe a área coberta removendo arcadas, isolando os núcleos de oficinas e instalando portões ao longo das ruas principais. Além disso, a estrutura foi reforçada com ferro e as arcadas foram decoradas com arabescos. Em 1954 houve outro terramoto que obrigou a mais restauros. O interior foi completamente repintado em 1980.

Embora a estrutura do bazar se mantenha como antigamente, a sua função, o modo como é gerido, a natureza do comércio aí desenvolvido e a arquitetura dos interiores mudaram significativamente a partir da segunda metade do século XIX. Na década de 1960, as mudanças na indústria e economia da Turquia, bem como na demografia de Istambul, determinaram a substituição da maior parte das oficinas tradicionais de artesanato por lojas de tipo ocidental e para turistas, as quais constituem atualmente o maior negócio do lugar. As lojas tradicionais tinham mostruários abertos, separados por cortinas ou finos tabiques de madeira e eram fechados à noite com persianas verticais. Atualmente, muitas lojas são fechadas com portas e montras de vidro iluminadas. A gestão, que antes era feita por uma guilda (em turco: longa), que tinha a seu cargo não só a manutenção dos espaços, mas também o controlo apertado da concorrência e preços, é atualmente feito de forma algo deficiente por uma série de associações de lojistas.