Le Grand Zimbabwe fut bâti au cours d'une période se situant entre le XIe siècle et le XVe siècle. À son apogée, on estime généralement que la ville devait abriter environ 18 000 habitants.

Des commerçants portugais sont les premiers Européens à parcourir les ruines de la vieille ville au début du XVIe siècle. Un explorateur européen décrit le site en ces termes :

« À proximité des mines d'or de l'intérieur, entre la Limpopo et le Zambèze, il existe une forteresse de pierre d'une taille extraordinaire, sans qu'il semble que du mortier ait été utilisé... Cette construction est entourée de collines sur lesquelles se trouvent d'autres constructions similaires n'utilisant pas de mortier, et l'une d'entre elles est une tour de plus de 12 brasses [22 mètres] de haut. Les habitants de la région appellent ces constructions Symbaoe, qui signifie en leur langage : "cour". »

— Viçente Pegado, captaine, garnison portugaise de Sofala, 1531.

Le site est aussi le berceau du Zimbabwe moderne, où l'oiseau Zimbabwe — le symbole national du Zimbabwe — fut découvert.

Les spéculations de la deuxième moitié du XIXe siècle sont balayées lorsque les premiers vrais archéologues fouillent le site.

Aux environs de 1905, l'archéologue britannique David Randall-MacIver déclare dans son rapport de fouilles que les ruines doivent dater du XIVe ou du XVe siècle de l'ère chrétienne et qu'elles sont l'œuvre des autochtones[1].

Les premières études scientifiques d'envergure sont menées par l'archéologue britannique Gertrude Caton-Thompson qui, en 1929, à la tête d'une mission entièrement féminine, mène des fouilles sur le site et confirme l'origine africaine de la cité.

Il est maintenant établi que les fondateurs du Grand Zimbabwe, le peuple Shona, s'implantèrent ici au XIe siècle et que l'occupation de la ville continua jusqu'au XVe siècle[2].

Le site fut un lieu de commerce. Les fouilles archéologiques ont mis au jour des perles de verre et des fragments de porcelaine chinoise allant du XIIe au XIVe siècle et de faïence persane du XIIe siècle, ainsi que de l’or et des monnaies arabes de Kilwa[2],[1].

Vers 1450, le Grand Zimbabwe fut abandonné parce que l’arrière-pays ne suffisait plus à nourrir les habitants trop nombreux et en raison de son déboisement[2].

À partir de la fin du XIXe siècle, le vandalisme des visiteurs a beaucoup nui aux sols, éventrés dans l'espoir de mettre la main sur des objets de valeur, espoir souvent déçu[1].

Les restaurations des soixante dernières années vont de la réfection d'entrées étroites en entrées monumentales dignes d'une reine (celle de Saba en l'occurrence) à l'injection (restée à l'état expérimental) de résine qui, trop sensible aux rayons ultra-violets, suinte par les joints des pierres[3].

Pour obtenir les dalles de granit nécessaires aux restaurations, on fait brûler un grand feu sur une aire de granit puis l'on répand les braises et le bois en combustion sur une surface de 6 m sur 2. Au bout d'une heure, on ressent sous les pieds comme une vibration sourde, indiquant le soulèvement d'une dalle, des mêmes dimensions, du substrat granitique. La dalle est ensuite extraite à l'aide de leviers et brisée à coups de masse en blocs utilisables[3].