Après avoir établi la dynastie Ming, l'empereur Hongwu s’attache à consolider son pouvoir et pacifier le pays. Dans le cadre de cette politique, il fonde une nouvelle ville, Xi'an, sur le site de l'ancienne capitale des Tang. Pour protéger cette cité, dont il a fait la nouvelle capitale de la province du Shaanxi[1], il fait construire à partir de 1370[2] un haut mur fortifié sur les restes du mur d'un palais datant de la dynastie Tang (618-907)[3]. Ces travaux marquent le début de la construction des Remparts de Xi'an. Hongwu incorpore à ces murailles les anciens remblais fortifiés construits par les dynasties Sui et Tang en les incluant dans les parties ouest et sud du mur, puis en agrandissant les parties est et nord. Le chantier de construction dure huit ans et, par la suite, les murailles sont bien entretenues, tant sous la dynastie Ming que sous la dynastie Qing qui lui succède[4].

Au début, les murailles sont construites uniquement en terre battue. Pendant le règne de l'empereur Longqing (1568), elles sont renforcées par la pose de briques bleues sur le sommet et les faces extérieures des murs en terre. Sous le règne de l'empereur Qianlong de la dynastie Qing (1781), les murailles sont agrandies, des dispositifs de drainage y sont installés, ainsi que des créneaux. D'autres modifications diverses sont apportées au murailles qui, a la fin des travaux, ont l'aspect qu'on leur connait à l'heure actuelle[4]. À la chute de la dynastie Qing, les remparts commencent à se détériorer. Dans une certaine mesure, les autorités républicaines procèdent à l'entretien des murailles, qui sont alors en mauvais état. En effet, dans la première décennie du XXe siècle, les Remparts de Xi'an sont considérés comme étant d'une importance stratégique, bien que des murailles similaires, situées dans d'autres provinces du pays, soient démolies après la Révolution chinoise de 1911. En 1926, pendant les combats de l'Expédition du Nord, les fortifications sont bombardées, ce qui entraîne de graves dommages structurels; mais la ville située à l'intérieur des remparts n'est pas touchée[5]. Pendant la Seconde Guerre mondiale, lorsque les Japonais effectuent des bombardements aériens de 1937 à 1940, les habitants construisent environ 1 000 bunkers, utilisés comme abris antiaériens, à l'intérieur de la large base des remparts[6][7]. Quelques ouvertures sont également pratiquées à travers les murailles, comme passages pouvant servir à évacuer la ville. Plus tard encore, de nouvelles portes permettant la circulation à travers les Remparts de Xi'an sont construites sous le régime républicain[5].

Selon l'atlas Shenboo de 1933, dans les années 1930, la plupart des habitants de la ville vivaient dans le périmètre des Remparts de Xi'an, mais il y avait encore beaucoup de zones ouvertes inoccupées. Parmi les visiteurs qui sont venus voir les remparts, on trouve le capitaine américain (plus tard général) Joseph Stilwell en 1922 et le sinologue tchèque Jaroslav Průšek (1906-1980) en 1933[5]. En mars 1961, les fortifications de Xi'an sont inscrites sur la liste des "Sites historiques et culturels majeurs protégés au niveau national"; premier classement visant à les protéger[4],[8]. En 1983, l'administration de la municipalité de Xi'an procède à de nouvelles rénovations des fortifications, ainsi qu'à quelques ajouts. C'est à cette époque que la tour de Yangmacheng, la tour de l'écluse de Zhalou, la tour du plongeon de Kuixinglou, la tour d'angle de Jiaolou et la tour de défense de Dilou sont rénovées. Les portions des remparts qui s'effritaient sont transformées en portes et les fossés sont restaurés. En mai 2005, tous les remparts des fortifications de Xi'an sont interconnectés[4].

En 2008, la SACH propose d’inscrire les Remparts de Xi'an sur la liste du patrimoine mondial de l'UNESCO. L'UNESCO répond à cette demande en inscrivant le site sur la liste indicative du patrimoine mondial sous le titre "Murailles des dynasties Ming et Qing", en tant que site du patrimoine culturel désigné en vertu des critères iii et iv[4]. Cette liste regroupe les sites pour lesquels un État faisant partie de l'UNESCO a l'intention de déposer un dossier de candidature pour la liste du patrimoine mondial[9]. Il s'agit donc d'une sorte de "salle d'attente" avant l'inscription définitive. En 2020, les Remparts de Xi'an sont toujours dans cette "salle d'attente".

Michelle Obama, alors première dame des États-Unis, a visité les Remparts de Xi'an le 24 mars 2014, les décrivant comme "un mur qui a résisté à la guerre et à la famine ainsi qu'à la montée et à la chute des dynasties"[10].