Merv ha origine in età preistorica: indagini archeologiche hanno rilevato tracce risalenti al terzo millennio a.C. una poderosa crescita nel II millennio a. C.
Secondo alcuni studiosi sarebbe all'origine del culto indù di Monte Meru, che per l'induismo rappresenta il centro del mondo. Più probabilmente il Monte Meru sarebbe il Monte Kailash in Tibet.

Nell'età del Bronzo conobbe un'enorme crescita demografica, che comportò un ordinato riassetto urbanistico, con lo scavo di una vasta rete di canali, orientati ordinatamente lungo l'asse nord-sud, alimentati dalle acque del delta del fiume Murghab (lett. "Acqua di Merv").[1]

Con il nome di Mouru, Merv viene citata con Bakhdi (Balkh) nella geografia dello Zend-Avesta (cronaca dell'Avestā). Sotto la dinastia achemenide, Merv è indicata come luogo famoso: con il nome di Margu appartiene a una delle satrapie citate nelle iscrizioni di Behistun (circa 515 a.C.) dello Shāhanshāh persiano Dario I di Persia, durante il cui governo la ribellione nel 522-521 a.C. di Frâda comportò la morte di un numero altissimo di persone e il letterale spopolamento della città-oasi.
La vecchia città sembra sia stata ricostruita da Ciro II di Persia (559 - 530 a.C.), ma poco si può dire di preciso in merito, dal momento che i livelli achemenidi furono coperti da successivi strati aggiunti al sito.

La visita di Alessandro Magno a Merv è leggendaria, infatti la città prese (come tante altre città fondate e ampliate dal re macedone) il nome di Alessandria per breve tempo. Dopo la morte di Alessandro, Merv divenne la capitale della provincia di Margiana degli Stati dei seleucidi, dei Parti e dei Sasanidi. Divenne "Antiochia Margiana" su decisione del re seleucide Antioco I, il quale la ricostruì ed espanse fino al luogo conosciuto ad oggi come Gyaur Kala.

Dopo che il sasanide Ardashir I (circa 220-240) conquistò Merv, la numismatica ne delinea la storia: una lunga dinastia sasanide governò per quattro secoli, e questo è dimostrato da un'ininterrotta serie di monete coniate a Merv. In questo periodo Merv divenne la casa di vari culti religiosi accanto allo Zoroastrismo sasanide, compresi il Buddhismo, il Manicheismo e il Cristianesimo nestoriano. Nel V secolo d.C. Merv fu sede di un'arcidiocesi della Chiesa d'Oriente[2].

Il governo sasanide terminò quando l'ultimo re, Yazdegerd III (632-651), fu assassinato non distante dalla città, e l'esercito sasanide si arrese a quello arabo musulmano. La città fu occupata dai luogotenenti del terzo califfo ʿUthmān b. ʿAffān e divenne la capitale della provincia omayyade del Khorasan.
Utilizzando questo luogo come base, gli Arabi musulmani, guidati da Qutayba ibn Muslim, assoggettarono una larga parte dell'Asia centrale, incluse Balkh, Bukhara, Fergana e Kashgar, penetrando in Cina fino alla provincia di Gansu nei primi anni dell'ottavo secolo. Merv, e tutto il Khorasan in generale, divenne una delle prime zone del mondo a diventare in prevalenza islamica, grazie all'attivo proselitismo degli immigrati arabi, lì esiliati fin dall'epoca del governatore omayyade Ziyād b. Abīhi, a causa delle loro simpatie alidi.

Merv ricevette una rinnovata attenzione nel febbraio del 748, quando il generale arabo o iranico Abu Muslim (m. 754) vi proclamò la nascita della nuova dinastia abbaside e l'avvio della cosiddetta "Rivoluzione abbaside", espandendo e rifondando la città e, in nome dei nuovi califfi, prescelse la città come sede degli insorti che avrebbero impugnato vittoriosamente le armi contro il califfato degli Omayyadi.

Dopo che gli Abbasidi ebbero rovesciato gli Omayyadi e fondato con al-Mansur Baghdad, Abū Muslim continuò a regnare su Merv in modo semi-indipendente, fino al suo assassinio da parte dello stesso Califfo che aveva tanto efficientemente servito. Merv fu il centro della causa abbaside per tutta la durata della "Rivoluzione" della "Dinastia benedetta", e in seguito divenne fonte di sostegno politico per i regnanti di Baghdad.
Il governo del Khorasan a Merv fu considerato come uno dei principali puntelli dell'edificio califfale abbaside. All'influente famiglia iranica dei Barmecidi, ad esempio, fu assegnata Merv ed essa svolse un ruolo importante nel trasferimento della cultura greca (stabilitasi a Merv fin dai primi giorni del conflitto tra seleucidi e greco-bactriani) all'interno del mondo arabo-islamico.

Durante tutta l'era abbaside Merv restò la capitale e la città di maggior rilievo dell'intero Khorasan. In questo periodo lo storico arabo al-Muqaddasi la definì "deliziosa, gradevole, elegante, brillante, notevole e piacevole". La sua architettura fornì lo spunto per la ricostruzione abbaside di Baghdad. La città divenne famosa per essere la sede degli immigrati provenienti fin dal VII secolo dai territori arabi iracheni, al pari della Sogdiana e di altri luoghi dell'Asia centrale.[3] L'importanza di Merv agli occhi degli Abbasidi si accrebbe nel periodo che va dall'813 all'818, quando essa divenne residenza temporanea di al-Maʾmūn, in lotta contro il fratello al-Amin. Merv fu anche il centro del movimento eretico del IX secolo guidato da al-Muqanna, il Profeta Velato, che raggruppò molti seguaci dichiarandosi incarnazione di Dio ed erede di ʿAlī b. Abī Ṭālib e Abū Muslim; la Khurramiyya, cui egli dette vita e che sopravvisse fino al XII secolo.

In questo periodo Merv, al pari di Samarcanda e Bukhara, divenne una delle grandi città della cultura musulmana; il famoso storico Yāqūt al-Rūmī ricevette la sua istruzione nelle sue fiorenti biblioteche. Furono sviluppate numerose scuole in vari campi del sapere, a partire dalla Legge islamica e dallo studio degli ḥadīth, fino alla storia e alla letteratura. Molti personaggi di spicco della cultura provennero da questa città e l'ampio uso della nisba al-Marwazi in arabo: المروزي‎, cioè "di Merv/Marw", lo attesta: primo tra tutti il giurista e teologo Ahmad ibn Hanbal.

Con l'indebolimento del califfato, il governo arabo fu sostituito nell'821 da quello del generale persiano filo-abbaside Ṭāhir b. al-Ḥusayn e dalla dinastia Tahiride. I Tahiridi saranno a loro volta sostituiti dai Samanidi e, più tardi, dalla dinastia turca dei Ghaznavidi.

Nel 1037 i Selgiuchidi, un clan di Turchi Oghuz, si spostarono dalle steppe orientali del lago d'Aral prendendo pacificamente possesso di Merv sotto la guida di Toghrul Beg: il sultano ghaznavide Masʿūd I era fortemente osteggiato dai cittadini. Il fratello di Toghrul, Chaghri, vi si stabilì mentre il dominio selgiuchide cresceva finendo con l'includere il resto del Khorasan e dell'Iran, e facendola diventare in seguito la città preferita dai capi selgiuchidi. Sia Alp Arslan sia il suo discendente Ahmed Sanjar furono sepolti in città.

È in questo periodo che Merv raggiunge la maggiore espansione; i geografi arabi e persiani la chiamano "madre del mondo", "punto d'incontro del grande e del piccolo", "capoluogo del Khorasan" e capitale del mondo iraniano orientale. Le fonti scritte parlano di una grande Madrasa fondata dal visir selgiuchide Nizam al-Mulk, e di altre istituzioni culturali. Si dice anche che Merv ebbe un mercato che era "il migliore tra quelli delle principali città iraniane e del Khorasan".[4]

Il regno di Sanjar, segnato dal conflitto con i Kara Khitay e il Khwārezmshāh, terminò nel 1153 quando i nomadi turchi Ghuzz provenienti dalle terre oltre l'Amu Darya (lo Iassarte) saccheggiarono la città. In seguito Merv passò di mano tra i Corasmi di Khiva, i Ghuzz e i Ghuridi, e iniziò a perdere importanza rispetto ad altre città, prima fra tutte Nīshāpūr.

Nel 1221 aprì le porte a Tolui, figlio di Gengis Khan e Khan dei Mongoli, che nell'occasione trucidò la maggior parte della popolazione. Lo storico persiano Joveyni, vissuto una generazione dopo il massacro, scrisse: "I Mongoli ordinarono che, a parte quattrocento artigiani... , l'intera popolazione, inclusi donne e bambini, dovesse essere uccisa, e nessuno, né donne né uomini, dovesse essere risparmiato. Ad ognuno [i.e. i guerrieri mongoli] sarà assegnata l'esecuzione di trecento o quattrocento persiani. Ne vennero uccisi così tanti che al crepuscolo le montagne sembravano colline, e le pianure erano inzuppate di sangue". Secondo alcuni storici oltre un milione di persone morì a causa dell'invasione mongola, comprese centinaia di migliaia di rifugiati provenienti da altri luoghi.

Gli scavi hanno mostrato una drastica riedificazione delle fortificazioni in seguito alla distruzione, ma la città iniziò a decadere. Nella prima metà del quattordicesimo secolo la città venne utilizzata come sede dell'arcivescovado del Cristianesimo orientale. Alla morte del nipote di Gengis Khan, Merv venne inclusa (1380) tra le proprietà di Tamerlano, principe turco-persiano di Samarcanda ed eponimo della dinastia dei Timuridi.

Nel 1505 la città fu occupata dagli Uzbeki, che cinque anni dopo vennero espulsi per mano di Shāh Ismāʿīl I, fondatore della dinastia Safavide di Persia. Fu in questo periodo che fu restaurata l'antica grande diga, edificata già in epoca partica[5] (la Sultan Band) sul fiume Murghab, e l'insediamento crebbe nell'area irrigata, che prese il nome di Bairam Ali, nome con cui è chiamata in alcuni testi del XIX secolo.
Merv rimase in mani persiane fino al 1788 quando fu conquistata dall'emiro di Bukhara, Shāh Murād Beg. Fu allora, che questi decise di far radere immediatamente al suolo la città, distruggere i sistemi di canalizzazione dell'area trasformando così una regione di antica bellezza in una landa desolata. L'intera popolazione dei territori circostanti, circa 100 000 persone, venne deportata in vari momenti nell'oasi di Bukhara. Dal momento che essa professava la variante sciita della fede islamica, non ebbe difficoltà a resistere alle pressioni sunnite dei dominatori. I loro discendenti sono sopravvissuti fino ad oggi e chiamati "Īrānī/Iranici" nel censimento sovietico degli anni ottanta. Essi sono presenti anche nelle città di Samarcanda, Bukhara e nell'area compresa tra i fiumi Amu Darya e Syr Darya.

Quando Sir Alexander Burnes attraversò la regione nel 1832, i Khivani erano i governanti di Merv. All'incirca in questo periodo i turcomanni Tekke, che vivevano sull'Hari Rud, furono obbligati dai persiani a migrare verso nord. I Khivani tentarono di bloccarne l'avanzata ma, intorno al 1856, le Tekke (centri di studio e pratica sufi) presero il potere, e lo mantennero fino all'occupazione dell'Impero russo del 1883.