Vanimad arheoloogilised leiud linnast pärinevad neoliitikumi ajastust ja esimest korda mainitakse dokumentides seda linna teise aastatuhande alguses eKr. Palmyra vahetas mitmel korral eri impeeriumide vahel omanikku, enne kui sai esimesel sajandil pKr Rooma impeeriumi osaks.

Linn kasvas karavanide tõttu jõukaks; Palmüreenid said tuntuks kaupmeestena, kes asutasid Siiditee äärde mitmeid kolooniaid ja tegutsesid kogu Rooma impeeriumis. Palmyra rikkus võimaldas ehitada uhkeid monumente, nagu Suur sammas, Beli tempel ja iseloomulikke tornkalmeid. Etniliselt oli palmireenid segu amoriitidest, aramealastest ja araablastest. Linna sotsiaalne struktuur oli hõimuline ja selle elanikud rääkisid palmireeni keelt, mis on aramea keele dialekt, kasutades samal ajal kreeka keelt kaubanduslikel ja diplomaatilistel eesmärkidel. Kreeka-Rooma kultuur mõjutas tugevalt Palmyra kultuuri, millel oli seetõttu omapärane kunst ja arhitektuur, mis ühendas ida ja lääne traditsioone. Linna elanikud kummardasid kohalikke semiidi jumalusi ning Mesopotaamia ja araabia jumalaid.

Kolmandaks sajandiks pKr oli Palmyrast saanud jõukas piirkondlik keskus. See jõudis oma võimu tippu 260. aastatel, kui Palmüreeni kuningas Odaenathus alistas Pärsia suurkuninga Shapur I. Kuninga järgnes regent, kuninganna Zenobia, kes mässas Rooma vastu ja asutas Palmüreeni impeeriumi. Aastal 273 hävitas Rooma keiser Aurelianus linna, hiljem taastas linna vähendatud suuruses keiser Diocletianus. Palmüreenid pöördusid ristiusku neljanda sajandi jooksul ja islamisse peale seda kui linna vallutas 7. sajandil Rashiduni kalifaat, mille järel palmireeni ja kreeka keel asendus araabia keelega.

Enne 273. aastat oli Palmyra üldjoones autonoomne ja seotud Rooma Süüria provintsiga, tema poliitilist korraldust sarnanes Kreeka linnriikide mudelile esimesel kahel sajandil pKr. Linn sai Rooma kolooniaks kolmandal sajandil, mis viis Rooma valitsusasutuste inkorporeerimiseni, enne kui see aastal 260 monarhiaks muutus. Pärast hävitamist aastal 273 oli Palmyra Bütsantsi ja hilisemate impeeriumide alluvuses kohalik keskus.

Palmyra hävitamine timuriidide poolt 1400. aastal muutis linna väikeseks külaks. Prantsusmaa kontrolli all 1932. aastal viidi elanikud uude Tadmuri külla ja iidne paik muutus kaevetöödeks kättesaadavaks.

Süüria kodusõja ajal 2015. aastal hävitas Iraagi ja Levandi Islamiriik (ISIL) suure osa iidsest linnast. Süüria armee vallutas iidse linna tagasi 2. märtsil 2017.