De stad werd ten tijde van het Romeinse Rijk Helvas genoemd.

In 1166 werd Elvas veroverd door Alfons I van Portugal op de moslims van Al-Andalus die de stad vanaf ca. 714 in bezit hadden. In 1229 veroverde Sancho II van Portugal Elvas.

In de 17e en 18e eeuw werd de garnizoensgrensstad van Elvas zwaar versterkt en is het grootste verdedigingswerk met droge grachten ter wereld. Elvas lag aan een belangrijke invalsroute voor het Spaanse leger en het was de kortste weg naar de hoofdstad Lissabon. Binnen de stadsmuren staan barakken en andere militaire gebouwen, maar ook kerken en kloosters. Toen Portugal in 1640 zijn onafhankelijkheid van Spanje had herwonnen na de Portugese Restauratieoorlog werd de bouw van de versterkingen serieus aangepakt. De Nederlandse Jezuïtische priester Jan Ciermans (Portugees: João de Cosmander) heeft een belangrijke rol gespeeld bij het ontwerp en het is daarmee een goed voorbeeld van de Nederlandse school van vestingwerken. Door het Amoreira-aquaduct, waardoor de aanvoer van water werd verzekerd, kon het bolwerk langdurige belegeringen weerstaan.