De huidige begraafplaats was oorspronkelijk een landgoed, waarop in 1430 een buitenhuis werd gebouwd. In de zeventiende eeuw verwierven de jezuïeten het en maakten er een rusthuis van. De bekendste bewoner was pater François d'Aix de La Chaise, de invloedrijke biechtvader van koning Lodewijk XIV, die er meer dan dertig jaar verbleef. In 1762 verkochten de jezuïeten het landgoed om schulden te kunnen afbetalen. Het wisselde daarna regelmatig van eigenaar en raakte verwaarloosd.

In 1801 werd de heuvel Champ-l'Evêque, samen met de heuvels Montmartre en Montparnasse, aangewezen als plek voor een nieuwe begraafplaats. Volgens de nieuwe opvattingen moesten nieuwe begraafplaatsen buiten de stadsmuren gebouwd worden. De naam van de begraafplaats luidde Cimetière de l'Est omdat ze bestemd was voor de bewoners van de oostelijke arrondissementen.

De toenmalige stadsarchitect Alexandre-Théodore Brongniart richtte het 18 hectare groot terrein in als een Engelse tuin. De totale kosten van deze nieuwe begraafplaats bedroegen 180.000 frank.[1] Aanvankelijk was de begraafplaats geen succes. Voorname mensen zagen het niet zitten om zich buiten de stadsmuren en in een arme en volkse buurt te laten begraven. Acht jaar na de opening waren er amper 833 graven. Om de begraafplaats meer prestige te geven werden in 1817 de resten van enkele beroemdheden overgebracht: Molière en La Fontaine, terwijl Abélard en Héloïse er – bijna zeven eeuwen na hun dood – naast elkaar werden begraven.

Van toen af was de reputatie van de begraafplaats verzekerd. In 1830 waren er 33.000 graven. De gegoede burgerij van Parijs liet in de jaren die volgden, geïnspireerd door de romantische tijdgeest, menig grafmonument op het terrein verrijzen. De begraafplaats werd vijfmaal vergroot en bereikte in 1850 de huidige oppervlakte van 43,93 hectare. Sinds 1860 ligt zij op het grondgebied van de stad Parijs.

De begraafplaats van Père-Lachaise was onmiddellijk het prototype van de extra-murosbegraafplaats. In de hele westerse wereld werd het voorbeeld gevolgd. In diverse steden in de Verenigde Staten werden 'rural cemeteries' aangelegd. Ten noorden van Londen werd in 1839 de beroemde Highgate Cemetery aangelegd.

In mei 1871, tegen het einde van de strijd tegen de Commune van Parijs, was Père-Lachaise het toneel van zware gevechten. De aanhangers van de Commune werden er belegerd door de troepen van Versailles en vochten er achter de grafstenen tot het bittere einde. De 147 die zich uiteindelijk overgaven werden ter plekke gefusilleerd voor een muur die sindsdien bekendstaat als de mur des Fédérés.

De afzonderlijke ruimten voor joodse en islamitische graven werden in 1881 afgeschaft toen een wet dergelijke afzonderlijke ruimten volgens geloofsovertuiging verbood. Het grote kruis op de begraafplaats werd een paar jaar later verwijderd. Kort daarna werd er een crematorium gebouwd. Hier vond in 1889 de eerste crematie in Frankrijk plaats.