San Paolo fuori le Mura grundades av den romerske kejsaren Konstantin den store och konsekrerades av påve Silvester I år 324. Enligt traditionen är kyrkan byggd på platsen där aposteln Paulus begravdes. Efter hans avrättning (vid Tre Fontane) och begravning, satte de som följt honom upp ett minnesmärke över graven kallat cella memoriae.

År 386 påbörjade Theodosius arbetet med att bygga en mycket större och vackrare basilika men arbetet inklusive mosaiken blev inte klart förrän under påven Leo I:s ledarskap. Den kristne poeten Prudentius beskriver monumentets storslagenhet i några uttrycksfulla rader. Då basilikan även tillägnades helgonen Taurinus och Herculanus, martyrer i Ostia på 400-talet, kallades den "Basilica trium Dominorum".

Av den antika basilikan återstår endast delar av absiden med triumfbågen med mosaik; absidmosaiken och Arnolfo di Cambios ciborium över confessio är från 1200-talet. I den gamla basilikan hade varje påve varsitt porträtt placerat i en fris som sträckte sig över kolonnerna vilka åtskiljde mittskepp och sidoskepp.

År 937, då Sankt Odo av Cluny kom till Rom, överlämnade Alberico II klostret och basilikan till sin församling och Odo gav Balduine av Monte Cassino makten. Påven Gregorius VII var abbot vid klostret. Under hans tid beställde Pantaleone av Amalfi de stora bronsportarna till basilikan, vilka utfördes av konstnärer från Konstantinopel. Påve Martin V överlämnade skötseln av dem till munkarna av församlingen Monte Cassino. Klosterkyrkan blev då en helt vanlig kyrka. Abbotarnas makt sträckte sig över distrikten Civitella San Paolo, Leprignano och Nazzano, var och en utgörande en egen församling: församlingen San Paolo i Rom låg dock under kardinalens kontroll.

Klostret i komplexet uppfördes 1220–1241. Sakristian innehåller välgjorda statyer av påven Bonifatius IX. På påven Gregorius I:s tid fanns det två klosterkomplex nära basilikan: Sankt Aristus för män och Sankt Stefans för kvinnor. Tjänster i kyrkan genomfördes med hjälp av en särskild grupp av präster installerade av påven Simplicius. Under årens lopp började klosterkomplexen och prästerskapet förfalla. Påven Gregorius II återställde klosterkomplexet och gav munkarna förtroendet att sköta basilikan.

Påvarna fortsatte sedan under åren att visa generositet till klostret. Basilikan skadades under saracenska invasionen på 800-talet. Som en konsekvens av detta såg påven Johannes VIII till att bygga en mur runt klostret och allmogens bostäder, och grundade med detta staden Joannispolis, vilken man mindes ännu på 1200-talet.