V staroveku bola oblasť La Rochelle súčasťou Galie. Rimania potom túto oblasť obsadili a začali tu produkovať soľ a víno, ktoré rozvážali po celej ríši. Z tejto doby sa dochovali rímske domy a nádrže na výrobu soli odparovaním morskej vody.

Prvým predchodcom dnešného mesta bola dedina Cougnes o ktorej pôvode nie je veľa známe. V 9. storočí v dôsledku rozširovania Cougnes vzniklo rybárske mesto Rupelle (Malá skala), od ktorého je odvodený názov La Rochelle. Samotné La Rochelle bolo založené v 10. storočí, keď tejto obci v roku 961 Viliam IV. udelil mestské a prístavné práva. Už v 12. storočí sa mesto stalo významným prístavom. 1130 bolo La Rochelle obohnané hradbami a v roku 1137 potvrdené Ľudovítom VII. ako slobodný prístav. To urobilo z La Rochelle najväčší prístav na Atlantickom pobreží a na nasledujúce tri storočia zaistilo mestu prosperitu tiež vďaka vínam z neďalekého Cognacu. Od roku 1152 bolo La Rochelle anglickou provinciou následkom sobáša Eleonóry Akvitánskej, majiteľky rozsiahlych území zahŕňajúcich i La Rochelle, s anglickým kráľom Henrichom II., dva mesiace po jej rozvode s francúzskym kráľom Ľudovítom VII. Okolo mesta boli v rokoch 1160 – 1170 postavené na obranu nové hradby, ku koncu storočia rozšírené ešte o hrad Vauclair. Za zachovanie lojality ku kráľovi počas anglickej revolty odmenila Eleonóra Akvitánska mesto v roku 1199 oslobodením od daní a rozšírením politických a súdnych právomocí. Na ich základe sa v meste uskutočnila prvá voľba starostu v celých francúzskych dejinách.