La città si ritiene sia stata fondata solo nel X secolo mentre precedentemente esistevano soltanto dei piccoli insediamenti al tempo dei galli. Tra il XII e il XIII secolo gli itinerari dei Cavalieri templari convergevano tutti su La Rochelle, facendola diventare il loro porto sull'Atlantico, e ancora oggi un quartiere cittadino li ricorda con nomi come rue de Temple, la rue des Templiers, la cour du Temple…

Dopo essere stato trasformato in porto libero nel 1137 da Guglielmo X di Aquitania, l'impianto divenne il più importante lungo la costa atlantica grazie ai commerci soprattutto di vino e sale.

Durante la Guerra dei cent'anni, in seguito al Trattato di Brétigny, la città passò sotto il dominio inglese. Tuttavia nel 1372 fu teatro della battaglia navale di La Rochelle, che vide l'espulsione dell'esercito inglese da parte dei castigliani.

Durante il Rinascimento La Rochelle sposa le idee riformate e, a partire dal 1598, anno in cui Enrico IV di Francia emana l'Editto di Nantes, diventa un centro importante degli ugonotti vivendo un periodo di nuova prosperità e libertà fino al 1620. I contrasti con il re Luigi XIII di Francia ed il suo consigliere cardinale Richelieu portarono ad un lungo assedio della città da parte delle truppe francesi. La Rochelle, grazie allo sbocco sul mare e al supporto dell'Inghilterra protestante, resistette per ben 14 mesi all'assedio prima di capitolare il 1º novembre 1628. A seguito della sconfitta la città perse gran parte dei suoi privilegi e buona parte della popolazione fu costretta ad emigrare, anche in seguito alla revoca dell'Editto di Nantes da parte del re Luigi XIV.

Nel 1641 La Rochelle ha dato i natali ad Etienne Truteau, un falegname che emigrò in Quebec, avo dei primi ministri del Canada Pierre Trudeau e Justin Trudeau.[1].

Altre date importanti per La Rochelle sono il 1648, quando divenne sede episcopale, e il 1719 quando venne aperta la prima Camera di commercio. Nel 1810 divenne anche sede di prefettura mentre nello stesso periodo fiorivano numerosi traffici verso le regioni francofone del America del Nord (Canada ed Antille).

Durante la seconda guerra mondiale la Germania nazista vi costruì un'importante base per sommergibili; per la strenua difesa di questa roccaforte la città fu di fatto l'ultima città francese ad essere conquistata dagli Alleati.