Über eine frühgeschichtliche Besiedlung ist kaum etwas bekannt, aber bereits Phönizier, Griechen und Etrusker hatten Siedlungen im Gebiet des heutigen Calvi. Die Römer errichteten im Bereich der Unterstadt eine Siedlung namens Sinus Caesiae (möglicherweise auch Sinus Casalus), von der sich der heutige Name Calvi ableiten soll; eine andere Quelle bezieht sich für den Ortsnamen von Calvi auf das Wort "calvus" aus dem Lateinischen, das "kahl" bedeutet und insoweit die Namensgebung zurückgeht auf den ursprünglich unbewachsenen und unbesiedelten nackten Felsen, auf dem später eine Zitadelle erbaut wurde.

Nach Sarazenenüberfällen besetzte Pisa, dem Korsika durch den Papst zugesprochen wurde, im 11. Jahrhundert die Stadt. Nach Streitigkeiten zwischen Pisa und der Republik Genua über den Besitz der Insel folgte eine turbulente Zeit mit wechselnder Herrschaft zwischen korsischen Adeligen, Genua und der Krone Aragon. 1278 baten die Einwohner von Calvi Genua um Unterstützung gegen die lokalen Adeligen. So fiel Calvi in den Einflussbereich von Genua, das die Zitadelle von Calvi (und auch die von Algajola) ausbaute, Calvi einen autonomen Status und den Calvesern eine Reihe von Privilegien gewährte. Die Einwohner dankten es Genua mit Treue, auch während der Unabhängigkeitskämpfe. Noch heute sieht man am Zugang zur Oberstadt den lateinischen Leitspruch Civitas Calvi semper fidelis („Die Stadt Calvi ist immer treu“).

Im 16. Jahrhundert widerstand Calvi Eroberungsversuchen des korsischen Freiheitskämpfers Sampiero Corso und seiner Verbündeten, den Türken und Franzosen.

Im 18. Jahrhundert gab es eine kurze Zeit der korsischen Unabhängigkeit unter Pascal Paoli, die mit der Machtübernahme Frankreichs endete. Beim Versuch Paolis, mit Unterstützung durch das Königreich Großbritannien Korsika wieder unter seinen Einfluss zu bringen, wurde Calvi 1793 durch die britische Flotte weitgehend zerstört.

Nach Verlust der französischen Gebiete in Nordafrika wurde 1967 das 2e régiment étranger de parachutistes, ein Fallschirmjägerregiment der Fremdenlegion, in Calvi stationiert.