Abitata già nel neolitico dal popolo corso dei Cervini, anche se solo sotto l'imperatore Tiberio (14-37) venne abitata stabilmente. La città venne distrutta prima dai Vandali e poi, definitivamente, dai saccheggi saraceni.

Nel 1268 un vassallo còrso di Genova, Giovaninello de Loreto, la rifondò, colonizzandola con famiglie liguri; anche Calvi, come Bonifacio, ottenne dei privilegi dalla signoria genovese per la sua fedeltà alla repubblica, fedeltà che appare ancora nel suo motto (Civitas Calvi semper fidelis, La città di Calvi sempre fedele). La città fu fortificata da Giovanni degli Avogari, in quanto serviva più come punto d'appoggio militare che come porto e si conquistò la fama dell'inespugnabilità.

Nel 1553 venne congiuntamente assediata da turchi e francesi, ma non cadde.

Nel 1757 resistette ai còrsi guidati da Pasquale Paoli. Rimasta saldamente in mano genovese, nel 1768 fu l'ultima città della Corsica a ad essere ceduta alla Francia.

Nel 1793-4 fu una roccaforte francese contro Pasquale Paoli, infatti vi si rifugiò Napoleone Bonaparte nella Maison de la Gendarmerie tra il maggio e il giugno 1793 e per questo venne distrutta dall'ammiraglio inglese Nelson.

Dal giugno 1967 ospita la guarnigione del 2º reggimento paracadutisti della Legione Straniera a Camp Rèmi Raffalli da quando fu spostata da Bou-Sfer in Algeria.