As escavações arqueológicas provaram que a baía foi ocupada desde a era neolítica (5 000 a 2 500 anos a.C.). Com o Império Romano, a paz permitiu as trocas entre as cidades marítimas. Aberta ao mercado marítimo, Calvi tornou-se também uma base estratégica.

Ao longo da segunda metade do século XIII, uma guerra entre nobres levou à construção da parte alta da cidade. Depois de uma breve época sobre o domínio do rei Alphone V d'Aragão, Calvi ficou em 1453 sobre o controlo da Administração de S.Jorge, que a cerca com as sólidas muralhas da cidadela para se proteger de preseumíveis ataques. Até ao século XVIII, a cidade manteve-se fiel aos genoveses, de onde nasceu a divisa « Civitas Calvi Semper Fidelis ». Laurent Giubega, padrinho de Napoleão, refugiou-se em Calvi, quando a cidade se tornou fiel aos franceses, durante dois meses (maio a junho de 1793), pois tinha sido perseguido em Ajaccio pelos paolistas. Calvi resistiu durante dois meses contra Pasquale Paoli e os seus aliados ingleses em 1794. Depois de ter resistidp aos ingleses, Calvi esteve no entanto sobre a tutela britânica durante dois anos. Voltando a ser francesa, Calvi manteve uma fortaleza militar desde 1938 à sua libertação.

Existem rumores de que Cristóvão Colombo nasceu em Calvi, onde se podem encontrar diversos monumentos dedicados ao mesmo.

Desde 1967, a cidade acolhe o 2º regimento de paraquedistas da Legião Estrangeira.

A língua falada pelos habitantes de Calvi é uma forma de dialecto da Córsega, resultado da sobreposição do latim, do toscano, do genovês, e dos diferentes dialectos da vizinha Balagne.