Annecy possui uma história rica e mais antiga que a maioria das cidades dos Alpes franceses. Vestígios de vilas datando o período Neolítico (ou idade da pedra polida) foram encontrados próximos aos rios da região.[1]

O primeiro povoado foi criado pelos romanos no século I a.C. e se chamava Boutae. Com a queda do Império Romano, a região se torna palco de várias invasões incluindo a dos povos germânicos, burgúndios e mais tarde dos francos, o que traz muita insegurança ao local. Os sobreviventes destas invasões se refugiaram nas colinas vizinhas, e foi somente no século XI que uma nova cidade começou a se formar nas margens do rio Thiou, próxima a uma torre de defesa e protegida por edificações que haviam sido construídas. Estas edificações se tornariam mais tarde o Castelo de Annecy.

Como Annecy está localizada entre Genebra e Chambéry, boa parte da sua história foi mais tarde fortemente influenciada por essas duas cidades, entre os séculos X e XIX. No século XII, uma casa fortificada foi construída em uma pequena ilha no meio do rio Thiou, edificação hoje conhecida como Palais de l'Ile (Palácio de l'Isle). Em constante conflito com os bispos de Genebra, o condado de Genebra se refugiou em Annecy no fim do século XII, e a cidade se tornou a capital da região de Genebra. Em 1401, foi integrada à Casa de Saboia.[2] Em 1444, os duques de Saboia a nomearam capital da região, cobrindo o controle de Genevois, Faucigny e Beaufortain.

A cidade tem um castelo, Castelo de Annecy, construído entre os séculos XII e XVI[3] e uma catedral (século XVI).

Com o avanço do Calvinismo, em 1535 tornou-se um centro para a Reforma-Católica e a sede episcopal de Genebra foi transferida para lá. Ela foi contida em 1801, mas restaurada em 1822. Este período foi marcante na história de Annecy porque várias comunidades religiosas vieram a reforçar as características religiosas da cidade, fator este que deu o apelido a cidade de "Roma da Saboia" e "Roma dos Alpes". Francisco de Sales nasceu no castelo de Sales, nas proximidades, em 1567. Ele foi o bispo de Annecy de 1602 a 1622. Seus restos mortais repousam na Igreja da Visitação, em Annecy.

Durante a Revolução Francesa, a região da Saboia foi conquistada pela França e Annecy foi anexada ao Departamento de Monte Branco, cuja capital era Chambéry.

Depois do restauração bourbónica, em 1815 a cidade retornou à Casa de Saboia. Ao ser anexada pela França em 1860, tornou-se a capital do novo Departamento da Alta Saboia.

Um novo município foi estabelecido em 1 de janeiro de 2017, após a fusão com as antigas comunas de Annecy-le-Vieux, Cran-Gevrier, Meythet, Pringy e Seynod.[4]