A Galeria da Academia foi fundada juntamente com a Academia de Belas Artes (Accademia di Belle Arti) em 1784 pelo então Grão-Duque da Toscana Pedro Leopoldo. O propósito da criação da Academia era estabelecer um centro de ensino de arte que agrupasse outras escolas existentes, como a já famosa Academia das Artes do Desenho (Accademia delle Arti del Disegno), tendo como sedes o Hospital de São Mateus e o Convento de São Nicolau de Cafaggio. A Galeria da Academia foi fundada, assim, para proporcionar aos estudantes acesso a um grupo seleto de obras de arte que serviriam como estímulo e exemplo para estudo e desenvolvimento dos futuros artistas.

Na época de sua fundação a Galeria contava já com obras importantes como o modelo em gesso da escultura O Rapto da Sabina de Giambologna, e logo passou a ser enriquecida com pinturas removidas de igrejas e conventos extintos pelo Grão-Duque no final do século XVIII e depois por Napoleão em 1810.

Em 1873 trasladou-se o David de Michelangelo de sua posição original na Piazza della Signoria para dentro de um espaço especial da sede da Galeria, seguindo-se uma reorganização do material em acervo, passando algumas pinturas antigas para outros museus da cidade e obras mais recentes para o museu do Palácio Pitti. Por outro lado continuaram as aquisições, sendo dignas de nota as de outras peças de Michelangelo, como a estátua de São Mateus em 1906, e as quatro esculturas dos Cativos, anteriormente nos Jardins de Boboli no Palácio Pitti.

Em anos recentes tem sido buscada uma reaproximação do elo original com a Academia de Belas Artes, organizando-se exposições de obras de artistas intimamente ligados à instituição, e abriu-se espaço para a instalação em suas dependências do Museu de Instrumentos Musicais, com um rico acervo que pertencia ao Conservatório Luigi Cherubini, uma ramificação da Academia criado da mesma forma que a Galeria.

Também há pouco tempo foram remodelados alguns espaços de exposição e ampliada a coleção de pinturas com fundos de ouro dos séculos XIII ao XV, incluindo grandes polípticos e peças de altar que antes não podiam ser exibidas.