Zaprojektował go Arnolfo di Cambio w kształcie masywnego bloku na planie czworokąta. Trzykondygnacyjną budowlę zwieńczoną blankami zdobi charakterystyczna, wysoka (94,0 m) wieża z tarasem. Budowę pałacu rozpoczęto w 1299 r. Wieżę ukończono w 1310 r. W latach 1343-1592 wprowadzono wiele zmian (najwięcej w 1540 na polecenie Kosmy I, który zajmował pałac od 1537 do momentu przeprowadzki do Palazzo Pitti). Początkowo Palazzo Vecchio był siedzibą republiki florenckiej, w okresie późniejszym pełnił rolę ratusza.