La región de lo que hoy es Matera ha estado habitada desde el Paleolítico. Se dice que la ciudad fue fundada por los romanos en el siglo III a. C., con el nombre de Metheola por el nombre del cónsul Quinto Cecilio Metelo.

En el año 664 Matera fue conquistada por los lombardos y se convirtió en parte del Ducado de Benevento. En los siglos VII y VIII las grutas cercanas fueron colonizadas por instituciones monásticas, tanto por los benedictinos como por los ortodoxos griegos.

Los siglos IX y X se caracterizaron por la lucha entre los sarracenos, los bizantinos y los emperadores alemanes, incluyendo a Luis II el Joven, que destruyó la ciudad. Después del establecimiento de los normandos en Apulia, Matera fue regida por Guillermo Brazo de Hierro desde 1043.

Después de un breve periodo comunal y una serie de epidemias y terremotos, la ciudad en el siglo XV se convirtió en posesión aragonesa, y fue entregada en feudo a los barones de la familia Tramontano. En 1514, sin embargo, la población se rebeló contra la opresión y mató al conde Giovanni Carlo Tramontano. En el siglo XVII, Matera fue entregada a los Orsini y luego se convirtió en parte de las Terre d'Otranto di Puglia. Más tarde fue capital de la Basilicata, una posición que mantuvo hasta 1806, cuando José Bonaparte nombró capital a Potenza.

En 1927 se convirtió en la capital de la provincia de Matera. El 2 de septiembre de 1943, los materanos se alzaron contra la ocupación alemana, siendo la primera ciudad italiana que luchó contra la Wehrmacht.

A partir de los años 1950, muchos arquitectos y urbanistas centraron su interés en Matera por su particular modo de vida. Así, nacen Serra Venerdì, el primer plan regulador de la ciudad por Luigi Piccinato, el asentamiento rural La Martella proyectado por el arquitecto Ludovico Quaroni, el distrito Spine Bianche, obra de gran relevancia arquitectónica del Neorrealismo, proyectado por Carlo Aymonino; etc.

En 2019 fue, junto con la ciudad búlgara de Plovdiv, Capital Europea de la Cultura.[1]​