Čeprav znanstveniki še naprej razpravljajo o datumu, ko so bila stanovanja prvič naseljena v Materi in o kontinuiteti njihove poznejše poselitve, se domneva, da je bilo območje današnje Matere naseljeno že od paleolitika (10. tisočletje pr.n.št.). Zaradi tega je potencialno eno najstarejših stalno naseljenih naselij na svetu.[1] Alternativno je arhitekturna zgodovinarka Anne Parmly Toxey predlagala, da je bilo območje »neprekinjeno zasedeno vsaj tri tisočletja in občasno zasedeno 150–700 tisočletij pred tem«.[2]

Mesto Matera je leta 251 pred našim štetjem ustanovil Rimljan Lucij Cecilij Metel, ki ga je imenoval Matheola.[3] Leta 664 so Matero osvojili Langobardi in postala del vojvodine Benevento. Arhitekturna zgodovinarka Anne Parmly Toxey piše, da se »razpravlja o datumu ustanovitve Matere; vendar spoštovano delo zgodnjih mestnih kronistov ponuja številne, splošno sprejete zapise o gotskih, longobardskih, bizantinskih in saracenskih obleganjih mesta, ki se začne v 8. stoletju in pospešeno skozi 9. stoletje našega štetja.«[4] V 7. in 8. stoletju so bližnje jame kolonizirale tako benediktinske kot bazilijanske samostanske ustanove. Za 9. in 10. stoletje je bil značilen boj med Bizantinci in nemškimi cesarji, vključno z Ludvikom II., ki je mesto delno uničil. Po naselbini Normanov v Apuliji je Materi od leta 1043 vladal Viljem Železnoroki.

Po kratki skupni fazi in vrsti kug in potresov je mesto v 15. stoletju postalo aragonska posest in je bilo dano v fevd baronom družine Tramontano. Leta 1514 pa se je prebivalstvo uprlo zatiranju in ubilo grofa Giovannija Carla Tramontana. V 17. stoletju je bila Matera predana Orsinijem in nato postala del Terra d'Otranto v Apuliji. Kasneje je bilo glavno mesto province Bazilikata, položaj, ki ga je ohranilo do leta 1806, ko ga je Joseph Bonaparte dodelil Potenzi.

Leta 1927 je postalo glavno mesto nove pokrajine Matera.