Espanjalaisten valloittajien kertomusten pohjalta on arveltu, että Machu Picchun rakentaminen alkoi joskus vuoden 1438 jälkeen, ja kaupungin rakennuttaja oli alueen tuolloin valloittanut inkahallitsija Pachacútec. Uuden radiohiiliajoituksen mukaan paikalla on kuitenkin ollut asutusta jo viimeistään vuodesta 1420 lähtien. Tämä viittaa samalla siihen, että Pachacútecin valtakausi saattoikin alkaa aiemmin oletettua paljon aikaisemmin.[1][2]

Machu Picchu rakennettiin Auringon kultin harjoittamiseen. Kaupungin piti olla valloittamaton, sillä se sijaitsee paljaan kallion ja rotkojen ympäröimänä. Kaupunki toimi ilmeisesti inkojen viimeisenä puolustustukikohtana, kun espanjalaiset valloittivat Perun vuoteen 1532 mennessä.[3] Inkat hylkäsivät kaupungin lopullisen tappionsa jälkeen, eikä radiohiiliajoituksessa ole löydetty merkittäviä jäänteitä asutuksesta vuoden 1530 jälkeiseltä ajalta.[2] Ei osata varmasti sanoa miksi Machu Picchu hylättiin, sillä valloittajat eivät koskaan löytäneet kaupunkia.[4] Hylkäämisen jälkeen kaupunki unohtui vuosisadoiksi.[3]

Ensimmäinen tunnettu Macchu Picchussa käynyt ulkomaalainen oli yhdysvaltalainen Hiram Bingham 24. heinäkuuta 1911. Bingham kirjoitti Machu Picchusta menestysteoksen ja vei sieltä kotimaansa museoihin lukuisia esineitä, joita Peru on myöhemmin vaatinut takaisin. National Geographic teki Machu Picchusta erikoisnumeron huhtikuussa 1913, ja kaupunki nousi maailmanmaineeseen.[5] Perulaiset arkeologit ovat myöhemmin väittäneet, että kaupungissa olisi ennen Binghamia käynyt myös saksalaisia, brittiläisiä ja muita yhdysvaltalaisia löytöretkeilijöitä.[6]