Construite par l'inca Pachacutec vers le milieu du XVe siècle, à la suite de l'attaque de Cuzco en 1438, elle fut finalement achevée par les incas qui suivirent (Tupac Yupanqui, Huayna Capac).

Sous les murs de Saqsaywaman se joua l'un des derniers épisodes de la conquête du Pérou. En 1536, lors du soulèvement de Manco Inca, les Espagnols, qui tenaient le centre de Cuzco, furent assaillis de toutes parts par des milliers de soldats incas. Ils réussirent de justesse à conserver leurs positions et tentèrent de desserrer l'étau par une contre-attaque sur Sacsayhuaman qui se solda par un échec : Juan Pizarro, le plus jeune des quatre frères, y fut mortellement blessé.

La bataille donna lieu à l'héroïque épisode du capitaine inca Cahuide, passé à la postérité[réf. nécessaire] : alors que les Espagnols assaillaient la tour où il s'était retranché avec plusieurs guerriers, il préféra sauter dans le vide et alla s'écraser au pied de celle-ci plutôt que de se rendre.

Le siège de Saqsaywaman a été relaté par un témoin oculaire de la bataille, Pedro Pizarro (le cousin des quatre frères), dans sa chronique Relacion del descubrimiento y conquista del Peru, rédigée en 1571.

Selon l'archéologie classique, c'est la culture Killke qui a construit la partie la plus ancienne du site il y a près de mille ans.