Los arqueólogos creen que la pequeña Petra fue fundada en el siglo I, cuando la cultura nabatea estaba en su apogeo en la región. Probablemente era un suburbio de la ciudad más grande del sur, quizás donde vivían sus comerciantes más poderosos. La ubicación puede haber sido elegida debido al cercano asentamiento de Beidha, habitado desde el período neolítico anterior.[1]​ Dado que las investigaciones del sitio se han centrado generalmente en los períodos nabateos y anteriores, no se sabe si todavía estaba habitada casi al mismo tiempo que Petra que fue finalmente abandonada en el siglo VII.[2]​

A diferencia de Petra, en la cual los nabateos vivían y enterraban a sus muertos, la Pequeña Petra fue diseñada para albergar caravanas de Arabia y el Este, que llegaban hasta Siria y Egipto. Para hacer que se detuvieran después del cruce de Wadi Rum, los nabateos cavaron al principio las pequeñas cuevas en la piedra arenisca, y luego construyeron otras mucho más grandes por el número de caravanas que se detuvieron allí.

Durante el resto del milenio y gran parte del siguiente, la pequeña Petra permaneció desconocida para todos, excepto para los nómadas beduinos que a veces acampaban en ella o en sus alrededores. Los europeos, que no podían visitar el mundo árabe bajo el dominio islámico, habían oído hablar de Petra pero no estaban seguros de su existencia.[3]​ Cuando el viajero suizo Jacob Burckhardt se convirtió en el primer visitante occidental a Petra, desde la época de los romanos, en 1812, no se aventuró en el norte, ni escribió nada al respecto. Posteriormente, también los visitantes occidentales de la región parecen haberse concentrado en el sitio principal de Petra.[2]​ Únicamente a fines de la década de 1950, la arqueóloga inglesa Diana Kirkbride completó sus excavaciones en la propia Petra con excavaciones en el área de Beidha, que incluía a la Pequeña Petra, que no se describe como un sitio separado en ese momento. Estas excavaciones continuaron hasta 1983,[4]​ dos años antes de que la UNESCO registrara el área de Petra, incluidas Beidha y Pequeña Petra, como un sitio de patrimonio mundial.[5]​

Tras esta designación, el turismo en Petra aumentó y volvió a aumentar luego del lanzamiento de la película Indiana Jones y la última cruzada de 1989, que culminó con los personajes principales que montaron el Siq de Petra y Al-Khazneh, donde encontraron el Santo Grial.[6]​ Para garantizar que este crecimiento haya beneficiado a la región y no haya degradado sus recursos arqueológicos, la Autoridad Regional de Petra se creó para administrar todos los recursos dentro de un área de 755 kilómetros cuadrados. Beidha y Pequeña Petra, entre otros sitios satélite, se incluyeron en el parque arqueológico de Petra (264 kilómetros cuadrados).[7]​ El pueblo de Umm Sayhoun fue construido entre Wadi Musa y los dos yacimientos para albergar a los beduinos.[8]​