O mosteiro de Phugtal foi construído em volta de uma caverna natural, que segundo a tradição teria sido visitada por numerosos sábios, académicos, tradutores e monges cerca do século VI a.C. A localização remota era ideal para monges que procuravam paz e solidão para meditar. A gompa atual foi fundada no início do século XV por Jangsem Sherap Zangpo, um discípulo de Tsongkhapa (1357–1419), do fundador da escola Gelug, uma das mais recentes e mais proeminentes escolas do budismo tibetano.

Os lendários seguidores de Buda conhecidos como os Dezasseis Arhats teriam sido dos primeiros residentes da caverna. Nas pinturas das paredes da caverna estão representados stes 16 arhats. Também se acredita que os destacados mestres e lotsawas (tradutores de textos sagrados budistas para tibetano) Padmasambhava e Phakspa Nestan Dusdan também viveram na caverna, bem como o grande líder e tradutor Marpa Lotsawa. No século XII, foi a vez do tradutor tibetano Zanskar Lotsawa Phagpa Sherab viver na e trabalhar na caverna. Os irmãos académicos Dangsong, Pun e Sum, que se acreditava terem o poder sobrenatural de voar, ensinaram Dharma em Phugtal. Quando Jangsem Sherap Zangpo chegou a Phugtal, os irmãos legaram-lhe o local sagrado e partiram. Segundo a lenda, o espiritualmente dotado Zangpo fez brotar uma fonte na caverna, uma árvore nascesse por cima da caverna e que esta aumentasse de tamanho. Depois, sob a sua orientação, o atual mosteiro foi construído em volta da caverna.

Entre 1926 e 1927, o filólogo orientalista húngaro Kőrösi Csoma Sándor (ca. 1784–1842), considerado o pai da tibetologia, viveu no mosteiro quando explorava o Ladaque, onde trabalhou no primeiro dicionário inglês-tibetano. Atualmente há uma tabuleta de pedra que recorda essa estadia.

Em 31 de dezembro de 2014 ocorreu um deslizamento de terra entre as aldeia de Shun e Phuktal, que causaram a formação de uma barragem natural no rio Tsarap. Esta foi detetada devido ao abaixamento do nível de água na Barragem de Nimoo Bazgo do rio Indo, várias dezenas de quilómetros a jusante. A albufeira formada pela barragem. Em maio de 2015, houve uma enchente no rio Tsarap que inundou e destruiu todo o complexo escolar do mosteiro. As autoridades do mosteiro solicitaram a ajuda do governo estadual de Jamu e Caxemira e do governo central indiano para a reconstrução da escola e reparações no mosteiro.