Sua construção se deu por volta de 640 d.C., a mando do primeiro imperador do Tibete, Songtsen Gampo, para abrigar uma estátua do buda que sua primeira esposa, a princesa nepalesa Bhrikuti, trouxe como dote. O templo foi chamado de Ra-sa Trül-nang (Templo milagrosamente manifestado de Rasa). Foi construído somente um salão quadrado com dois pavimentos, que atualmente é o salão principal.[1][2]

No século IX, houve a supressão do budismo pelo Langdarma, e o templo foi vandalizado. No inicio do século XII, o templo passou por uma disputa, durante uma guerra sectária entre quatro grupos rivais de monges e, durante este período, passou por abandono até 1160, quando se encerrou a disputa entre os grupos e Dwagpo Gomtsul passou a cuidar do templo, e depois foi sucedido por Gewabum, que reformou e ampliou o edifício.[1][2]

Durante muito tempo, o templo ficou sob os cuidados dos Dépas do Mosteiro Tshal Gungthang. Para a celebração do Ano Novo, de 1409, Tsongkhapa, fundador do Gelukpa, renovou o templo e criou o Grande Festival de Oração. Entre os anos de 1498 e 1517, os monges Karmapa e Sangphupa foram responsáveis pelo Grande Festival de Oração. Em 1518, os monges Gelukpa retomaram a responsabilidade pelo festival, até o ano de 1959.[1]

Em meados do século XVII, o quinto Dalai Lama, Lobzang Gyatso, estabeleceu seu governo em Lhasa. Durante seu governo, renovou o Jokhang e escreveu o primeiro catálogo do templo (dkar chag), que foi traduzido para outras línguas. Foi durante o governo do sétimo Dalai Lama que o templo chegou no tamanho que se encontra atualmente.[1][2]