Conform legendei, originea sit-ului datează din secolul al III-lea: trimișii împăratului indian Așoka ar fi adus sternul lui Buddha și s-a construit o stupa pentru a așeza această relicvă. Cu toate acestea, cercetările efectuate nu au scos la iveală vestigii din această perioadă. Cele mai vechi articole găsite datează din perioada khmeră, în jurul secolelor al XII-lea și al XIII-lea.

Prima atestare a stupei datează din 1566, din timpul regelui Setthathirat, a cărui statuie este ridicată în fața mănăstirii, care a construit sau reconstruit monumentul. Distrus de siamezi în secolul al XVIII-lea și din nou în timpul jefuirii orașului în 1827, stupa a fost reconstruită de regele Anou. El a fost cel care a adăugat mânăstirea.

Dar, de-a lungul anilor, monumentul s-a deteriorat din nou. A fost restaurat spre 1901 de Școala franceză din Extremul Orient, dar opțiunile arhitecturale alese au contrariat pe majoritatea laoțienilor, care ar fi dorit o formă mai aproape de original. Bazat pe documente antice, inclusiv pe desene ale lui Louis Delaporte din 1866, guvernul laoțian a modificat monumentul în 1930, pentru a da forma sa actuală.

Pentru cea de a 450-a aniversare a orașului Vientiane din noiembrie 2010, esplanada, devenită prea îngustă pentru sărbătoarea That Luang, a fost extinsă: suprafața sa a crescut de la 7,67 la 12,75 hectare (241 de familii care locuiau în apropiere au fost mutate în suburbii). Un nou drum de acces a fost realizat în nord și un nou templu, Hor Thammasapha a fost construit.