Per migliaia di anni le popolazioni nomadi hanno camminato attraverso questa zona ma a causa dell'ambiente del deserto questa gente si spostò costantemente alla ricerca di rifornimenti idrici e di cibo.[1] Il problema dell'acqua è stato risolto solo recentemente: infatti a Coober Pedy arriva il rifornimento idrico da una fonte sotterranea posta 24 chilometri a nord della città.[2] Nel gennaio 1915 Jim Hutchison e suo figlio adolescente William stavano cercando, senza successo, l'oro a Coober Pedy. I due avevano installato un accampamento e, mentre cercavano l'acqua, William trovò un opale sul terreno.[1]

Coober Pedy originalmente era conosciuto come il "campo opalino dello Stuart" perché deve il suo nome a John McDouall Stuart, che nel 1858 fu il primo esploratore europeo della zona. Nel 1920 è stato cambiato il nome in Coober Pedy. Durante la grande depressione del 1930 i prezzi dell'opale scesero repentinamente e l'estrazione si ridusse, quasi arrestandosi.[1][2]

Il completamento della ferrovia trans-continentale nel 1917 favorì lo sviluppo della cittadina e l'insediamento di un gran numero di reduci della prima guerra mondiale. I nuovi arrivati, abituati alla vita di trincea, ebbero l'idea di scavare le abitazioni nel sottosuolo dove le temperature più miti alleviavano i disagi del luogo tra cui il clima secco e la mancanza di acqua. La riserva idrica si limitava ai sessanta litri della cisterna comune, riempita una volta alla settimana. Durante gli anni sessanta, l'industria estrattiva si è espansa velocemente grazie ai molti immigrati europei che vi vennero a cercare fortuna.[2]