Înainte de sosirea colonistilor Europeni , regiunea a fost parte din patria indienienilor Cherokee. Primii imigranți au început să se așeze în acest loc în secolul 18 si începutul secolului 19. În 1830 Președintele Andrew Jackson a semnat actul de eliminare a tuturor indienilor din zonă, începând procesul care a dus la eliminarea forțată a tuturor triburilor indiene la est de Mississippi River ,unde este acum Oklahoma. Mulți din indienii din tribul Cherokee au plecat, dar unii, conduși de războinicul Tsali, s-au ascuns în zona care este acum Parcul National Great Smoky Mountains. Unii dintre descendenții acestora trăiesc acum în rezervația Qualla , in sudul parcului. Cum coloniștii au început să se mute, s-a dezvoltat o mare industrie la munte, și, o linie de cale ferată, Little River Railroad, a fost construită la sfârșitul secolului 19 pentru a transporta lemnul în regiuni îndepărtate din zonă. Scopul stilului Taie-și-execută a fost distrugerea frumuseții naturale a zonei, pentru ca vizitatori și localnicii împreună să strângă bani pentru conservarea terenului. Serviciul Parcurilor Nationale din SUA a vrut un parc în estul Statelor Unite, dar nu au vrut să cheltuie bani pentru a crea unul. John D. Rockefeller, Jr. a contribuit cu 5 milioane dolari, Guvernul SUA a adăugat 2 milioane dolari, iar cetățeni din Tennessee și Carolina de Nord s-au reunit pentru a construi parcul, bucată cu bucată. Parcul a fost stabilit oficial pe 15 iunie 1934. Parcul a fost desemnat o Rezervație Internatională a Biosferei în anul 1976, a fost certificată ca un Patrimoniu Mondial UNESCO în anul 1983, și a devenit o parte din zona de sud a Rezervației Biosferei Appalachian în anul 1988.