Le sentier est conçu par Benton MacKaye, un forestier qui a tracé son plan original peu après la mort de sa femme en 1921. L'idée de MacKaye est celle d'un sentier grandiose qui relierait, pour les citadins, une série de fermes et de camps de travail ou d'étude de la nature sauvage. En 1922, avec l'aide de William A. Welch, directeur de la Palisades Interstate Park Commission, son idée est dévoilée par Raymond H. Torrey dans un article du New York Evening Post (futur New York Post) sous le gros titre A Great Trail from Maine to Georgia! (« Un grand sentier du Maine à la Géorgie ! »). L'idée est rapidement adoptée par la nouvelle Palisades Interstate Park Trail Conference (future New York – New Jersey Trail Conference) en tant que projet principal.

 Le pont de Bear Mountain qui franchit le fleuve Hudson est utilisé par le Sentier des Appalaches.

Le 7 octobre 1923, la première section de la piste, partant du parc d'État de Bear Mountain vers l'ouest à travers le parc d'État de Harriman jusqu'à Arden dans l'État de New York, est ouverte. MacKaye organise ensuite une conférence de deux jours en mars 1925 à Washington qui aboutit à la formation de l’Appalachian Trail Conference (maintenant appelée Appalachian Trail Conservancy, ATC), bien que peu de progrès aient été faits sur le sentier pendant plusieurs années.

À la fin des années 1920 et au début des années 1930, un juge à la retraite nommé Arthur Perkins et son jeune associé Myron Avery se lancent dans l'aventure. En 1929, Perkins, qui était aussi un membre de la Connecticut Forest and Park Association et de son comité consacré aux sentiers locaux, trouve un bénévole disposé à continuer le projet. Ned Anderson, un agriculteur de Sherman dans le Connecticut, est pris (en tant que membre des deux organisations) avec pour tâche de cartographier et de relier le sentier au Connecticut (1929-1933). Il relie le hameau de Webatuck (Dover dans l'État de New York) et Kent au Connecticut à Ashley Falls située à 80 kilomètres à travers le coin nord-ouest de l'État, puis à Bear Mountain à la frontière du Massachusetts[1],[Note 1].

Les efforts d'Anderson aident à déclencher un regain d'intérêt pour le sentier et Avery (qui a repris la charge depuis la mort de Perkins en 1932) est en mesure d'intéresser d'autres États à l'initiative. Après avoir repris l'ATC, Avery adopte l'objectif plus pratique de construction d'un sentier de randonnée simple. Alors qu'Avery veut simplement redessiner le sentier, MacKaye pense que l'ATC doit réaliser un développement commercial majeur sur le parcours du sentier et, en désaccord, il quitte l'organisation. Avery dirige l'ATC de 1932 jusqu'à 1952 (il est mort la même année) et se révèle comme un ardent défenseur du sentier.

 Sugarloaf Mountain vue depuis le Sentier des Appalaches.

Avery est le premier à parcourir le sentier de bout en bout en 1936, mais pas de manière continue. En août 1937, le sentier est rallongé jusqu'à la Sugarloaf Mountain dans le Maine, et l'ATC réoriente ses efforts vers la protection des terres autour du sentier et la cartographie des chemins pour les randonneurs. De 1938 à la fin de la Seconde Guerre mondiale, la piste subit une série de dégradations naturelles et artificielles, mais elles sont réparées rapidement.

En 1948, Earl Shaffer, de York en Pennsylvanie, apporte une grande attention au projet en dévoilant le premier compte rendu documenté d'une randonnée[3] réalisée en une seule saison, c'est-à-dire d'une traite, ce qui sera appelé du thru-hiking. Plus tard, Shaffer termine également la première randonnée nord-sud, faisant de lui le premier à la faire dans chaque direction[4]. En 1998, Shaffer, à près de 80 ans, a encore une fois parcouru la totalité du sentier, faisant de lui la personne la plus âgée à avoir jamais fait cette randonnée en thru-hike[5],[6].

En 1994, une histoire paraît dans les Appalachian Trailway News, décrivant une randonnée en thru-hike de 121 jours du Maine en Géorgie en 1936 par six scouts du Bronx[7]. Bien que l'histoire ait été acceptée par certains membres de l'ALDHA[8], beaucoup de doutes sont exprimés[9] et cette randonnée en thru-hike — qui serait l'une des plus anciennes — n'a jamais été confirmée. Du coup, la randonnée en thru-hike de 1948 par Shaffer est encore généralement reconnue comme la première.

Dans les années 1960, l'ATC fait des progrès dans la protection de la piste grâce aux efforts des hommes politiques et des fonctionnaires. C'est l'un des deux premiers National Scenic Trails (« chemins de randonnées paysages ») créés par une loi du Congrès des États-Unis du National Trails System avec le Pacific Crest Trail. Il ouvre ainsi la voie à une série de sentiers du même type au sein des parcs nationaux et des ensembles forestiers[10]. Des bénévoles travaillant avec le National Park Service établissent une route permanente du sentier, ce qui est fait en 1971[Note 2]. À la fin du XXe siècle, le National Park Service complète l'acquisition de quasiment tous les terrains où se trouvent le sentier, à l'exception de quelques kilomètres.

Erreur de référence : Des balises <ref> existent pour un groupe nommé « Note », mais aucune balise <references group="Note"/> correspondante n’a été trouvée