La prima mappatura della Selva Nera si trova nella Tabula Peutingeriana.

Nell'antichità, la Selva Nera era conosciuta come Abnoba mons, dal nome della divinità celtica Abnoba. In epoca romana era chiamata Silva Marciana ("foresta marciana", dal termine germanico "marka" confine). La Foresta Nera rappresentava probabilmente l'area di confine dei Marcomanni ("gente di confine"), insediati a est del limes romano. A loro volta facevano parte della tribù germanica dei Suevi, che in seguito diedero il nome allo stato storico della Svevia. Ad eccezione degli insediamenti romani sul perimetro (ad esempio le terme di Badenweiler e le miniere nei pressi di Badenweiler e Sulzburg) e della costruzione della strada romana di Kinzig, l'insediamento della Foresta Nera non fu realizzato dai Romani, ma dagli Alamanni. Si sono insediati e hanno colonizzato le valli, attraversando il vecchio confine di insediamento, il cosiddetto "confine di arenaria rossa", ad esempio dalla regione di Baar. Poco dopo vennero colonizzate aree sempre più elevate e le foreste adiacenti, tanto che alla fine del X secolo i primi insediamenti si trovavano nella regione dell'arenaria rossa (Bunter). Tra questi c'era anche Rötenbach, menzionato per la prima volta nell'819.

Durante la Guerra dei Sei Pence, nel XV secolo, gli abitanti di Mulhouse e i loro alleati misero a ferro e fuoco l'intera Alsazia e la Foresta Nera.

Alcune delle rivolte (tra cui il movimento Bundschuh) che precedettero la guerra dei contadini tedeschi nel XVI secolo, ebbero origine nella Foresta Nera.

Nella Foresta Nera si trovano resti di fortificazioni militari del XVII e XVIII secolo, soprattutto sui passi di montagna. Tra questi, le numerose opere campali barocche del margravio Luigi Guglielmo di Baden-Baden o singole postazioni difensive come la Fortezza Alexander, la Röschenschanze e la Fortezza Svedese (Schwedenschanze).

La Foresta Nera era in origine una foresta mista di latifoglie e abeti. Ad altitudini più elevate cresceva anche l'abete rosso. A metà del XIX secolo, la Foresta Nera è stata quasi completamente disboscata dalla silvicoltura intensiva e successivamente ripiantata, soprattutto con monocolture di abete rosso.

Vale la pena notare che la Foresta Nera divenne molto popolare in Germania negli anni '60 come sfondo di molti film e serie televisive, alcune delle quali con Roy Black, e successivamente negli anni '80 con serie televisive come La clinica della Foresta Nera.

Il 26 dicembre 1999, il ciclone extra-tropicale Lothar (di intensità inferiore a quella di una tempesta) ha abbattuto numerosi abeti rossi, aprendo molte radure nella foresta.