A könyvtár az 1800. évi kongresszusra épült, és a 19. század jelentős részében az Amerikai Egyesült Államok Capitoliumában működött. Miután az 1812-ben folyó brit–amerikai háború idején gyűjteményének legnagyobb része elpusztult, Thomas Jefferson saját gyűjteményét, 6487 kötetet adott el a könyvtár részére.[1][2] A század közepétől az amerikai polgárháborút követően a könyvtár gyors növekedésnek indult méretében és jelentőségében egyaránt. A 20. századra kimagasló szerepet szerzett magának az értékek megőrzésében. A könyvtár elsődleges küldetése, hogy a kongresszusi tagok által felvetett kérdéseket kutassa. Bár a könyvtár nyitva áll a nyilvánosság előtt, csak könyvtártagok, kongresszusi tagok, a legfelsőbb bíróság bírói és más magas rangú hivatalnokok nézhetnek bele a könyvekbe.

A könyvtár négy helyszínen működik. Legrégebbi épülete a Thomas Jefferson-épület, mely 1897-ben nyílt meg, a könyvtár fő épülete. A John Adams-épület 1939 januárjában, a James Madison Memorial-épület 1980-ban, az audio-video központként üzemelő Packard Campus pedig 2007-ben nyílt meg.