Biblioteka została ufundowana przez George’a Peabody’ego, żyjącego w latach 1795–1869. Peabody w czasie wojny z 1812 roku służył w milicji broniącej Baltimore przed atakiem Brytyjczyków. Następnie w drugiej i trzeciej dekadzie XIX wieku, będąc przedsiębiorcą zajmującym się handlem, stał się jednym z zamożniejszych obywateli Baltimore, a w lutym 1857 roku przekazał 300 tysięcy dolarów jako kapitał początkowy dla Instytutu Peabody’ego[1]. Początkowo planowano otwarcie instytutu na rok 1860, jednakże dokonanie tego uniemożliwiały walki toczące się w sąsiednim stanie, będące częścią wojny secesyjnej. Opóźnienie wywołane przez walki spowodowało odwleczenie otwarcia instytutu o 6 lat. Ostateczne otwarcie nastąpiło w 1866 roku. Zarówno pierwszy bibliotekarz Biblioteki George’a Peabody’ego, John Morris, jak i Rada Biblioteczna, której przewodził George Pendleton Kennedy, wykorzystali ten czas na badanie i katalogowanie zbiorów największych bibliotek amerykańskich i europejskich. Morris stworzył listę 50 000 książek i czynnie dążył do ich uzyskania, niezależnie od trudności i kosztów. Praktyka ta okazała się wielkim sukcesem i była kontynuowana przez następcę Morrisa, Nathaniela Holmesa Morrisona. Jako asystent Morrisona, naukowiec Philip Reese Uhler rozszerzył tę praktykę o teksty naukowe, poprzez poszukiwanie porad ekspertów z kilku dziedzin naukowych. Taka forma tworzenia zbiorów stała się standardem w bibliotekach akademickich[2].

Kiedy biblioteka została otwarta, Peabody zadedykował jej pierwszą część, skrzydło zachodnie Instytutu Peabody’ego, obywatelom Baltimore jako wyraz wdzięczności za ich życzliwość i gościnność. Instytut został zaplanowany tak, aby być centrum kulturowym Baltimore, z planami budowy galerii sztuki, szkoły muzycznej, prowadzenia wykładów otwartych, oraz nagród wartościowych, takich jak złote medale znane jako „Nagrody Peabody’ego” dla absolwentów trzech znajdujących się w tamtym czasie szkół średnich w Baltimore, z najlepszymi wynikami w nauce. W planach znajdowało się również otwarcie biblioteki dla pracowników naukowych, którą w latach 1876–1878 przeniesiono do wschodniego skrzydła budynku.

Obecna struktura biblioteki we wschodnim skrzydle została zaprojektowana przez znanego lokalnego architekta Edmunda G. Linda i otwarta dla publiczności w 1878 roku. Biblioteka była częścią Instytutu Peabody’ego do 1967 roku, kiedy została przekazana na rzecz miasta Baltimore i stała się oddziałem leżącej nieopodal Wolnej Bilioteki Enocha Pratta. W 1982 roku została przekazana na rzecz Uniwersytetu Johnsa Hopkinsa i została częścią Zbiorów Specjalnych Biblioteki Eisenhowera na kampusie Homwood i częścią Bibliotek Sheridan na Uniwersytecie Johnsa Hopkinsa, co wynika z faktu że Instytut Peabody’ego jest powiązany z tym uniwersytetem[3].