Muzeum wybudowane zostało w latach 1910–1930. Projekt Alfreda Messela powstał w 1906 roku, a budynek został wybudowany przez Ludwiga Hoffmanna. Powstał jako ostatni z pięciu gmachów muzealnych na Wyspie Muzeów. Został zaprojektowany jako budowla trójskrzydłowa[1]. Planowane czwarte skrzydło i portyk przy wejściu nie zostały zrealizowane[2].

Po otwarciu w 1930 roku w ówczesnym nowym budynku wystawowym umieszczono cztery muzea: Muzeum Niemieckie w północnym skrzydle, Muzeum Pergamońskie w środkowej części oraz Muzeum Bliskiego Wschodu i Islamu w południowym skrzydle. Pod koniec II wojny światowej, w 1945 roku muzeum ucierpiało podczas bombardowania Berlina. Część zbiorów uległa zniszczeniu, a liczne obiekty, w tym Fryz z Ołtarza pergamońskiego został wywieziony do Związku Radzieckiego. W latach 1948 do 1959 roku Muzeum zostało odbudowane. Wtedy też wróciła większość wywiezionych dzieł. Zamiast Muzeum Niemieckiego w północnym skrzydle umieszczono Zbiory Sztuki Starożytnej, Muzeum Sztuki Wschodu i Muzeum Sztuki Islamskiej. W latach 80. XX-wieku został zbudowany pawilon przy wejściu[2].

W 2000 roku ogłoszono konkurs na przebudowę Muzeum. Konkurs wygrała kolońska firma OM Ungers[3]. Po śmierci Oswalda Ungersa w 2007 roku zlecono wykonanie projektu „Werkgemeinschaft Pergamonmuseum”[3]. Przebudowę postanowiono zrealizować bez zamykania Muzeum. W pierwszej fazie budowy zaplanowane zostało odnowienie północnego skrzydła i środkowej części Muzeum. W drugiej fazie budowy zostanie zbudowane czwarte skrzydło i odnowione skrzydło południowe[3].

W ramach remontu sala z Ołtarzem pergamońskim będzie zamknięta do co najmniej 2023 roku. Zostało również zamknięte skrzydło północne i sala hellenistyczna. Niedostępne są eksponaty z Uruk i Habuba Kabira oraz sale z zabytkami babilońskimi, asyryjskimi i sumeryjskimi. Z powodu prac w Muzeum Pergamońskim niektóre eksponaty w Muzeum Bliskiego Wschodu ze względów bezpieczeństwa nie są eksponowane[3].

Można zwiedzać południowe skrzydło Muzeum z Bramą Isztar, drogą procesyjną i Muzeum Sztuki Islamskiej, a także salę z rzymską bramą targową z Miletu[3].

W 2018 roku Pruska Fundacja Dziedzictwa Kulturowego planuje otwarcie tymczasowego budynku wystawienniczego „Muzeum Pergamonu”, który powstaje naprzeciwko Wyspy Muzeów przy Kupfergraben i obok linii kolejowej. W dwupiętrowym budynku w kształcie rotundy będą sale wystawowe, kawiarnia i sklep. Wystawa „Pergamon” została zaprojektowana przez Antikensammlung ze Staatliche Museen z Berlina. Zostaną na niej pokazane fragmenty Ołtarza Pergamońskiego, w tym Fryz Telephosa, które znajdą się w jej centrum. Projektowana jest też wizualizacja 3D Ołtarza, aby odwiedzający mogli go w tej formie zobaczyć, gdyż będzie niedostępny aż do 2023 roku[4].