Nel 1830 con la costruzione del Museo Antico ad opera di Karl-Friedrich Schinkel di fronte al castello di Berlino, fu creato il primo nucleo museale pubblico di opere antiche. Già da allora il visitatore veniva colto dallo stupore osservando la disposizione delle sculture antiche di divinità. Poi seguirono le prime acquisizioni al museo, che in breve tempo si rivelò troppo piccolo, tanto da far decidere la costruzione di un nuovo edificio. Esso fu eretto dall'architetto Friedrich August Stüler tra il 1843 e il 1855 e denominato dapprima Neues Museum ("Museo Nuovo"). La nuova area espositiva permise l'esposizione delle numerose opere egizie acquisite in quegli anni, in un ambiente nuovo e più appropriato.

Successive campagne di scavo in Grecia (Olimpia) e Turchia (Pergamo) incrementarono e arricchirono enormemente il patrimonio museale, determinando l'esigenza di un nuovo edificio dedicato all'esposizione greca e romana. Nel 1930 sorse il nuovo edificio progettato da Alfred Messel e realizzato da Ludwig Hoffmann. Così fu possibile ricostruire gli antichi edifici nelle dimensioni naturali, ponendo le basi al futuro Museo di Pergamo.

Durante gli anni della seconda guerra mondiale il museo soffrì i bombardamenti, anche se fu sostanzialmente risparmiato dalle bombe. Le opere furono protette dagli effetti delle esplosioni grazie a muri di mattoni, mentre i pezzi più piccoli vennero collocati nei sotterranei. Poté riaprire i battenti nel 1951 in maniera parziale, e nel 1953 in maniera completa.
Negli anni 1983-1984 l'esposizione venne riallestita, mutando e migliorando il percorso logico espositivo.