De bouw van het museum begon in 1866 en werd in 1889 voltooid met steun van een fonds van de Griekse regering, de archeologische vereniging en de vereniging van mecenassen. Het oorspronkelijke ontwerp van architect Ludwig Lange, werd later nog door Panages Kalkos, Harmodios Vlachos en Ernst Ziller gewijzigd. In 1939 werd een tweede verdieping aan het museum toegevoegd.

De recentste opknapbeurt van het museum duurde meer dan anderhalf jaar. Gedurende deze periode was het museum volledig gesloten. Het museum werd heropend in juli 2004, net op tijd voor de Olympische Zomerspelen 2004 te Athene en het hield een esthetische en technische opwaardering van het gebouw, alsook een reorganisatie van de verzameling en herstelling van de schade die het museum tijdens de aardbeving in 1999 had opgelopen.