Το πρώτο αρχαιολογικό μουσείο στην Ελλάδα δημιουργήθηκε από τον Κυβερνήτη Ιωάννη Καποδίστρια στην Αίγινα το 1829. Από τότε η αρχαιολογική συλλογή εκτέθηκε σε διάφορα μέρη, μέχρι το 1858 όταν προκηρύχθηκε διεθνής αρχιτεκτονικός διαγωνισμός για την τοποθεσία και το σχέδιο του μουσείου. Η τοποθεσία που βρίσκεται τώρα το μουσείο δωρήθηκε από την Ελένη Τοσίτσα και η κατασκευή του ξεκίνησε το 1866 και ολοκληρώθηκε το 1889, χρησιμοποιώντας κονδύλια από την ελληνική κυβέρνηση, την Ελληνική Αρχαιολογική Εταιρία και την κοινότητα των Μυκηνών. Μεγάλοι ευεργέτες ήταν επίσης και οι Δημήτριος και Νικόλαος Βερναρδάκης από την Αγία Πετρούπολη, οι οποίοι έδωσαν μεγάλο χρηματικό ποσό.

Η αρχική ονομασία του μουσείου ήταν Το Κεντρικόν Αρχαιολογικόν Μουσείον και αρχικά με διάταγμα του βασιλιά Όθωνα στεγάστηκε στο Ναό του Ηφαίστου μέχρι το 1874. Έπειτα από ταλαιπωρίες και επακόλουθες στεγάσεις των εκθεμάτων η δημιουργία του νέου μουσείου ξεκίνησε το 1866. Έλαβε τη σημερινή του ονομασία το 1881 από τον πρωθυπουργό Χαρίλαο Τρικούπη. Κατά τον Β΄ Παγκόσμιο Πόλεμο, το μουσείο σταμάτησε να λειτουργεί και οι αρχαιότητες εγκιβωτίστηκαν και κρύφτηκαν για την προστασία τους.

Η νότια πτέρυγα του μουσείου στεγάζει το Επιγραφικό Μουσείο, που διαθέτει την πλουσιότερη συλλογή επιγραφών παγκοσμίως [1]. Το μουσείο αυτό δημιουργήθηκε κατά τα έτη 1953 - 1960 με σχέδια του αρχιτέκτονα Περικλή Καραντινού.