Le musée a été fondé en 1867 par un décret royal de la reine Isabelle II, sa vocation étant d'être un lieu de dépôt pour les collections royales espagnoles de numismatique, d’archéologie, d’ethnographie et d’arts décoratifs.

Le musée a été notamment dirigé par Juan de Dios de la Rada y Delgado (1894–1900), José Amador de los Ríos (1900–1916), Martín Almagro Basch (1968-1981) et Martín Almagro Gorbea (1998-1999).

En 1895, les dépôts furent transférés dans la bâtisse actuelle (1866-1892), une construction néoclassique de l'architecte Francisco Jareño. En 1968 débutèrent des travaux de rénovation et d'extension qui augmentèrent considérablement sa superficie.

Le 31 mars 2014 a été inauguré le nouveau musée archéologique national, à la suite d’une restructuration complète. Fermé depuis plus deux ans, et pour un coût supérieur à 51,7 millions d'euros, l'établissement situé près du musée du Prado a été remodelé de fond en comble. La surface utile, passant de plus de 19 000 à 23 303 m2, a été optimisée afin de faciliter au public une circulation plus libre au milieu d'une collection plus ample de pièces présentées. Les patios couverts accueillent en outre la bibliothèque et les services internes. L'équipement technologique est lui aussi plus moderne. La nouvelle présentation de la collection fait suite à un programme de conservation et de restauration réalisé par la Direction Générale des Beaux-Arts et des Biens Culturels et par les Archives et Bibliothèques du ministère de l'Éducation, de la Culture et des Sports. L'édifice a été adapté à tout public, facilitant son accès aux personnes handicapées.