כבר בעת הקמת מוזיאון קייזר וילהלם (ה-Kaiser-Wilhelm-Museum, לימים מוזיאון בודה) היה ברור שבמוזיאון לא היה די מקום להציג את המוצגים הארכאולוגיים הרבים שנאספו על ידי ארכאולוגים גרמנים ברחבי העולם. בשלהי המאה ה-19 ובראשית המאה ה-20 חפרו ארכאולוגים גרמנים בבבל, ארך, אשור, יוון, אסיה הקטנה מילטוס, פריאנה ובמצרים.

כבר בשנת 1907 תכנן וילהלם פון בודה (אנ'), אוצר מוזיאון הקייזר וילהלם להקים מדרום למבנה המוזיאון מבנה נוסף להצגת המוצגים הארכאולוגיים וכן להצגת אמנות אסלאמית.

מבנה המוזיאון בן שלושת האגפים תוכנן על ידי אלפרד מסל (Alfred Messel), ולאחר מותו של מסל בשנת 1909 המשיך עמיתו, לודוויג הופמן (Ludwig Hoffman) בתכנון המבנה ופיקח על הבנייה, שהחלה בשנת 1910. הבנייה נמשכה במהלך מלחמת העולם הראשונה והסתיימה בשנת 1930 הרבה בדחיפתו של תאודור ויגאנד, הממונה על אוספי העתיקות של מוזיאוני ברלין. עיכובים רבים נגרמו בשל המלחמה ובשל השפל הכלכלי הגדול וההיפר-אינפלציה בגרמניה בשנות ה-20.

מבנה המוזיאון נפגע קשות במהלך הקרב על ברלין בשלהי מלחמת העולם השנייה (את הפגיעות בקירות המבנה ניתן לראות גם כיום בצדו הצפוני של המבנה, הפונה לעבר תחנת הרכבת התחתית).

במהלך המלחמה אוחסנו מרבית המוצגים במקלטים, והמבנים השלמים המוצגים במוזיאון כוסו בקירות מגן. בשנת 1945 אסף הצבא האדום מוצגים רבים שהועברו לברית המועצות. חלק מהמוצגים הושבו לגרמניה המזרחית בשנת 1958. יתרתם עדיין מוצגים במוזיאון פושקין במוסקבה ובמוזיאון הארמיטאז' בסנקט פטרבורג. על פי הסכם משנת 2003 בין גרמניה לרוסיה התחייבה רוסיה להשיב את המוצגים, אולם טרם עשתה זאת, מאחר שההסכם סותר את החקיקה הרוסית האוסרת על הוצאת מוצגים ארכאולוגיים מהמדינה.