גילה המדויק של מוסקבה אינו ידוע. היישובים הראשונים קמו בשטח מוסקבה בתקופה הנאוליתית, כ-8 אלף שנה לפני הספירה.

ההתייחסות הראשונה למוסקבה מתוארכת ל-1147 כשיורי דולגורוקי קרא לנסיך רפובליקת נובגורוד "בוא אלי, אחי, למוסקבה".

 

תשע שנים מאוחר יותר, ב-1156, קרא דולגורוקי לבניית חומת עץ, שנבנתה מספר פעמים מחדש, מסביב לעיר. בשנים 1237 – 1238 שרפו המונגולים את העיר עד לעפר ותושבים רבים נלקחו בשבי. העיר התאוששה והפכה לבירת נסיכות עצמאית ב-1327. מיקומה המבטיח על מקורו של נהר הוולגה תרם לפיתוחה הקבוע. מוסקבה צמחה לנסיכות יציבה ומשגשגת למשך שנים רבות ומשכה מספר גדול של פליטים מכל רחבי רוסיה.

תחת שלטונו של איוואן הראשון, החליפה העיר את מקומה של טבר כמרכז הפוליטי של נסיכות ולדימיר, והפכה לגובת המסים היחידה של השליטים המונגולים. היות ששילם מס גבוה, זכה איוואן לזיכיון החשוב מהחאן. שלא כמו נסיכויות אחרות, מוסקבה לא חולקה בין בניו לאחר מותו, אלא עברה בשלמותה לבנו הבכור. ב-1380 הוביל הנסיך דמיטרי דונסקוי ממוסקבה צבא רוסי מאוחד לניצחון חשוב על אורדת הזהב בקרב קוליקובו. שנתיים בלבד לאחר מכן נבזזה מוסקבה על ידי החאן טוכטמיש. ב-1480, איוואן השלישי השיג עצמאות מלאה משליטי אורדת הזהב, ואפשר למוסקבה להפוך לכוח המרכזי ברוסיה. בזמנו של איוואן הפכה העיר לבירתה של אימפריה שעתידה לכלול את כל שטחה של רוסיה המודרנית ושטחים נוספים.

ב-1571 הטטרים מקרים תקפו ובזזו את מוסקבה, ושרפו את כולה פרט לקרמלין.

ב-1609 החל הצבא השוודי, בפיקודם של הרוזן יאקוב דה לה גארדי ואוורט הורן, את מסעו מנובגורוד אל מוסקבה, כדי לעזור לצאר וסילי שויסקי להיכנס לעיר ב-1610 ולדכא את המרד שפרץ נגדו. הצבא עזב את העיר בשנה שלאחר מכן, לאחר פלישתו של האיחוד הפולני-ליטאי. במהלך המלחמה, נכנס ההטמן סטאניסלב ז'ולקיווסקי למוסקבה לאחר שהביס את הרוסים בקרב קלושינו.

תחילת המאה ה-17 הייתה עשירה בהתקוממויות ובסופו של דבר שוחררה מוסקבה משליטת פולין ב-1612. במהלך המאה ה-17 היו גם התקוממויות נוספות כמו מהומת המלח של 1648, מהומת הנחושת של 1662 ומרד מוסקבה של 1682.

מגפת המוות השחור כילתה כחצי מאוכלוסיית העיר, והיא חדלה לשמש כבירת רוסיה ב-1712, לאחר הקמתה של סנקט פטרבורג על ידי פיוטר הגדול על חוף הים הבלטי ב-1703. כשנפוליאון פלש לרוסיה ב-1812, תושבי העיר שרפוה והתפנו ממנה בפקודת הצאר אלכסנדר הראשון, לאחר שכוחותיו של נפוליאון הגיעו לעיר ב-14 בספטמבר. צבאו של נפוליאון, שנפגע מהרעב, מהקור ומהאספקה הדלה, אולץ לסגת מן העיר וכמעט הושמד בשל החורף הרוסי הקשה והתקפות הרוסים.

במהלך מהפכת 1905 התרחשו בעיר קרבות בין השלטון לפועלים. לאחר מהפכת אוקטובר (1917) הפכה מוסקבה לבירת הרפובליקה הסובייטית הפדרטיבית הסוציאליסטית הרוסית, וחמש שנים מאוחר יותר לבירת ברית המועצות. במהלך "מלחמת המולדת הגדולה" נגד הגרמנים במלחמת העולם השנייה, התמקמו מועצת ההגנה הלאומית הסובייטית והמטה הכללי של הצבא האדום במוסקבה.

בתקופת סטלין נהרסו מבנים עתיקים רבים, לרבות אנדרטאות ואזורים במרכז העיר, נסללו כבישים רחבים והוקמו אמצעי תחבורה רבים. במקביל הוקמו מספר רב של אזורי תעשייה, לטובת ריכוז כל המפעלים הלאומיים בעיר. בנוסף, הוקמו אוניברסיטאות רבות ומרכזי לימוד לשלל מקצועות.

ב-1941, במהלך מלחמת העולם השנייה, הוקמו על בסיס תושבי העיר כ-16 דיוויזיות של מתנדבים לאומיים (כ-160,000 איש), כ-25 גדודים (כ-18,500 איש) וארבע חטיבות הנדסה. בנובמבר באותה השנה, נעצרה קבוצת ארמיות מרכז הגרמנית בפאתי העיר, והחל הקרב על מוסקבה. בתי חרושת רבים פונו, יחד עם רוב התושבים והממשל מהעיר, ומה-20 באוקטובר הוכרזה העיר כנצורה. התושבים שנותרו בעיר בנו ואיישו הגנות נ"ט בזמן שהעיר הופצצה מן האוויר. במהלך הקרב סירב סטלין לעזוב את העיר ולכן המטה הכללי והמועצה נותרו גם הם בעיר. על אף המצור וההפצצות, המשיכו מבני הרכבת התחתית של מוסקבה לפעול, וקרוב לסוף הלחימה אף נפתחו קווים חדשים.

ב-1 במאי 1944 הוענקה לעיר מדליה על הגנת מוסקבה. ב-1947 הוענקה לעיר מדליה ליום השנה ה-800 ולראשונה נחגג יום העיר. ב-8 במאי 1965, הייתה מוסקבה אחת משתים עשרה הערים הסובייטיות להן הוענקו התואר עיר גיבורה, להנצחת יום השנה ה-20 לניצחון בעלות הברית.

ב-1980 אירחה העיר את משחקי הקיץ האולימפיים, שהוחרמו על ידי ארצות הברית ועל ידי מספר מדינות מערביות נוספות, בעקבות פלישת ברית המועצות לאפגניסטן ב-1979. בקצה המערבי של העיר הוקם הכפר האולימפי. רוב מתקני הספורט הוקמו בסמוך לאצטדיון לוז'ינקי.

ב-1991 אירע במוסקבה ניסיון ההפיכה של חברי הממשלה שהתנגדו לרפורמות בשלטונו של מיכאיל גורבצ'וב. כאשר התפרקה ברית המועצות באותה השנה, המשיכה מוסקבה לשמש כבירת רוסיה.

מאז 1993 וכניסתה של כלכלת השוק למוסקבה, השתנתה העיר מ-"בירה תעשייתית" שבה רוכזו בתקופה הסובייטית כל המפעלים החשובים ל"בירה מסחרית" בה מרוכזים רוב המשרדים והחברות הלאומיות של רוסיה, בדומה לרוב המדינות המערביות. השינוי הביא לעיר קמעונאות, שירותים, אדריכלות ואורח חיים מערביים, והוביל להקמת מרכזי סחר בינלאומיים. לאחר נפילת הגוש הקומוניסטי במזרח אירופה ופתיחתה לעולם מתוכננת העיר להפוך לעיר עולם, ביחד עם איסטנבול.

ב-2009 אירחה לראשונה את תחרות הזמר של האירוויזיון. ב-2010 פוטר ראש העיר מאז 1992, יורי לוז'קוב, והוחלף בסרגיי סוביאנין. במהלך 2012 הורחב שטח העיר מכ-1.1 אלף קמ"ר לכ-2.5 אלף קמ"ר תוך הקמת שני אזורים מנהליים חדשים (11 ו-12 במפה) אליהם מתוכננים לעבור גם כל משרדי הממשלה. ב-2015 החל תהליך שיקום נהר המוסקבה ויובליו ביחד עם הקמת טיילת משני צדדיו.

בקיץ 2017 אירחה את משחקי גביע הקונפדרציות ושנה לאחר מכן את משחקי גביע העולם בכדורגל. במהלך מגפת הקורונה ברוסיה העיר הייתה מוקד התחלואה העיקרי במדינה.