כ-1,000 שנים לפני הספירה ישבו באזור שבטים אילירים, ואחר כך שבטים קלטיים. במאה ה-1 לפני הספירה חילקו רומאים את הארץ לשלוש פרובינציות. לאחר התפוררות האימפריה הרומית חדרו לארץ שבטים סלאביים וגרמאניים. בשנת 800 הקים קרל הגדול את "רוזנות הסְפָר המזרחי" (אוסטמארק), וזהו מקור השם "אוסטריה" (בגרמנית: Österreich, "ממלכת המזרח"). בהמשך פלשו לשטחיה ההונגרים, והובסו על ידי הקיסר אוטו הראשון במאה ה-10.

במאה ה-13 הוחלף שלטונו של בית באבנברג בבית הבסבורג, אשר שלט בה עד סוף מלחמת העולם הראשונה. מלכי בית זה צירפו לשטחם את טריאסטה ואיחדו את המדינה כדי לאפשר למדינה גישה אל הים התיכון.

במאות ה-16 וה-17 נלחמה אוסטריה באימפריה העות'מאנית, שהשתלטה על חלקים גדולים משכנתה הונגריה. ב-1529 הדפו האוסטרים מצור עות'מאני על בירתם וינה.

במאה ה-17 השתתפה אוסטריה במלחמת 30 השנה, נלחמה ברפורמציה ושימרה את הדת הקתולית. ב-1683 הצליחה להדוף סופית את האימפריה העות'מאנית, שהגיעה עד שערי הבירה וינה בקרב וינה. לאחר מכן נחתם הסכם קרלוביץ, שבמסגרתו נאלצו העות'מאנים לעשות ויתורים טריטוריאליים נרחבים – רובה של הונגריה, טרנסילבניה וסלובניה נמסרו לאוסטריה. אוסטריה הגדילה את שטחיה וכוחותיה וכבשה אף את שלזיה ובוהמיה. במחצית השנייה של המאה ה-18 קיבלה את גליציה במסגרת חלוקת פולין. מריה תרזה ובנה יוזף השני הנהיגו משטר אבסולוטי נאור שבו שמו דגש על סובלנות, חינוך, צבא וכלכלה.

אוסטריה השתתפה במלחמות הנפוליאוניות נגד צרפת. בדצמבר 1805 נחלה מפלה בקרב אוסטרליץ. בעקבות זאת ומהלכים אחרים של נפוליאון, ביטל הקיסר פרנץ השני ב-1806 את מעמדו כשליט האימפריה הרומית הקדושה של והכריז על עצמו כשליט קיסרות אוסטריה.

לאחר תבוסת נפוליאון אירחה את קונגרס וינה שנועד להשיב את הסדר הטריטוריאלי והפוליטי באירופה שלאחר מלחמות נפוליאון. בראש הקונגרס עמד קנצלר אוסטריה הנסיך מטרניך השמרן, שמטרתו הייתה רסטורציה, כלומר החזרת המצב באירופה למה שהיה לפני המהפכה הצרפתית. מטרניך היה האישיות המרכזית בממלכה עד 1848. לאחר דיכוי מהפכת 1848 עלה על הכס הקיסר פרנץ יוזף הראשון, ובימיו הוקמה "האימפריה האוסטרו-הונגרית" כאיחוד של קיסרות אוסטריה וממלכת הונגריה.

האימפריה האוסטרו-הונגרית חדלה להתקיים בתום מלחמת העולם הראשונה, ובנובמבר 1918 הוכרזה רפובליקת אוסטריה הגרמנית, שטענה לשלטון באזורים דוברי הגרמנית של האימפריה הכוללים בנוסף לאוסטריה של ימינו (אזורים בטירול האיטלקית, סלובניה וצ'כיה). הרפובליקה שאפה לאיחוד עם גרמניה, אולם בעקבות חוזה סן ז'רמן ב-1919 חזרה להיקרא אוסטריה והייתה למדינה עצמית ששטחה צומצם.

בשנת 1920 הייתה אוסטריה לרפובליקה דמוקרטית. היא סבלה מצוקה כלכלית ומאבקים חברתיים, שכתוצאה מהם פיזר הקנצלר אנגלברט דולפוס ב-1933 את הפרלמנט, שינה את סמליה ושמה של המדינה והפך לדיקטטור של אוסטריה הפדרלית. בשנת 1934 נרצח דולפוס על ידי קושרים נאצים. אנשי המפלגה הנאצית באוסטריה ואחרים תמכו באיחוד עם גרמניה הנאצית בעוד שהקומוניסטים והסוציאליסטים התנגדו. משאל עם בנושא שעמד להתקיים ב-1938 בוטל ואז סיפח אדולף היטלר, דיקטטור גרמניה הנאצית (שהיה יליד אוסטריה בעצמו), את אוסטריה במהלך שנודע כאנשלוס. לימים היה ויכוח האם היה זה איחוד או שיש לראות באוסטריה בתור המדינה הכבושה הראשונה. לאורך כל שנות מלחמת העולם השנייה הייתה אוסטריה חלק אינטגרלי מגרמניה ואף הצמיחה חלק נכבד ממנהיגי המשטר הנאצי ומבצעי השמדת היהודים.

לאחר תבוסת גרמניה בתום המלחמה חולקה אוסטריה ל-4 אזורים שעליהם שלטו ברית המועצות, אנגליה, צרפת, וארצות הברית. בשנת 1955 פינו הכוחות הזרים את אדמתה לאחר שהשלטון הבטיח להישאר נייטרלי בנושא השטחים האירופאים. הנייטרליות נמשכה לאורך שנות המלחמה הקרה.

בשנת 1995 אוסטריה הצטרפה לאיחוד האירופי ובשנת 1999 היא הצטרפה לגוש האירו.