חאניה נבנתה על חורבותיה של עיר מינואית בשם קידוניה (אנ'), נבנתה מחדש על ידי הדורים והפכה עיר-מדינה בתקופת יוון הקלאסית. יושבי העיר הקדומה מוזכרים באודיסיאה שכתב הומרוס. ב-69 לפנה"ס נכבשה העיר על ידי צבא הרפובליקה הרומית ובמאה ה-4 עברה לחזקת האימפריה הביזנטית לאחר חלוקת האימפריה הרומית. ב-825 נכבש האי על ידי צבא המורים מאנדלוסיה, ובתקופה זו שובש שמה המקורי של העיר לשמה המודרני חאניה. ב-961 כבשו הביזנטים מחדש את האי ופעלו לביצורו כהגנה מפני פלישה ערבית נוספת. ב-1204, עידן האימפריה הלטינית, נמסר האי כרתים לחזקת הרפובליקה של ונציה אשר המושלים מטעמה התקשו להתמודד עם המרידות התכופות מצד האוכלוסייה המקומית ורק בסוף המאה ה-13 הושלט סדר באי. לאחר נפילת קונסטנטינופול בידי העות'מאנים, הגיעו פליטים רבים לכרתים ובכללם בני אצולה וכמורה ביזנטיים.

ב-2 באוגוסט 1645 לאחר מצור ממושך הצליח צבאו של הסולטאן איברהים הראשון לכבוש את העיר חאניה והיא עברה לחזקת האימפריה העות'מאנית. בשנת 1832 זכתה יוון בעצמאות מהאימפריה עות'מאנית וכתוצאה מכך החלה התעוררות לאומית גם באי כרתים. ב-1866 פרץ מרד אשר במהלכו השתלטו המורדים על האי להוציא 5 הערים הגדולות ובכלל זה חאניה בהן התבצרו המוסלמים. ב-1869 עלה בידי העות'מאנים לדכא את המרד, אך אי השקט באי ומלחמת האזרחים בין הנוצרים למוסלמים נמשכה תוך התערבות יוונית בדרבון המהומות, נושא שהביא מאוחר יותר למלחמה כוללת עם יוון ואובדן השליטה העות'מאנית באי.[1] ב-1878 הסכים עבדול חמיד השני לתת אוטונומיה לכרתים, ואכן, לאחר המלחמה היוונית-עות'מאנית (1897) הכריזו המעצמות[2] על כרתים בתור ישות עצמאית. ההכרזה לוותה במהומות דמים, בכלל זה בעיר חאניה, ובטרנספר של האוכלוסייה המוסלמית לאנטוליה. ב-1908 התאחדה כרתים עם ממלכת יוון וחאניה הפכה לבירת האי.

ב-20 במאי 1941, במהלך מלחמת העולם השנייה, פלש צבא גרמניה הנאצית לכרתים. ב-1 ביוני, לאחר קרב קשה ועיקש כשעל הכוחות היווניים פיקד אישית גאורגיוס השני, מלך יוון, מעמדת פיקוד הסמוכה לעיר חאניה, הצליחו הגרמנים לכבוש את העיר. חאניה שוחררה באוקטובר 1944. לאחר המלחמה הפך האזור בהדרגה למוקד תיירות. חשיבותה הפוליטית של העיר חאניה ירדה עם ההכרזה על הרקליון כבירת כרתים ב-1971.