Efsanelerde geçmişi MS 1. yüzyıla değin indirilen Ghumdan adlı eski bir kale üzerinde kuruldu. Ali tarafından 632'de müslümanlaştırıldı. Zeydi imamlarıyla rakip hanedanlar arasında zaman zaman çatışmalara sahne oldu. Başkenti başta Şadah'ta olan Zeydi İmamlığı, sık sık kesintiye uğramakla birlikte 860'tan 1962'ye dek ayakta kaldı. Birbirini izleyen istilacıların başkenti başka yerlere taşımaları nedeniyle San'a, 12-15. yüzyıllar arasında büyük bir gerileme gösterdi. Tahiri hanedanından Abdülvahap ibn Tahir (1478-88) kente birçok zarif cami ve medrese yaptırdı. 1516'da Osmanlı egemenliğine giren kentte 17. yüzyılın başlarında yeniden imamların fiili yönetimi başladı. Kenti ancak 1872'de ele geçirebilen Osmanlılarla imamlar arasındaki çatışma 1913'e kadar sürdü. Bu tarihten yapılan antlaşmayla imamlar tam bir özerklik elde etti. Osmanlıların I. Dünya Savaşı'nda yenilgiye uğramasının ardından San'a başkent olmak üzere İmam Yahya önderliğinde bağımsızlık ilan edildi. İmam Ahmet döneminde (1948-1962) güneydeki Taiz'e taşınan başkent, cumhuriyetin kurulduğu 1962'de bir kez daha San'a'ya getirildi. 1990'da Kuzey Yemen'le Güney Yemen'in birleşmesinden sonra yeni devletin de başkenti oldu.