Alueen muihin kaupunkeihin verrattuna Say’unin historia ei ole kovin pitkä. Kaupungin nimen pääte ūn on melko yleinen mehrinkielisissä paikannimissä. Ensimmäinen maininta kaupungista historiallisissa lähteissä tehtiin 1400-luvulla Kathirin sulltaaneista puhuttaessa. Kathirin sulttaanit olivat vallanneet alueen ja he tekivät Say’unista pääkaupunkinsa. Sittemmin se mainitaan ajoittain islamilaisen oppineisuuden keskukisena. Se ei kuitenkaan saavuttanut koskaan samaa mainetta, kuin esimerkiksi naapurikaupunki Tarim.[1] 1800-luvulla rakennettu Kathirin sulttaanien palatsi on yksi maailman suurimmista mutatiilestä rakennetuista rakennuksista.[2] Kaupungin asema Kathirin sulttaanikunnan pääkaupunkina lakkasi brittien poistuessa Jemenistä vuonna 1967, jonka jälkeen kaupungista tuli osa Etelä-Jemeniä muun Adenin protektoraatin mukaan.[1]