सुमेरी सभ्यता के एक लेख के अनुसार इसे मगन नाम से जाना जाता था। ओमान नाम एर अरबी जाति पर पड़ा जो यमन के उमान क्षेत्र से आए थे। ईसापूर्व छठी सदी से लेकर सातवीं सदी के मध्य तक यहाँ ईरान (फ़ारस) के तीन वंशों का शासन रहा - हख़ामनी, पार्थियन और सासानी। सातवीं सदी में इस्लाम मत के पैगम्बर मुहम्मद इब्न अब्दुल्लाह के जीवनकाल में ही ओमान में इस्लाम का आगमन हो गया था। सन् 1508-1648 तक यहाँ पर पुर्तगालियों के उपनिवेश थे जो वास्को दा गामा द्वारा भारत की खोज किये जाने के बाद समुद्री रास्तों पर नियंत्रण के लिए बनाए गए थे। पुर्तगाल पर स्पेन के अधिकार हो जाने के बाद पुर्तगालियों को वापस जाना पड़ा। इसके बाद ओमानियों ने पूर्वी अफ़्रीकी तटीय प्रदेशों से भी पुर्तगालियों को मार भगाया।