De äldsta lämningarna av bosättningar går 10 000 år tillbaka i tiden. Kaalikratern, en av de yngsta stora nedslagskratrarna i världen, uppstod för omkring 3 500 år sedan.

Både i Snorre Sturlassons Ynglingasagan och i historiska Norwegia berättas om en sveakung vid namn Yngvar som härjade i Estland och försökte inta Ösel. De estniska stammarna levde som fria bönder och fiskare utan egentlig överhöghet fram till vikingatiden. Enligt en runsten i Ledinge dräptes svensken Fröger på Ösel omkring 1030. Invånare från Ösel deltog troligen i härjningen av Sigtuna 1187. Ester från Ösel härjade enligt Henrik av Lettlands krönika år 1203 i Blekinge och vid ett tillfälle förstörde de en kyrka, slog ihjäl, samt tillfångatog slavar. Öns viktigaste gud hette Tarapita, en åskgud som i hög utsträckning liknade Tor.

Under 700 år har tyskar, danskar, svenskar och ryssar turats om att besitta ön. Det finns mycket på ön som vittnar om detta, mest känd är dock Kuressaare biskopsborg. Borgen påbörjades av den danske kungen Valdemar Sejr under ett korståg år 1206. Vilhelm av Sabina propagerade 1226 för korståg mot Öselborna. Han lyckades enbart få med sig de tyska köpmännen, medan både gotlänningar och danskar vägrade. År 1227 erövrades ön av tyska korsfarare under Albert av Riga som tvångskristnade befolkningen. Omständigheterna och resultatet av fälttåget är dock oklart då Ösels överklass behöll mycket av sin maktställning. Riga hävdade dock anspråk på delar av ön fram till 1480. Åren 1343-1345 slogs de senaste av flera estniska uppror ner. Estland såldes därefter av Valdemar Atterdag till Tyska orden. 1345 byggde Tyska orden borgen Soneburgs slott. På 1300- och 1500-talen uppfördes också sju gotiska kyrkor.

Ösel blev åter danskt år 1559. Vid freden i Brömsebro 1645 blev ön svensk. År 1710 tillföll ön Ryssland och införlivades i guvernementet Livland. Ösel var omstridd mellan de tyska och ryska arméerna både under första och andra världskriget. Under den sovjetiska ockupationen hade Ösel relativt liten invandring från andra delar av Sovjetunionen och har idag mindre än tre procent rysktalande befolkning (jämfört med över 40 procent i Tallinn). Ösel undgick också mycket av den tunga industri som byggdes i andra delar av Estland under denna period. Detta berodde till stor del på att ön under den sovjetiska ockupationen var en militär gränszon med raketbas och en radaranläggning. Ön var stängd även för sovjetmedborgare och kunde endast besökas av dem som hade särskilt utfärdade inrikespass.[1]

År 1999 engagerade sig Estland för att bygga en ny djuphamn på Ösel. Hamnen skall kunna ta emot både passagerarfärjor och ro-ro-fartyg. En tanke bakom projektet är att Estland på det viset skall kunna få del av den numera livliga kryssningstrafiken i Östersjön.