Platsen är bebodd sedan förhistorisk tid, och bronsåldersfynd har hittats i området. Omkring år 700 etablerade S:t Frithuswith ett nunnekloster vid Binsey några kilometer uppströms från nuvarande Oxford. Frithuswith är sedan medeltiden stadens och universitetets skyddshelgon. Klostret och helgonets reliker kom senare under medeltiden att flyttas till vad som idag är Christ Church och katedralen i Oxford.

Staden grundades på sin nuvarande plats av saxare omkring år 900, och var först känd som Oxanforda. Namnet betyder "vadställe för oxar". Under 900-talet var staden gränsstad mellan kungadömena Mercia och Wessex och anfölls flera gånger av danerna. Staden drabbades svårt av den normandiska invasionen år 1066. Staden nämndes i Domedagsboken (Domesday Book) år 1086, och kallades då Oxeneford/juxta Oxeneford/juxta murum/Oxineford.[1] Den nye länsherren Robert D'Oyly lät bygga det normandiska slottet, Oxford Castle, i sydvästra delen av dagens stadskärna. Slottet hade ett St George-kapell, där munkar, bland andra författaren Geoffrey av Monmouth verkade, och här skrev han 1139 verket De brittiska kungarnas historia, som behandlar legenderna om de brittiska kungarna under förnormandisk tid.

Oxfords universitet har bedrivit undervisningsverksamhet sedan åtminstone år 1096 och omnämns för första gången under 1100-talet. Universitetet hade under sin tidiga historia sina huvudsakliga undervisnings- och administrationslokaler i och omkring S:ta Mariakyrkan, som fortfarande idag är officiell universitetskyrka. Lärare och studenter slöt sig också samman i formella sammanslutningar kring de hus där de bodde och verkade, ofta med hjälp av en rik grundare och beskyddare, och under mitten av 1200-talet grundades universitetets första college: University College (1249), Balliol College (1263) och Merton College (1264).

Under universitetets tidiga år fanns tidvis starka konflikter mellan universitetet och stadsborna, och 1355 skedde ett större upplopp på S:a Scholastica-dagen då 63 studenter och ett 30-tal stadsbor dödades. Staden dömdes att betala en årlig bötessumma för varje dödad student och stadens borgmästare och rådsmedlemmar fick marschera barhuvade genom staden som straff, en tradition som höll i sig till år 1825 då borgmästaren slutligen vägrade att delta.

Oxford blev biskopssäte 1542 under den engelska reformationen genom beslut av Henrik VIII, från 1545 med den nuvarande Christ Church Cathedral som domkyrka.

Under engelska inbördeskriget var Oxford högkvarter för den rojalistiska sidan och Karl I hade sitt hov och rojalistiska parlament i staden.