Харран — один из древнейших городов мира. Известен уже из эблаитских текстов.

Не раз упоминается в библейской книге Бытия. Там умер и был погребён отец Авраама Фарра (Быт. 11:32). В этой земле также жил Лаван, брат Ревекки (Быт. 27:43). Земля Харран имела торговые сношения с Тиром (Иез. 27:3) и была покорена ассирийцами (4Цар. 19:12).

В последней трети II тысячелетия до н. э. Харран был завоеван ассирийцами, продвигавшимися на запад, и, став (при Саргоне II) неотъемлемой частью Ассирии, не уступал по значению соперничающим с ним древним ассирийским городам, лежащим в центре страны.

Город был известен храмом бога Луны — Сина, храм которому был выстроен при вавилонском царе Набониде. С 3-го тысячелетия до н. э. Харран был важным торговым пунктом, до конца VII века до н. э. — провинциальной столицей в Ассирии.

Под Харраном вавилонский царь Набополассар 25 июля 616 года до н. э. победил ассирийскую армию на берегу Евфрата. В июне 609 года до н. э. новый ассирийский царь Ашшур-убаллит вместе с фараоном Нехо II безуспешно попытались отбить Харран. С октября 539-го до н. э. Харран вошёл в состав Ахеменидской империи, а с 323 года до н. э. — Селевкидской.

После этого в Каррах были расселены ветераны армии Александра Македонского; позже город попал в территорию Парфии. В период первого непосредственного контакта с римлянами, во время парфянской кампании Красса в 53 году до н. э., Карры входили в клиентское царство Парфии — Осроену. Именно при Каррах Рим потерпел одно из величайших поражений в своей истории. В 214 году Каракалла присвоил Каррам статус колонии и посетил их в апреле 217-го, однако был там убит префектом претория Макрином. Карры окружали стены длиной 4 км.

В поздней античности и во времена Багдадского халифата Харран оставался центром звездопоклонников. В мае 1104 года туркменские эмиры нанесли под Харраном сокрушительное поражение крестоносцам. В XIII веке арабский историк Абуэль-Фида описывает город в руинах.