Перша згадка про місто сягає VII століття, коли була опублікована робота Каструм Рубіні «Космографія», однак наведені в ній географічні дослідження належали до V століття. В результаті можна з упевненістю стверджувати, що історія міста починається в період між III і V століттям. Археологічні розкопки роблять історію міста ще давнішої — згідно з їх результатами, перші поселення на цих місцях виникли ще за часів бронзової і залізної доби.

В історії міста багато цікавих сторінок — у різні часи воно перебувало під пануванням Візантійської імперії, під німецькими феодалами, Венеційською республікою, під австро-угорським, французьким і німецьким управлінням, кілька разів місто було спалене і спустошене. Для більшості цивілізацій місце розташування міста уявлялося дуже вигідним з точки зору географічного розташування. Проте протягом багатьох років місто домагалося своєї незалежності і боролося за власну автономію — саме тому воно так довго шукало владного покровителя, який запропонує найвигідніші умови для вирішення цього завдання.

У 1283 році Ровінь, слідом за Поречем, Новіградом і Умаґом, увійшов до складу Венеції. Зробивши такий вибір, місто отримало незалежність з деякими обмеженнями. Наприклад, Венеційська республіка залишала за собою право призначати суддю, який відповідно до своєї компетенції вів всі духовні, політичні, адміністративні, торговельні та інші справи. До Ради міста також допускалися тільки привілейовані родини, а судді, обрані цією Радою, вирішували виключно цивільні і кримінальні справи під керівництвом судді, призначеного Венецією.

У соціальному плані мешканці міста поділялися на два стани — аристократів і плебеїв. Відповідний поділ мав і уряд, що складався з Ради і Зборів. Членство в Раді передавалося у спадок. Мандат судді і претора був обмежений одним роком, а в 1306 році Сенат Венеції збільшив його термін до 16 місяців.

З часом в Ровіні з'являється товарна біржа — торговці і моряки поповнили список типових міських професій, основними з яких були риболовля і фермерство. Розвиток навігації також приніс до міста свої зміни — суперництво портових міст призвело до завоювання Ровіня Генуєю в 1379 році. Двома століттями пізніше (в 1579 і 1599 роках) місто знову було захоплено.

Наприкінці XV століття на узбережжі Істрії починається активне зростання народонаселення за рахунок біженців з центральної частини півострова, а також з Боснії та Далмації, Греції та Албанії, Північної Італії. У 1595 році населення міста становило 2800 жителів, в 1650 — 5000 осіб, у 1741 — 7966, а у 1775 — 13788 чоловік, що не могло не позначитися на міській архітектурі. Кількість поверхів будинків збільшується, а будинки починають тіснитися один до одного.

У XVIII столітті місто стає важливим морським портом, а місцеві моряки прославилися своїми навичками і хоробрістю, не раз продемонстрованими в битвах з турками в XVI столітті. Крім славних сторінок у міста була й зворотна сторона медалі — Ровінь був найбільшим центром контрабанди. Тут організовувалося чимало повстань (в 1767,1769, 1774 і 1780 роках) проти венеційського втручання.

12 травня 1797 року в місті було встановлено самоврядування — 18 представників населення, обраних демократичним зборами, увійшли до уряду, який керував містом. Проте вже в 1809 році тут вводиться французьке правління уряду Наполеона, яке тривало аж до відновлення австрійського суверенітету над цими областями в 1813 році. У 1821 році місту підтверджується його муніципальний статус, а з 1825 по 1860 воно входило до складу Істрійського графства.

З 1819 року в Ровіні йде активне будівництво — побудовано будівлю школи, в 1847 році створений паровий завод для виробництва пасти, в 1850 — заснована торгова палата, в 1853 — встановлено маяк на острові Св. Івана, з 1854 по 1865 — побудовано приміщення театру, в 1852 — цементна фабрика, в 1872 — тютюнова фабрика, в 1888 — міська лікарня. У 1876 року відкривається залізничне сполучення з іншими містами, а з 1905 року місто освітлюється газовими ліхтарями. З 1906 року починається міська телефонізація.

Зі зникненням австро-угорської монархії Ровінь потрапляє під італійський вплив, який продовжився аж до капітуляції Італії у вересні 1943 року. До кінця Другої світової війни містом керують німецькі загарбники. За підсумками війни вся Істрія увійшла до складу Югославії.

У 1990 році почався розпад СФРЮ, в результаті якого 25 червня 1991 року Хорватія оголосила себе суверенною незалежною державою і місто, як і весь півострів Істрія, увійшло до складу Хорватії.