Vrijwel alle steden langs de Zwarte Zee werden door Griekse kolonisten uit Milete gesticht rond 800 voor Christus. Echter staat vast dat het gebied al enkele duizenden jaren eerder bewoond werd. Een van de oudste volkeren waarvan vaststaat dat zij in de omgeving van Rize woonden waren de Cimmeriërs. De streek rond Rize maakte deel uit van de Colchis, die vooral bekend is van de mythe van Jason en de Argonauten, en van Egrisi. Naast Griekse kolonisten woonden in deze streek ook Kaukasische volkeren zoals Lazen en Armeniërs.

Deze verre Griekse koloniën stonden bloot aan regelmatige invallen van Perzische volkeren. Alexander de Grote maakte hier een eind aan door het Perzische Rijk te veroveren. Na zijn dood ontstonden verschillende landen, waaronder Pontus vanuit Sinop. In 180 vóór Christus werd Rize ingelijfd in het koninkrijk Pontus door Pharnakes I. Twee eeuwen later werd de stad onderdeel van het Romeinse Rijk.

In de Romeinse tijd maakte de stad deel uit van de provincie Pontus et Bithynia, waarna ze werd opgenomen in het Byzantijnse Thema Chaldië, met als hoofdstad Trabzon. Gedurende de middeleeuwen bleef de stad in handen van de Byzantijnen en was het merendeel van de bevolking Griekstalig. Vanaf de 9e eeuw arriveren Turkse volkeren in de regio, met name Kiptsjakken uit de Pontische Steppe. Na de Slag bij Manzikert, de belangrijkste nederlaag van de Byzantijnen, arriveren in de bergen ten zuiden van Rize nog meer Turkse volkeren.

Nadat Constantinopel door de Vierde Kruistocht werd vernietigd in 1204, verhuisde de Keizerlijke familie naar Trabzon, zo'n 70 kilometer ten westen van Rize. Hier stichtten zij een derde Rome, van waaruit ook Rize bestuurd werd. In 1461 namen de Ottomanen Trabzon in, acht jaar na de val van Constantinopel. Rize bleef echter nog onafhankelijk tot 1470 en was daarmee in feite het vierde en laatste Rome.

Rize werd onderdeel van het Ottomaanse Rijk, als stad in het Vilajet Trabzon. Tijdens de 16e eeuw ging de bevolking, voornamelijk bestaand uit Georgische Lazen, vrijwillig over op de Islam. Tijdens de Eerste Wereldoorlog werd de stad bezet en grotendeels vernietigd door het Russische leger, dat zich in 1917 uit de Kaukasus moest terugtrekken vanwege de Russische revolutie. De bevolking van Rize staat in Turkije bekend om haar heldhaftige optreden, waarmee ze de Russen enkele maanden tegenhield. Na de oorlog werd de Orthodox-Griekse bevolking met Griekenland uitgewisseld. In het district İkizdere in het westen van de provincie bleef nog wel een islamitische Griekse bevolkingsgroep wonen; sprekers van het Romeyka. Het merendeel van de bevolking bestond echter uit Lazen en Turken. Ook waren er gedurende de 19e eeuw veel vluchtelingen uit de Kaukasus gekomen.

Een belangrijke ontwikkeling voor de stad was de introductie van de theeplant vanuit Georgië in de jaren 40 van de twintigste eeuw. De regio was na de oorlog en de bevolkingsuitwisseling erg verarmd geraakt. De steile maar zeer vruchtbare bergen aan de noordoostkust van de Zwarte Zee bleken uitermate geschikt voor de cultivatie van thee en in enkele decennia groeide de provincie Rize uit tot de grootste producent voor de binnenlandse theeconsumptie, en maakte het Turkije tot een van de grotere producenten wereldwijd.