De strategische locatie van deze steile vallei maakt dat het gebied al zeer lang bewoond wordt. Vroege bewoners waren onder andere de Hettieten, Perzen en Armeniërs. Enkele eeuwen voor Christus wordt de stad gesticht door Pontische kolonisten uit de steden langs de Zwarte zeekust. Tussen 333 en 26 voor Christus was Amasya zelfs de hoofdstad van het Pontische koninkrijk uit deze tijd stammen de graven van de Pontische koningen, die boven de stad in de steile rotswand zijn uitgegraven.

In 70 voor Christus veroverde Lucius Licinius Lucullus Amaseia van de Armeniërs en werd het de hoofdstad van de nieuwe Romeinse provincie Pontus et Bithynia. De Griekse historicus Strabo, afkomstig uit de stad, heeft een gedetailleerde beschrijving van de stad gegeven tussen 60 voor en 19 na Christus. Rond het jaar 3 werd de stad opgenomen in de Romeinse provincie Galatië, in het noordelijke district Pontus Galaticus. Trajanus deelde het vervolgens weer in bij de provincie Cappadocië. In de 2e eeuw verkreeg het stadsstatus (metropolis).

Na de val van het Romeinse Rijk bleef de stad 700 jaar deel uitmaken van het Byzantijnse Rijk, gedurende deze periode is het merendeel van de bevolking Griekstalig. De lokale Armeense bevolking leidt een achtergesteld leven, hun kerk wordt niet erkend door de Byzantijnen. Vanaf de 10e eeuw arriveren veel Turkse volkeren in Anatolië. In 1075 nemen de Turkmeense Danishmenden de stad in en maken er hun hoofdstad van. In de 12e eeuw neemt de Seltsjoekse leider Kiliç Arslan II de stad in. Onder heerschappij van de Seltsjoeken en het Il-kanaat werd Amasya een belangrijke Islamitische plaats. Uit deze tijd zijn nog meerdere scholen, moskeeën, tombes en andere gebouwen bewaard gebleven.

In Ottomaanse tijden werd de stad nog belangrijker, met name in educatie. De kinderen van de sultan werden hierheen gestuurd voor hun scholing. Als onderdeel van hun training moesten toekomstige sultans de positie van gouverneur van de provincie succesvol vervullen. Om het voor de sultan in spe extra moeilijk te maken waren in de provincie veel verschillende etniciteiten gehuisvest, elk in hun eigen dorp. Hierdoor was hij verplicht kennis op te doen over de culturen van alle verschillende groepen binnen zijn rijk; zoals de Grieken, Armeniërs, Bosniërs, Tataren, Arabieren, Koerden, etc.

Tijdens de Turkse onafhankelijkheidsoorlog was Amasya in 1919 de plaats waar Ataturk zijn laatste voorbereidingen trof voor het opzetten van het Turkse leger om de Republiek Turkije uit te kunnen roepen. Het was hier dat hij de onafhankelijkheidsoorlog verklaarde. Na deze oorlog werd de Griekstalige bevolking van de stad uitgeruild met Griekenland voor Turken.