Na področju današnjega Konjica je obstajala naselbina v mlajši kameni dobi, prvo znano ljudstvo na območju mesta pa so bili Iliri. V času antičnega Rima je tod potekala prometna pot med Dalmacijo in Podonavjem. Iz tega obdobja so najdeni sledovi večjega naselja, med katerimi izstopajo ostanki mitreja.[1][2]

Naselje z imenom Konjic se prvič omenja leta 1382 v zapisu trgovske karavane, ki je potovala v Dubrovnik. V srednjem veku je bilo mesto del Kraljevine Bosne, v letih 1463–1469 je mesto osvojilo Osmansko cesarstvo. V 17. stoletju je bil zgrajen Stari most čez Neretvo, ki je danes upodobljen v občinskem grbu.[1][2]

Leta 1878 je skupaj s preostankom Bosne in Hercegovine postal del Avstro-Ogrske, po prvi svetovni vojni Kraljevine Srbov, Hrvatov in Slovencev, med drugo svetovno vojno je pripadel Neodvisni državi Hrvaški in po vojni SFR Jugoslaviji. Med letoma 1953 in 1979 so v bližini Konjica v tajnosti zgradili protiatomski bunker ARK/D-o, znan kot »Titov bunker«.[3]

Ob razpadu Jugoslavije je Konjic bil večetnično mesto z dobrimi povezavami med Sarajevom in južnim delom republike ter z številnimi vojaškimi objekti. Kot tako je postal pomembna strateška točka v vojni ob razpadu Jugoslavije. V srbskih vaseh okoli mesta je Republika Srbska ustanovila »Srbsko občino Konjic«, območje pa je zahtevala tudi nepriznana državna tvorba Herceg-Bosna. Aprila in maja 1992 sta mesto nadzorovali bosanska teritorialna obramba in Hrvaški obrambni svet, medtem ko so srbske vojaške formacije blokirale dostop in ga odrezale od zunanje oskrbe. Bosanska in hrvaška vojska sta bosanske Srbe, aretirane v vojaških operacijah, internirali v taborišču Čelebići, kjer so številne civiliste mučili in ubili.[4] Od marca 1993 do konca vojne je na območju Konjica prihajalo do spopadov med Bošnjaki in Hrvati.[2]

Med vojno se je iz Konjica izselil velik del srbskega in hrvaškega prebivalstva, priselili pa so se bošnjaški begunci s sosednjih zasedenih območij. Vodje taborišča Čelebići je haaško sodišče obsodilo vojnih zločinov.[4]