Cochem est déjà habité au temps des Celtes et de l’Empire romain. En 886, un document le mentionne sous le nom de Villa cuchema. Son nom se retrouve sous plusieurs variantes : Cuhckeme et Chuckeme en 893, Cochemo en 1051, Chuchumo en 1056, Kuchema en 1130, Cuchemo en 1136, Cocheme en 1144, ensuite Cuchme, et au XVIIIe siècle Cochheim ou Cocheim. Elle est cédée à la principauté archiépiscopale de Trèves par le roi Adolphe de Nassau en 1294, et restera dans l’électorat de Trèves jusqu’en 1794 lorsqu’il passe sous occupation française. En 1815, Cochem devient un territoire du royaume de Prusse à la suite du congrès de Vienne.

Au cours de la Seconde Guerre mondiale, un camp de concentration annexe au camp de Natzweiler est construit. 13 000 prisonniers y font du travail forcé dans des conditions brutales, notamment pour la marque Bosch qui participe à l'effort de guerre allemand.