יש עדות להתיישבות במקום בתקופה הקלטית והרומית. קוכם מוזכרת בכתב בפעם הראשונה בשנת 883 בשם Villa cuchema. היא הייתה שייכת לאימפריה הרומית הקדושה באזור שלטונו של הארכבישוף של טריר. ב-1332 קבלה זכויות של עיר ואז נבנו החומות שלה. ב-1423–1725 נפגעה ממגפת הדבר. ב-1688 נכבשה ונהרסה על ידי צבאו של לואי הארבעה עשר, מלך צרפת שהרס גם את המצודה שלה.

במלחמת שלושים השנים הייתה העיירה במצור אך לא נכבשה.

בשנים 1789–1815 הייתה קוכם בשלטון צרפת.

לאחר קונגרס וינה ב-1815 עברה קוכם לשלטון פרוסיה.

מצודת קוכם מוזכרת לראשונה בכתובים ב-1130. נהרסה כאמור במלחמת תשע השנים על ידי לואי הארבע עשר ונבנתה מחדש ב-1866. מ-1978 היא אתר תיירות בבעלות העיר קוכם ובה מוזיאון היסטורי.

ב-1927 נבנה גשר מעל המוזל- Skagerrak Bridge", וב-1932 התאגדו הכפרים קוכם ו-Sehl בצד המזרחי של המוזל עם Cond בצד המערבי, לראשות מוניציפלית אחת - קוכם.

במהלך מלחמת העולם השנייה התגוררו בעיר קוכם מפקדי מחנה הריכוז נאצוויילר-שטרוטהוף, ובסמוך לה הוקם מחנה משנה שבו נכלאו עד 13,000 איש. הם הועסקו בעבודת כפייה עבור חברת בוש, שייצרה מערכות הצתה לציוד הצבאי של גרמניה הנאצית.