公元前108年，西汉漢武帝在朝鲜半岛设置郡县，今开城属于乐浪郡与真番郡交界处；魏晋南北朝时乐浪郡南部分设带方郡，开城属于带方。

乐浪郡被高句丽占領后，带方郡開城成为百濟的「冬比忽城」，后高句丽获得冬比忽城。開城內城卽勃禦塹城，高麗稱皇城，有十三門。

開城在统一新羅一改為汉地名松岳郡。景德王十六年（757年）改開城郡。在當時，開城原是當地豪族的封地，當中以王氏為代表。新羅真聖王十年（898年），弓裔使王建築勃禦塹城。新羅孝恭王五年（901年）弓裔建都稱後高句麗，九年（905年）遷都鐵原。

918年，王建推翻後高句麗即位，建立高麗。次年（919年），把首都從鐵原遷回開城，並改開城為開州。光宗十一年改稱皇都，成宗十四年改開城府。

顯宗二十年（1028年）築開京羅城，城基周二萬九千七百步，門二十二門，號曰崇仁、宣旗、保定、光德、德山、會賓、仙溪、泰安、弘仁、乾德、保泰、宣義、狻猊、定平、仙岩、慈安、彰義、迎陽、安和、成道、會昌、安定，用丁夫三十萬四千四百人。城中有高麗故宮壽昌宮（朝鮮王朝廢爲倉廩）、仁德宮、壽德宮等建筑。

恭愍王十年（1360年）集都人修城門，辛禑三年（1376年）命修京城，恭讓王三年發五道丁夫築內城，尋罷之。

太祖三年遷都漢陽，置留後司於都內，並改稱開豐郡（亦作海豐郡），結束了開城擔任國家首都達476年的歷史。开城成为京畿道的一座重要城市。

開城在朝鮮光復後至韓戰前隸屬韓國，但在韓戰停戰協議後併入朝鮮。1954年，開城被劃歸黃海北道。1957年，開城市與開豐郡及板門郡統合，設立開城直轄市；1960年，長豐郡併入其中。2002年，朝鮮廢除板門郡，原開城市與板門郡的一部分組成開城工業地區；在韓國，開城工業地區又被稱為開城工業團地或開城工團地。2003年6月，開豐郡及長豐郡脫離開城併入黃海北道；同年9月，取消開城直轄市之地位，復歸黃海北道管轄，降級為特級市。

2019年10月，再度將開豐郡併入並升格為特別市，脫離黃海北道管轄。[1]2020年，開豐郡改為開豐區域，並復設原板門郡為板門區域。

2023年2月，黃海北道長豐郡併入開城特別市。