考古发现显示，今天的耶路撒冷的开发可以追溯到西元前四千年[1]。

关于该市最早的文字记载见于前19世纪的埃及诅咒祷文和前14世纪的阿馬爾奈文書[2][3]。

大约在西元前1000年，大卫王率领以色列人经基训泉水道，攻破耶布斯人的城堡并夺取该城，向南扩建城市并定都于此，更改成今天的名称「Yerushalayim」（耶路撒冷）[4][5][6]。大卫王在此統治33年，他將約櫃迁到耶路撒冷并为约柜建立会幕，还想进一步建造圣殿，却被耶和华的先知拿單所阻止[7]。

大卫的统治结束于前970年，他的儿子所罗门继承王位达四十年[8]。在《圣经·列王紀上》第五章至第六章记载，所罗门在即位後第四年開始，花费十年时间在城内建造第一圣殿。所罗门圣殿所在的地方是最后确知的约柜所在的地方，后来在犹太人历史中一直具有重要地位（在一定程度上对基督教也很重要）[9]，也是犹太人崇拜的焦点。这座聖殿採用來自推羅的岩石及香柏建造，成为当地最重要的礼拜地，並取代其他地方的祭壇。到“第一聖殿期”末，这座聖殿成为全国唯一的宗教场所和朝圣的中心。

此后的400年（直到前586年所罗门圣殿被毁）被称为第一圣殿时期[10]，这一时期开始于所罗门去世（前930年），北方10个支派分裂出去，成立以色列王國。在大卫和所罗门后裔的统治下，耶路撒冷仍然是南方猶大王國的京城，长达300多年[11]。前722年，新亚述帝國征服北方的以色列王国。前607年，新巴比倫帝國国王尼布甲尼撒二世攻破耶路撒冷，年轻的国王约雅斤和大多数貴族均被掳到巴比伦囚禁。在西底家的领导下，耶路撒冷反抗巴比倫的占领，前588年尼布甲尼撒二世率领大军围攻耶路撒冷。18个月后，巴比伦军队占领并摧毁这座城市，城墙被毁，聖殿被焚，圣殿中大批的金银器皿则被带到巴比伦[11]。尼布甲尼撒俘获西底家，在他眼前杀了他的众子，并且剜了西底家的眼睛，用铜链锁着带到巴比伦[12]。

前538年，巴比伦之囚70年后，波斯第一帝国居鲁士大帝消灭新巴比倫帝國，為了安撫龐大的波斯帝國统治下的民族，允许犹太人回到犹太地重建耶路撒冷圣殿，圣殿重建工程在前515年3月（大流士一世在位第六年），也就是第一圣殿被毁70年后完成[13]。接着尼希米又重新修建耶路撒冷城墙，使城市又恢复繁荣[14][15][16]。此后600年间，犹太地先后是波斯帝國、希臘馬其顿帝國、希臘托勒密埃及、希臘塞琉古帝國、罗马共和國和罗马帝國的一个省份，耶路撒冷则是犹太省的首府。犹太地曾一度從塞琉古帝國手中獨立（哈斯蒙尼王朝，不久便成為罗马共和國的附屬國，其後前37年親羅馬的希律王朝推翻哈斯蒙尼王室）。在罗马帝國统治的前期，曾委任代理王大希律王进行统治，大希律王在位时扩建了圣殿[8]，他於公元前4年去世。公元6年管治包括耶路撒冷在內的分封王希律·阿基勞斯被羅馬人罷免，犹太地直接归属罗马帝國统治，和其他羅馬帝國佔領地一樣，設行省和總督管理[17]。公元33年，耶穌在時任羅馬駐猶太的羅馬總督彼拉多任內被钉十字架。

公元66年第一次猶太–羅馬戰爭爆發，公元70年，羅馬皇帝維斯帕先派提多（後來的羅馬皇帝）将军率领的罗马大军再次围困耶路撒冷达4个月25天之久，罗马军队利用先进的装备和攻城设施系统地拆除城墙，入城后拆毁了圣殿（只剩下部分墙基，即西墙），親羅馬的希律王朝亦滅亡，羅馬不再使用猶太王室去討好猶太人，親自指揮、親自部署。由于正值犹太人的一个大型节日，城内粮食很快消耗殆尽，甚至出现人食人的现象，围困之间慘不忍睹，有大约110万人丧生，97000犹太人被俘虏，很多被卖到埃及成为奴隶。到大约公元130年耶路撒冷没有人居住，之后罗马皇帝哈德良重建耶路撒冷城，但是作为惩罚措施，下令在希伯來曆埃波月九日，即耶路撒冷遭新巴比倫王國和罗马帝國两次攻陷的周年记念日（恰巧是同一日），将耶路撒冷彻底铲平，在原址新建罗马城市爱利亚加比多连，圣殿山上另建罗马神庙；同时将犹太人赶出这一地区，禁止犹太人在耶路撒冷居住。1818年间（130～1948），犹太人不准进入耶路撒冷，從此流浪各地，直到1948年以色列獨立為止。

此后的5个世纪中，该市一直在罗马帝国的统治之下，羅馬帝國分裂後由東羅馬帝國管治。4世纪，東羅馬帝國皇帝君士坦丁一世控制该市期间，耶路撒冷变成一个天主教中心，建造圣墓教堂。当时，虽然仍然禁止犹太人居住耶路撒冷，但他们已经开始在每年的埃波月九日来到西墙前哭泣[18]。在罗马帝国分裂后的拜占庭帝国统治下，这座城市在天主教勢力中得到很好的保护。当时在宗教方面相对宽容，从5世纪开始，犹太人重新被允许住在耶路撒冷。

614年，波斯薩珊王朝從東羅馬帝國手中占領安條克、包括耶路撒冷和周边地区。638年，阿拉伯帝国從波斯手中占領聖地耶路撒冷並消滅了波斯薩珊王朝。在691年，阿拉伯哈里发阿卜杜勒-马利克在登霄石，即圣殿山聖殿的原址上建造圆顶清真寺（萨赫拉清真寺）[19]。传说在这個地方亚伯拉罕準備以他的儿子作奉獻祭，《圣经》上记载他奉獻的是小兒子以撒（又譯「依撒格」、「易司哈格」），穆斯林認為他奉獻的是大兒子以實瑪利（又譯「依市瑪耳」、「易司馬儀」）。三个世纪后他们又在这里建造阿克萨清真寺。在穆斯林统治初期，在宗教上比较宽容，住在耶路撒冷的基督徒和犹太人在缴纳人頭稅后，可以获得自治权[20]。但1010年，埃及的法蒂玛王朝哈里发哈基姆下令摧毁耶路撒冷所有的基督教堂和犹太会堂。

1071年塞爾柱帝國在曼齊刻爾特戰役中大勝拜占庭，兩年後（一說五年後）再從法蒂玛王朝手中奪得耶路撒冷，於是教宗烏爾巴諾二世在歐洲號召十字軍為基督徒奪回聖城。1099年，第一次十字军包围了耶路撒冷，一个多月后的7月15日，耶路撒冷被十字军攻佔。十字军进城后，屠杀了城内大多数穆斯林和犹太人，並在这里建立了耶路撒冷王國，穆斯林不准入城。1173年，一个来到耶路撒冷的人写到，耶路撒冷是一座小城市，充满了東正教教徒、亞美尼亞人、希腊人和格鲁吉亚人，只有200名犹太人住在城市的一角。

1187年，埃及穆斯林苏丹萨拉丁又重新占领耶路撒冷[21]。1219年，大馬士革的苏丹下令将城墙销毁。

1228年-1229年，神圣罗马帝国皇帝腓特烈二世组织第六次十字军东征，通过与埃及签定条约，重新得到耶路撒冷。1239年，他开始重建城墙，但不久它们又被拆毁。1243年，基督徒再次占领耶路撒冷，又重建城墙。

1244年，被蒙古帝國亡国的花剌子模王朝在逃亡途中占领耶路撒冷[22]，1247年，花剌子模被埃及人驱逐。1248年—1254年，教宗依诺增爵四世发动第七次十字军，但无法夺回耶路撒冷。

1253年，蒙古第三次西征，擊破多個伊斯蘭國家，1260年，蒙古軍入侵巴勒斯坦，消滅阿尤布王朝，到達加沙，而一些歷史學者認為蒙古人的侵掠延伸至耶路撒冷城內，另一些人認為該城未有被攻下，甚至沒有被圍城。後來埃及馬木留克王朝在阿音札魯特戰役中擊敗西征殘餘的蒙古軍並夺取耶路撒冷，该城的犹太人不得不逃到周围的村庄避难。1291年耶路撒冷王国的最后一个据点阿卡城被马木留克人攻陷，耶路撒冷王国不复存在。

1517年，鄂圖曼帝国占领耶路撒冷，他们控制该城市直到20世纪[21]，这时耶路撒冷重新开始繁荣，城墙和老城也被重建，城内任何宗教都可以存在，但鄂圖曼帝国后来的无能统治机构使耶路撒冷的经济陷入缓慢的衰退。到18世纪60年代，耶路撒冷的面积只有1平方公里，但已经拥挤不堪。居民开始在城墙外建新城。俄罗斯东正教会在城门外建造一幢大楼。首先开始在城外建造的当地居民是犹太人。其他人模仿他们的榜样开始在城外西部和北部建造新的居民区。最后，这些居民区不断扩大，连接到一起，成为新城。

19世纪初，耶路撒冷只有不足8000人口，但依然是一个对犹太教、基督教和伊斯兰教都很重要的城市。城市居民分四个部分：犹太人、基督徒、穆斯林和亚美尼亚人。犹太人主要住在哭墙上方的山坡上（东南），基督徒主要住在圣墓教堂附近（西北），穆斯林主要住在圣殿山附近（东北），亚美尼亚人主要住在西南。虽然这个分化并不绝对，但后来它是英国管理时期（1917年至1948年）将城市分为四个区的基础。各大宗教内部又包括许多教派，比如圣墓教堂同时归希腊东正教、罗马天主教、亚美尼亚教会、埃及教会和埃塞俄比亚教会使用，各教派之间互相冲突，以至于圣坛的钥匙要交给一个中立的伊斯蘭教阿拉伯家族保管。

19世纪，耶路撒冷发生一些对这座城市产生长期影响的变化，它们的影响一直延伸到今天，而且是阿拉伯人与以色列对耶路撒冷争执的根本。首先是从沙皇俄国、东欧和中东，不断有犹太人为逃避宗教迫害而移居这里，这改变城市内的人口比例。最早的移民是极端正统派的犹太人，其中有一些是老人，他们回到这里，准备死后安葬在橄榄山上；另一些是年轻的学生，他们随同家庭到这里来，等待救世主的来临。与此同时，趁着奥斯曼帝国的衰落，欧洲殖民国家开始将它们的影响伸向耶路撒冷。这也是一个基督教复苏的时期，许多基督教派派传教士来到耶路撒冷，试图转变当地穆斯林和犹太人的信仰，他们相信这可以加速耶穌再次降临人间。最后，欧洲殖民主义与宗教热诚也引起考古学家对《圣经》中所描述的地区，尤其是对耶路撒冷发生兴趣。一些考古队做了一些很引人瞩目的发现，这就更加引起人们对耶路撒冷的兴趣。

在第一次世界大战后期的1917年，英军中东总司令艾伦比将军向土耳其发动总攻，取得耶路撒冷战役的胜利，占领该城[23]。当1917年12月11日英军占领耶路撒冷时，新城已经形成一片错综复杂的居民区群，每个居民区有一个不同的种族构成。在英国统治下，这个发展继续下去，最后，老城区演变为一个贫穷的老居民区。英国人规定耶路撒冷的建筑外表必须是沙岩做成的，来保护城市原貌。

1922年國際聯盟批准贝尔福宣言，委托英国托管此地，巴勒斯坦从此成为一个正式的名称。后来为人们熟知的巴勒斯坦人，在这个时期和以前包括了当地所有民族：阿拉伯人、犹太人、撒玛利亚人、奥斯曼人等等。英国并帮助在该地区建立一个犹太国家[24]。托管时期该市西部和北部建起了新的花园郊区[25][26]，并且建立高等教育机构，如希伯来大学创建于1925年[27]。

 

 

 

 

 

 

随着犹太移民的增加，他们和阿拉伯人的冲突也逐渐升级。在第二次世界大战前夕的1939年，英国公布巴勒斯坦白皮书停止犹太人的移民，限制犹太人购买阿拉伯人的土地，准备把巴勒斯坦逐步移交给一个阿拉伯人占多数的当地政府，犹太人可在该政府管辖下高度自治。但是到战后，由于从德国集中营里解放出来的几十万犹太人偷渡来到巴勒斯坦的压力增加，英国既无法妥善处理阿以矛盾，而拒绝接受猶太人大屠殺幸存者又遭到国际舆论的一致谴责，同时犹太人针对英国的暴力活动迅速升级，于是，在1947年2月15日，英国被迫宣布把巴勒斯坦问题转交联合国处理。在进行调查以后，11月29日的联合国大会辩论巴勒斯坦问题，以33票对13票通过分立建国方案，对于耶路撒冷，则计划成立一个联合国管理下的特别国际政权，即不属于犹太人国家也不属于阿拉伯人国家的一部分[28]，不过这个计划从未实现。1948年5月14日以色列宣布建国时，第一次中东战争爆发，战争结束时，耶路撒冷西部被新成立的以色列国占领，而东耶路撒冷（包括老城和西岸）被约旦佔領。除英国和巴基斯坦外，其他国家都没有承认约旦对耶路撒冷东部和西岸的占领。1949年，以色列和约旦签订停战协定，划定的停火线穿过耶路撒冷的市中心。此后直到1967年，东西耶路撒冷分别属于约旦和以色列。1950年，以色列定都西耶路撒冷。同年，东耶路撒冷和約旦河西岸地區被正式合并入约旦王国，许多阿拉伯人持有约旦国护照，并保留至今。

在1967年六日战争中，以色列占领耶路撒冷东部，立刻开始将整个城市归入以色列控制。它占领了6.4平方公里的原约旦的耶路撒冷和64平方公里的西岸并将这块地方改名为“东耶路撒冷”。被占领地区的居民假如自愿放弃他们的约旦国籍的话可以获得以色列国籍，但大多数人没有接受这个待遇，但是为以色列国的合法永久居民。战后以色列又允许投降的约旦人回到耶路撒冷，管理圣殿山的清真寺，但周围有武装的以色列军警维持治安。

1980年以色列国会制定《基本法：耶路撒冷—以色列的首都》，确定耶路撒冷是以色列“永恆且不可分割的首都”[29]，而巴勒斯坦自治政府也宣布东耶路撒冷将成为未来巴勒斯坦国的首都[30][31]。