Badania archeologiczne wskazują, że na terenie obecnej Jerozolimy (wzgórze Ofel) istniało osadnictwo ludzkie już w epoce miedzi (IV tysiąclecie p.n.e.)[1]. W epoce brązu istniała stała osada ludzka. Ann Killebrew opisała Jerozolimę z przełomu II i I tysiąclecia p.n.e. jako duże miasto otoczone murem obronnym[2]. Niektórzy archeolodzy, wliczając w to Kathleen Kenyon, sądzą, że Jerozolima jako miasto została założona przez ludy semickie około XXVI wieku p.n.e. Według żydowskiej tradycji miasto zostało założone przez Sema i Ebera, przodków Abrahama. Relacja biblijna przedstawia Jebuzytów zamieszkujących w Jerozolimie do końca XI wieku p.n.e., kiedy to żydowski król Dawid podbił miasto i założył w nim stolicę Królestwa Izraela (ok. 1003 p.n.e. przeniósł stolicę z Hebronu)[3].

Zgodnie z opisem biblijnym, król Dawid panował do 970 p.n.e., a następnie na tronie zasiadł jego syn Salomon, który wybudował Świątynię na Górze Moria w mieście. Świątynia Salomona (później nazywana Pierwszą Świątynią) odgrywała decydującą rolę w historii Izraela jako miejsce przechowywania Arki Przymierza. Miasto stało się centrum religijnym, kulturowym, politycznym, gospodarczym i militarnym Izraela[4]. Po śmierci króla Salomona nastąpił rozłam Królestwa Izraela na dwa odrębne państwa: Izrael i Judę. Jerozolima została stolicą Królestwa Judy[5].

Gdy w 722 p.n.e. Asyryjczycy podbili Królestwo Izraela, do Jerozolimy napłynęły tłumy uchodźców z północy. Około 586 p.n.e. Babilończycy podbili Królestwo Judy i zdobyli Jerozolimę, burząc Świątynię Salomona. W 538 p.n.e., po pięćdziesięciu latach niewoli babilońskiej, król perski Cyrus II Wielki zezwolił Żydom na powrót do swojej ojczyzny i odbudowę Jerozolimy ze Świątynią. Budowa Drugiej Świątyni została ukończona w 516 p.n.e.[6] W ten sposób Jerozolima ponownie stała się stolicą Judy i centrum żydowskiej wiary.

Kiedy macedoński król Aleksander Macedoński podbił Persję, Judea z Jerozolimą znalazły się pod kontrolą grecką, przechodząc ostatecznie pod panowanie Ptolemeuszy. W 198 p.n.e. Judeę i Jerozolimę zdobyli Seleucydzi, którzy podjęli próbę hellenizacji Żydów. Doprowadziło to w 167 p.n.e. do wybuchu żydowskiego powstania Machabeuszów i utworzenia w 152 p.n.e. Królestwa Machabeuszy ze stolicą w Jerozolimie[7].

W 63 p.n.e. Jerozolima została podbita przez rzymskiego wodza Pompejusza, który zaingerował w spór między braćmi, Hyrkanem i Arystobulem[8]. Miasto było długo oblegane, nie zostało jednak zniszczone. Pod panowaniem Rzymu w I wieku p.n.e. do władzy w Judei doszedł król Herod Wielki, który zasłynął z rozbudowy i upiększania Jerozolimy. Rozbudował on Świątynię, wzmacniając dziedziniec kamiennymi bryłami o masie dochodzącej do 100 ton. W mieście wybudowano liczne pałace i wieże[9]. W 6 r. Jerozolima wraz z okolicą przeszła pod bezpośrednie rządy Rzymian, jako Province Iudaea[10]. Potomkowie Heroda Wielkiego zostali jednak władcami Judei do 96 roku.

Według spisanej tradycji chrześcijańskiej i tekstów historycznych , podczas panowania jednego z jego synów, Heroda Antypasa, gdy rzymskim prefektem Judei był Poncjusz Piłat, w Jerozolimie uwięziono podczas żydowskiego święta Pesach Jezusa z Nazaretu, którego następnie ukrzyżowano. Miejsce ukrzyżowania i przypuszczalny grób Chrystusa do dzisiaj otaczane czcią są przez chrześcijan na terenie Starego Miasta.

Panowanie Rzymian nad Judeą zostało poddane próbie podczas wojen żydowskich. W maju 66 XII legion rzymski dowodzony przez Wespazjana przystąpił do tłumienia powstania żydowskiego. Kulminacyjnym momentem walk było oblężenie Jerozolimy w 70 (miasto padło 8 września 70). Całe miasto wraz ze Świątynią zostało zburzone. W 132 rzymski cesarz Hadrian postanowił odbudować Jerozolimę jako miasto hellenistyczne ze świątynią Jowisza i nazwą Colonia Aelia Capitolina[11].

W IV wieku cesarz Konstantyn I Wielki wybudował w mieście liczne obiekty kultu chrześcijańskiego, w tym bazylikę Grobu Świętego. Od tego czasu aż do VII wieku Żydzi nie mieli prawa wstępu do Jerozolimy[12]. Po podziale Cesarstwa rzymskiego (395 r.) miasto znalazło się w Bizancjum.

Na przestrzeni kolejnych dziesięcioleci Jerozolima przeszła pod panowanie Persji, a następnie ponownie wróciła do Rzymian. Perski władca Chosrow II Parwiz na początku VII wieku zajął Syrię i Judeę z miastem Jerozolimą, nazwaną przez Persów Dej Houdkh. Jerozolima została zdobyta w 614 po 21 dniach oblężenia. Żydowscy bojownicy dołączyli do Persów walcząc przeciwko chrześcijanom. Miasto zostało odzyskane przez Bizancjum w 629[13].

W 638 Jerozolima została zdobyta przez, będących od niedawna muzułmanami, Arabów. Wraz z arabskim podbojem Żydzi odzyskali prawo wstępu do miasta[14]. Kalif Umar ibn al-Chattab podpisał traktat z chrześcijańskim patriarchą Sofroniuszem, zapewniając go, że wszystkie chrześcijańskie miejsca Jerozolimy wraz z ludnością będą chronione zgodnie z muzułmańskimi zasadami wiary. Umar nakazał wówczas wybudowanie na Wzgórzu Świątynnym Kopuły na Skale i meczetu Umara[15]. Rok 750 to początek rządów Abbasydów w Jerozolimie. W 1009 zburzona została bazylika Grobu Pańskiego[16]. W 1072 miasto zdobyli Turcy seldżuccy.

W 1095 papież Urban II wezwał do krucjaty, mającej na celu wyzwolenie Ziemi Świętej. Armia krzyżowców zdobyła Jerozolimę w 1099 i wymordowała muzułmańskich oraz żydowskich mieszkańców[17]. Krzyżowcy uczynili z Jerozolimy stolicę Królestwa Jerozolimskiego. W 1187 Saladyn, kurdyjski sułtan Egiptu i Syrii, pokonał krzyżowców i zdobył Jerozolimę. Miasto zostało odzyskane przez krzyżowców w 1229, a ostatecznie utracone przez chrześcijan w 1244[18]. Rok 1260 to początek panowania egipskich Mameluków w Jerozolimie.

W 1517 Jerozolimę zdobyli Turcy, którzy utrzymali panowanie nad tym rejonem do XX wieku. W XVI i XVII wieku odbudowano mury obronne miasta. Był to okres rozkwitu regionalnego handlu i gospodarki Jerozolimy, jednak już w XVIII–XIX wieku nastąpiło osłabienie związane ze stopniowym upadkiem potęgi Imperium Osmańskiego. Na początku XIX wieku w Jerozolimie pojawiły się liczne międzynarodowe misje oraz konsulaty, co było momentem przełomowym we współczesnej historii miasta. W tym okresie wybudowano pierwsze dzielnice mieszkaniowe położone poza murami Starego Miasta. Wybudowali je w latach 40. XIX wieku angielscy i niemieccy protestanci, którzy chcieli przynieść ulgę miastu cierpiącemu od przeludnienia i złych warunków sanitarnych. Na krawędzi niemieckiej kolonii powstały bogate wille tureckie, dając początek nowym arabskim dzielnicom. W tym okresie do Palestyny napłynęła pierwsza fala żydowskich imigrantów z Europy, którzy założyli nowe żydowskie dzielnice w Jerozolimie[19]. Nastąpiło ożywienie budownictwa i kultury, które trwało nieprzerwanie aż do wybuchu I wojny światowej.

Panowanie osmańskie nad Jerozolimą zakończyło się w grudniu 1917, kiedy miasto zajęły wojska brytyjskie. Na mocy międzynarodowych porozumień powojennych Palestyna weszła w skład brytyjskiego mandatu na Bliskim Wschodzie. Powstał w ten sposób Mandat Palestyny[20]. Pod brytyjskim panowaniem powstały nowe podmiejskie dzielnice na północnych i zachodnich przedmieściach Jerozolimy, a w 1925 otworzono Uniwersytet Hebrajski[21].

W 1947 w ONZ-owskich planach podziału Palestyny zalecono ustanowienie z miasta i okolic strefy neutralnej pod międzynarodową kontrolą[22].

Plan ONZ nie został jednak zrealizowany, ponieważ żydowska Hagana i jordański Legion rozpoczęły walki o przejęcie kontroli nad Jerozolimą. 28 maja 1948 Jordańczycy zdobyli Stare Miasto i wygnali stamtąd wszystkich Żydów (część została jeńcami, część przekazano Międzynarodowemu Czerwonemu Krzyżowi, a część wygnano do zachodnich dzielnic miasta kontrolowanych przez Izraelczyków)[23].

I wojna izraelsko-arabska spowodowała ogromne wysiedlenia ludności arabskiej i żydowskiej w okolicach Jerozolimy. Ze Starego Miasta zostało usuniętych siłą 1500 Żydów, którzy schronili się w dzielnicach zachodnich. Arabska miejscowość Lifta (obecnie dzielnica Jerozolimy) została zajęta przez Izraelczyków, a jej mieszkańcy wywiezieni ciężarówkami do Wschodniej Jerozolimy[24]. Wysiedlenia Arabów objęły także wioski Dajr Jasin (gdzie doszło do ich masakry), En Kerem i al-Maliha.

Koniec wojny przyniósł podzielenie Jerozolimy na dwie części: wschodnia należała do Transjordanii, a zachodnia do Izraela. Linia demarkacyjna przecinała centrum miasta. W 1949 Izrael uznał Zachodnią Jerozolimę za swoją stolicę. Natomiast Transjordania złamała warunki Porozumienia o Zawieszeniu Broni z 1949 i odmówiła Żydom prawa dostępu do świętych miejsc judaizmu we Wschodniej Jerozolimie. Wiele z tych miejsc zostało zniszczonych lub sprofanowanych. Ograniczenia w dostępie dotyczyły także społeczności chrześcijańskiej i chrześcijańskich miejsc świętych w mieście[25][26].

W następstwie wojny sześciodniowej w 1967 wojska izraelskie zajęły Wschodnią Jerozolimę. W 1980 Izraelczycy ogłosili zjednoczenie Jerozolimy jako stolicy państwa Izraela[27]. Jednakże te działania zostały skrytykowane przez społeczność międzynarodową. ONZ potępiło tę decyzję w rezolucji nr 478, która domagała się uznania suwerenności Jerozolimy „bez mocy prawnej”[28]. Ponadto palestyńscy Arabowie zaczęli domagać się uznania Wschodniej Jerozolimy za stolicę swojego państwa. Status prawny miasta pozostaje nadal nierozstrzygnięty.