Ierusalimul este un oraș foarte vechi. Are o mare importanță pentru trei religii: iudaismul, creștinismul și islamul. Biblia spune că regele David, al doilea rege al Israelului, a luat acest oraș de la păgâni și și-a stabilit acolo palatul. Regele Solomon, fiul lui David și următorul rege, a construit Templul lui Solomon în Ierusalim. Mai târziu, în calitate de capitală a lui Iuda, Ierusalimul a fost distrus de Nabucodonosor al II-lea, regele Babilonului. Palatul regelui David și Templul lui Solomon au fost incendiate, iar evreii au fost capturați și duși în Babilon. Șaptezeci de ani mai târziu, regele persan Cyrus le-a permis să se întoarcă la Ierusalim și să reconstruiască Templul.
Ulterior, zona a fost ocupată de romani. Regele Irod cel Mare, care conducea în numele împăratului roman, a făcut Templul mai mare pentru a încerca să câștige favoarea evreilor. Templul era renumit pentru măreția și frumusețea sa.
Iisus a murit la Ierusalim în jurul anului 33 d.Hr. În anul 70 d.Hr., evreii s-au răzvrătit împotriva romanilor, dar romanii au distrus orașul și Templul. Evreii care locuiau în Ierusalim au fost prinși și au devenit sclavi. Romanii au redenumit Ierusalimul cu un nume latin. De atunci, Templul nu a mai fost reconstruit și doar o parte din zidul său a rămas până astăzi.
După ce Imperiul Roman a fost împărțit în două, Ierusalimul a fost condus de Imperiul Bizantin. Mai târziu, musulmanii au preluat orașul de la aceștia. Musulmanii credeau că Mahomed s-a dus la cer din Ierusalim.
Mai târziu, Papa de la Roma i-a trimis pe cruciații din Europa de Vest pentru a încerca să recupereze Ierusalimul. Aceștia au reușit pentru o vreme, dar în cele din urmă orașul a căzut din nou în mâinile sarazinilor. Până în secolul al XX-lea, Ierusalimul a făcut parte din Imperiul Otoman. În Ierusalim au existat evrei în tot acest timp, chiar dacă au fost conduși de alte popoare.
"Orașul nou" al Ierusalimului este partea din afara vechilor ziduri de piatră. Oamenii au început să construiască orașul nou în anii 1800. Mishkenot Sha'annanim, Mea Shearim și cartierul Bukharan sunt unele dintre primele cartiere din noul oraș.
După Primul Război Mondial, Imperiul Otoman a fost învins. În iunie 1922, LigaNațiunilor a aprobat Mandatul britanic pentru Palestina. Acesta a acordat controlul asupra zonei Regatului Unit. Teritoriul aflat la vest de râul Iordan era cunoscut sub numele de Palestina. Acesta s-a aflat sub control britanic direct până în 1948. Teritoriul de la est de râul Iordan era cunoscut sub numele de Transiordania și era guvernat de familia Hașemită. Transiordania și-a obținut independența în 1946.
Mandatul în Palestina s-a încheiat la miezul nopții de 14 mai 1948. A doua zi, a început războiul arabo-israelian din 1948. Israelul și-a declarat independența, Cisiordania a fost anexată de Iordania, iar Egiptul a preluat controlul asupra Fâșiei Gaza.
În 1949, la sfârșitul primului război arabo-israelian, Ierusalimul a fost împărțit între Israel și Iordania. Israelul a controlat partea de vest a orașului. Iordania a controlat partea estică, inclusiv Orașul Vechi, o parte a Ierusalimului înconjurată de ziduri care datează din timpurile biblice. Israelul a preluat controlul asupra întregului oraș în timpul Războiului de Șase Zile din 1967.
Ierusalimul este astăzi revendicat de statul israelian ca fiind capitala sa. Organizația Națiunilor Unite nu este de acord ca Israelul să spună că Ierusalimul este capitala Israelului.