A zsidó vallás legszentebb városaként Jeruzsálemnek kitüntetett szerepe volt a zsidó irodalomban. A Biblia egyik legszebb költeménye, a 137. zsoltár esztétikailag is magasra teszi a mércét, és úgy fogalmazza meg a száműzöttséget, a honvágyat és a Jeruzsálem iránti érzelmeket, ahogyan csak nagyon kevés alkotás.
Egészen a középkorig kellett várni, míg ennek a Jeruzsálem-költészetnek méltó követője támadt. Hispániában 1492 előtt virágzott a zsidó kultúra, megújult és világszínvonalúvá vált a héber költészet. Ebben az időszakban több Jeruzsálem-vers született, de a cionida műfaját Jehuda Halevi (1085 k.–1145 k.) emelte igazi rangra, aki nemcsak a zsidó irodalom, de a középkori líra legnagyobb költői közé tartozik. A legenda szerint Jeruzsálem kapujában szúrta le egy katona, mielőtt élete nagy vágya teljesülhetett volna. Ahogyan a 137. zsoltár, úgy Halevi „A szívem Keleten…” kezdetű verse is a Jeruzsálem-költészet alapversének tekinthető, amelyet a zsoltárhoz hasonlóan gyakran idéznek az utókor költői. Halevit valószínűleg sokkolta a tény, hogy kortársai túlságosan hozzászoktak „szép Hispániához”, és meggyengült a Jeruzsálemhez fűződő viszony.
1492 után a hispániai zsidóság jelentős része választotta a megkeresztelkedést, ugyanakkor közülük sokan próbálták fenntartani titokban vallásukat, dacolva az inkvizíció üldöztetéseivel. A conversók, áttértek számára éppen Jeruzsálem és a 137. zsoltár jelentett egy titkos kódot, amelynek segítségével a szerző elrejthette üzeneteit sorstársai számára.
A középkori zsidó zarándokirodalom leghíresebb képviselője Tudelai Benjamin volt, aki a legenda szerint Kínáig is eljutott, erre azonban nincs bizonyíték. Benjamin 1159–73 közötti utazásait Utazások könyve című kötetében örökítette meg. Népszerű volt a regensburgi Petahja ben Jakov rabbi beszámolója 1175-ből és 1521-ből az itáliai Mose Basola rabbi útleírása.
A nem zsidó nyugati Jeruzsálem-irodalom is a vallásos irodalommal, a himnuszokkal veszi kezdetét, párhuzamosan a zarándokok útleírásaival. Damaszkuszi Szent János (8. század) és Abélard (1079–1142) himnuszai mellett egy ismeretlen szerző 6-8. században írt himnusza az egyik legismertebb: „Jeruzsálem boldog város, / neve: béke-látomás, / élő kövek anyagából / épül mennyek magasán, / mint menyasszonyt koronázzák / égi angyalseregek. // Égből mint a nászteremből / megújultan száll alá, / jön az Úrral egybekelni / érintetlen mátkaként” (Farkasfalvy Dénes fordítása). Clairvaux-i Szent Bernát és Szent Hildegárd pedig az „arany Jeruzsálem” képpel érzékelteti a város szépségét és különlegességét, ami a zsidó hagyomány és irodalom kedvelt allegóriája.
A keresztes háborúkat feldolgozó gesták, költemények készítik elő a barokk eposzirodalom olyan, Jeruzsálemről szóló alkotásait, mint a műfaj egyik remekműve, Torquato Tasso Megszabadított Jeruzsálem című eposza. A nyugati irodalom a Bibliától kezdve általában negatív színben tünteti fel a várost, gyakran Jeruzsálemet is, ahol az emberek romlottak, szemben a romlatlan természettel. Ezt a képet fordítja meg Tasso: a természetet teszi a bűn lakhelyévé, és Jeruzsálemet az erény otthonává. Az eposzok virágzásával egy időben a protestáns területeken a zsoltárátiratok válnak népszerű műfajjá.
Az első ismert keresztény útleírás szerzője egy előkelő galliai hölgy, Aetheria volt, aki 400 körül járt a Szentföldön. A vallásos zarándoklatok egészen napjainkig folytatódnak, így hosszan lehetne sorolni a zarándokok által és/vagy zarándokoknak írt beszámolók sorát. A magyar irodalomból az első ismert szentföldi úti beszámoló Pécsváradi Gábor szerzetes 1514-ben megjelent útleírása (Jeruzsálemi utazás), őt követi többek között Georgievics Bertalan, az esztergomi érsek udvari íródeákja (1554, A Szentföld leghíresebb helyeire tett zarándoklás tüköre), majd Kiss István (1733–1796) szerzetes. Meglepő tapasztalat, hogy a muszlim irodalomban jóval kevesebb szöveget találunk, holott az iszlám harmadik legszentebb városaként tekint Jeruzsálemre, azaz Al-Kudszra. Ibn Nabat egyiptomi költő A távoli Al Aksza című ódája mellett történeti munkákat, úti beszámolókat említhetünk. Abu Mu’in Naszir-i-Kusrov (1003–1060), Uszama ibn Munkid (1095–1188) és Ibn Battúta – Utazás című munkájában – az iszlám szent helyeivel foglalkoznak. A 10–11. század fordulóján élt jeruzsálemi földrajztudós, Mohamed ibn Ahmad al-Muqadaszi a keresztény és zsidó leírásokhoz hasonlóan rajongó, de egyúttal kritikus hangnemben ír Jeruzsálemről. Dicséri a város klímáját, de szóvá teszi a negatívumokat is, például, hogy fürdői, medencéi, csatornái elég piszkosak.
Jeruzsálem a világi irodalomban is egy szebb, igazságosabb világ szimbólumává válik. Shakespeare VI. Henrikjében még az égi Jeruzsálem jelenik meg: „Így válunk búsan e zavart világban / S lesz édes Jeruzsálemben víg találkozásunk”, ahogyan Milton Megtalált Paradicsomában is. A felvilágosodás korszakától kezdődően azonban az evilági Jeruzsálem lehetséges megvalósulása kerül előtérbe. A 19. századi angol irodalomban az „Új Jeruzsálem” kifejezés a társadalmi igazságtalanság végének szimbóluma, ahogy William Blake (1757–1827) költészetében Jeruzsálem az Angliában felépülő, általa igazságosnak gondolt, egalitárius társadalom jelképe. Blake eszméi, költészete gyakran a mítoszok világában gyökereznek, így fogalmazódhat meg, hogy a zsidó nép ősei a kelták voltak, és Jeruzsálem tulajdonképpen Anglia „emanációja”.
A romantika szerzőit Jeruzsálem gyakran a zsidóság elveszett nagyságára is emlékezteti. Byron 1815-ben barátja, Isaac Nathan kiadó kérésére, aki egy gyűjteményt akart összeállítani zsinagógai dallamokból, Héber melódiák címmel írt ciklust. Előtte nem zsidó költő nem szólt ilyen megértéssel a zsidóságról, a száműzöttség fájdalmáról. Az Értük hullasd könnyeid! hangulatát romantikus letargia és rokonszenv jellemzi („S Cion dala derűt mikor lehel? / S mikor fog Júda égi dallamán / virulni újra szív, mint hajdanán? […] Galambot fészke, rókát odva hívja, / embert hazája – Izraelt a sírja.”). Ugyanez érvényes 137. zsoltár-parafrázisára (Ültünk Babilon folyóinál és sírtunk). Adam Mickiewicz (1798–1855) és Henry Wadsworth Longfellow is a nemzeti érzés szempontjából mutatja be Jeruzsálem elvesztését. Mickiewicz a Jeruzsálem és a Szentföld elvesztése miatti érzéseket a franciák Waterloo miatti elkeseredettségével és a lengyel nemzeti katasztrófával, a felkelés leverésével állítja párhuzamba.
Az útleírásokban is a nemzeti nézőpont válik uralkodóvá. Alphonse de Lamartine (1790–1869) szemében Jeruzsálem Dávid, a költő és a költészet városa, ahova a zsidó nép egyszer visszatér. René-François de Chateaubriand (1768–1848) magát latin zarándoknak tekinti, Napóleont az utolsó keresztes lovagnak. Mindketten siralmas képet festenek Jeruzsálemről, akárcsak W. H. Bartlett vagy Selma Lagerlöf (1858–1940), a Nils Holgerson írója, Jeruzsálem című regényében. Mark Twain (1835–1910) amerikai író 1867-ben érkezik a Szentföldre egy csoportos utazás keretében, és tapasztalatait 1869-ben Innocents abroad, vagyis Jámbor lelkek külföldön címmel jelenteti meg. Twainben keveredik elődei romantikus-patetikus, vallásos látásmódja az iróniával. Az első turistának tekinthető, aki bevallja: a rengeteg friss élmény, a város történelmi-vallási súlya és az utazás fáradalmai gyakran nyomasztják, de tudja, hogy amikor az emlékeket képes lesz feldolgozni, eltűnik minden fáradtság, és Jeruzsálem megszépül.
A magyar írók közül Márai 1927-ben látogat Jeruzsálembe. Látja az elmaradottságot és a gyors fejlődést, a keresztény felekezetek közötti viszályt, a cionizmus és az ortodoxia egymás iránti gyanakvását. Jeruzsálem egyszerre taszítja és vonzza, egyszerre látja vidéki városnak és az emberiség legnagyobb emlékeivel rendelkező városnak, ahol az ember akárhová lép, egy próféta vagy egy nagy király járt ott előtte (Egy állomás fönn a hegyen). Az imádkozó ember pedig napjainkat vetíti előre.
A magyar irodalomban a 16–17. századi protestáns hitvitázó irodalmat, költészetet követően Jeruzsálem csak elvétve jelenik meg, mint például Katona József 1814-es Jeruzsálem pusztulása című történelmi drámájában, Kemény Zsigmond egyes regényeiben. A 20. században Ady protestáns hagyományhoz visszanyúló költészete logikus következményként talál vissza a Bibliához, így többször utal a hagyományos párhuzamra a magyarság és a zsidóság között, és többször használja Jeruzsálemet szimbólumként, ahogyan a 137. zsoltár parafrázisában is. „Ültem partjain Babylonnak / S ültem már partjain a gondnak // Láttam már apró szenvedelmet / S láttam beteg, hosszú szerelmet. / (…) Hárfámat már fölakasztottam / Hárfámat már leakasztottam. / (…) Ülök, csapdos az ár és hideg szél / Babyloni sötét vizeknél.” A 20. század világirodalmában három alkotásban jut Jeruzsálemnek igazán különleges szerep. Az egyik T. S. Eliot (1888–1965) 1934-ben írt versciklusa, a Kórusok a Sziklából. A Templom egykori újjáépítése Ezra és Nehemia idejében és a modern korban is lehetőség az egység újjáépítésére, egy olyan életre, amelyben nem a materiális értékek uralkodnak. Bulgakov regényében – A Mester és Margaritában – a titokzatosan hallgató Jeruzsálem a zajos Moszkva ellentéte, másfelől a harmincas évek szovjet fővárosára emlékeztet. A különbség a két város között Jeruzsálem láthatatlan győzelme, hiszen a kommunista Moszkva sem képes elfelejteni. Azon kevés sorok egyikében, melyekben Bulgakov közvetlenül ír a városról, Pilátus szemszögéből látjuk, aki „gyűlölt városként” gondol rá, mintha érezné, hogy Jeruzsálem örökre beivódik az európai kultúrába a kereszténységen keresztül. Az „elveszett Jerusalaim, a hatalmas város, mintha sosem létezett volna” Pilátus vágyát hivatott kifejezni, ám a vágy a jövőből olvasva elveszíti érvényességét.