Projekt se zrodil jako náhrada za tři synagogy (Cikánovu, Velkodvorskou a Novou), zbořené v rámci asanace Židovského Města. Spolek pro vybudování nového chrámu vypsal architektonickou soutěž, v níž zvítězil známý vídeňský architekt Wilhelm Stiassny. 16. září 1906 na svátek Simchat Tora byla synagoga slavnostně zasvěcena.
Tvůrci synagogy jedinečným způsobem zkombinovali secesní a maurský styl. V oslňujícím interiéru zaujmou vitráže, svatostánek (aron ha-kodeš) zdobený reliéfem vinného keře a deskami Desatera, bohatá malířská výzdoba a tepané lustry. Na západní empoře jsou umístěny, v souladu s pokrokovým reformovaným kultem, varhany.
V Jeruzalémské synagoze se konají umělecké výstavy a varhanní a klasické koncerty. Než vejdete, povšimnětě si nápisů v hebrejštině nad rozetovým oknem. Znamenají: "Toto je brána Hospodinova, skrze ni vcházejí spravedliví" a "Což nemáme my všichni jednoho Otce? Což nás nestvořil jediný Bůh?"
