Mindenekelőtt tisztázni kell: a zsinagóga nem templom! (Ezt még gyakran maguk a zsidók is tévesen mondják.) A templom az a hely, ahol a papok áldozatot mutatnak be. Hasonlóan más ókori vallásokhoz, a zsidó papok (kohanim) is elsősorban állatáldozatot mutattak be és a templomba csak ők léphettek be. Az Első Templomot i.e. 900-as években Salamon király építtette Jeruzsálemben. Ezt az i.e. 500-as években Nabukodonozor babiloni uralkodó lerombolta, ám a babiloni fogságból hazatérő zsidók felépítették a Második Templomot, amit Heródes király jelentősen kibővített. A rómaiak azonban 70-ben lerombolták, csak a nyugati külső fala maradt meg, a Siratófal, mely azóta a létező legszentebb hely a zsidó vallásban. A Második Szentély lerombolásával az áldozatbemutatás végleg megszűnt.

Miközben a papok áldoztak, a köznépben természetesen megvolt az igény, hogy ő is kapcsolatban legyen valamilyen formában Istennel (különösen egy olyan szigorú vallásban, mint a zsidó). Ez a kapcsolatteremtési forma pedig az ima. Komolyabban szervezet keretek közé a babiloni fogság idején került, hiszen templom híján idegen földön nem mutattak be áldozatokat. A fogságból hazatérők -és persze még inkább a diaszpórában maradók- megtartották frissen kialakult szokásaikat: rendszeresen összegyűltek imádkozni. És itt találjuk a zsinagóga funkcióját, amit kiválóan kifejez annak héber neve (a zsinagóga görög szó): bét haknesszet - a gyülekezet háza. A Második Templom lerombolása után -mikor tehát már az ima lett a legfontosabb istentiszteleti mód, az áldozatbemutatás helyett- a zsinagóga még nagyobb jelentőséget nyert. Sőt -mivel a Templom lerombolásával a zsidó állam is megszűnt létezni- a világban szétszóródott zsidó közösségek központjává a zsinagógák váltak. 

Mivel imádkozni Jeruzsálem felé fordulva kell, a zsinagógák is lehetőség szerint erre (de legalábbis kelet felé) vannak tájolva. Az istentiszteletet nem a rabbi, hanem az előimádkozó vezeti (kántor, héberül hazzán), az ő helye ezért legelöl, a keleti falnál van. Itt van is neki egy fal felé fordított imakönyv-tartó pultja, amit hagyományosan két gyertyával világítanak meg. Hasonlóan egy keresztény templomhoz, a hívők itt is padsorokban ülnek, illetve a fontosabb imákat állva mondják. Ám különbség, hogy a nők a férfiaktól el vannak különítve (általában a karzaton kapnak helyet), nehogy elvonják egymás figyelmét az istentiszteletről.

Ugyanakkor a zsidó istentisztelet nem csak imádkozásból áll: minden hétfőn, csütörtökön, szombaton és ünnepnapon felolvasnak a Tórából, ahogy azt a babiloni fogság vége óta teszik. Ezért minden zsinagóga keleti falának közepénél, emelvényen van egy ún. frigyszekrény, ahol a Tórát -az ókori hagyományoknak megfelelően- ma is tekercs, nem pedig könyv formájában őrzik. A szekrény ajtaját díszes függöny takarja, a mennyezetről pedig mindig világító örökmécses (nér támid) lóg elé. A szekrénynek ez az elhelyezése a Templom beosztására emlékeztet, ahol az oltárteremből kelet felé nyílt a Szentek Szentje, a legbelső szentély, ahol a Frigyládát és benne a Tízparancsolat kőtábláit őrizték (mely a Tóra alapja). A felolvasásra elővett Tóra-tekercset a zsinagóga közepén felállított emelvényen, a bimán terítik ki és itt olvasnak fel belőle. A bima azért van az emberek között mert egyrészt a felolvasás nekik szól, másrészt ez szimbolizálja, hogy a Tóra mindenkié. (Habár a neológ és a reform közösségekben már közvetlenül a Frigyszekrény előtt van a bima.) A Frigyszekrénytől balra, a gyülekezettel szembefordítva található a rabbi, jobbra a hazzán széke. Ettől jobbra pedig a hazzán már említett pultja.

Mindemellett a Talmud még számos előírást megfogalmaz a zsinagógákkal kapcsolatban, amik betartását azonban a történelmi körülmények nem mindig tették lehetővé. Így pl. a zsinagógának kell, hogy legyenek ablakai, a padlószintje a földszint alatt kell, hogy legyen (de legalább az a rész, ahol a hazzán áll), emlékezve a 130. zsoltárra: "A mélységből kiáltok Hozzád, Uram!" Emellett sok zsinagógának -megintcsak a Templom beosztását követve- van előtere. Itt egy díszes, falra rögzített mosdótál található, mely az ima előtti rituális kézmosásra szolgál. A zsinagógákban gyakran látni a legkülönbözőbb méretű menorákat (hétágú gyertyatartó), mivel a zsidó vallás ezen legősibb jelképe a Templomban is fel volt állítva.   

Kép - A Dohány utcai zsinagóga 

Kép - A mádi zsinagóga