På måndagkvällen stormade en man moskén och öppnade eld mot de som befann sig i bönesalen och bad. Tre vuxna män sköts i attacken, varav två skadades allvarligt.
En man, enligt vittnen runt 30 år gammal med mörka kläder på sig, sågs fly moskén efter attacken.
Ytterligare en person hittades död nära moskén, men polisen har inte velat kommentera huruvida den döda är kopplad till attacken.
Moskén ligger nära centralstationen i Zürich och där samlas många somaliska migranter.
– Vi har aldrig utsatts för problem, aldrig utsatts för hat. Ingen har sagt att vi inte får vara här, säger Abukar Abshirow, som brukar besöka moskén.
Gärningsmannen ska fortfarande vara på fri fot och det pågår just nu en polisjakt efter honom i Zürich, uppger en polistalesperson anonymt för nyhetsbyrån AP.
Polisen har inte velat säga mer om attacken – vare sig om motiv, misstänkte gärningsmannen eller läget för de skadade. De har under kvällen samlat bevis inifrån moskén, och har sagt att de på tisdagen kommer att offentliggöra mer information om händelsen.