De tre männen och en kvinna misstänks för terrorism och ska ha tillverkat sprängmedel att använda i attacker mot moskéer, asylboenden och kända islamister, enligt åklagaren.
Myndigheterna försöker fortfarande reda ut hur konkreta gruppens planer var.
”Enligt den nuvarande utredningen var det gruppens mål att attackera kända salafister inom Tyskland samt moskeéer och flyktingboenden”, skriver myndigheterna.
De fyra ska också ha hjälpt till att grunda den högerextrema gruppen ”Oldschool Society”.
Högerextrema grupper och salafister har varit i konflikt i delar av Tyskland under flera år och 2013 satte myndigheter stopp för salafisters plan att mörda en välkänd högerextremist.
– Vi är väldigt glada över att det här förhoppningsvis har strypts i sin linda, sa Tysklands inrikesminister Thomas de Maiziere om onsdagens gripanden.