Enheten, som inrättades 2003, har varit i stort sett inaktiv sedan polischefen William Bratton tog över i januari, och utredarna har fått andra arbetsuppgifter.
Verksamheten har bland annat gått ut på att poliser har fått agera infiltratörer bland muslimer, till exempel i moskéer. Efter avslöjanden i medierna har hård kritik riktats mot New York-polisen, men förre borgmästaren Michel Bloomberg har försvarat programmet som nödvändigt för terrorbekämpningen.
Den nye borgmästaren Bill de Blasio kritiserade däremot verksamheten under sin valkampanj i höstas.
Muslimer har stämt New York-polisen för diskriminering, med motiveringen att de övervakats enbart på grund av sin religion.