Enligt åtalet var de 54 medlemmar av ett specialförband som i augusti fick order om att återta tre städer i Borno.
Delstaten har varit centrum för den våldsbejakande gruppens femåriga uppror. Militärer har upprepade gånger hävdat att de saknar de vapen som krävs för att kunna bekämpa jihadistrebellerna.