Övergreppen ska börjat redan år 2016 och har skett bland annat i en källare i Södertälje där polisen hittat spår av sperma. Övergreppen ska även ha innefattat hot och våld.
Båda barnen har diagnostiserats med lindrig intellektuell funktionsnedsättning och det har i samband med förhören slagits fast att båda lider av posttraumatiskt stressyndrom (PTSD) till följd av övergreppen.
Mannen har varit frihetsberövad sedan slutet av december förra året och förnekar brott.
Efter avtjänat straff ska mannen utvisas till det EU-land han är medborgare i.