Sadio Mané och Roberto Firmino gjorde gästernas mål i en stark första halvlek.

Mané, vars ledningsmål kom i tionde minuten, har varit glödhet i säsongsstarten och gjorde sitt fjärde mål.

I den andra kom hemmalaget starkt och Liverpoolmålvakten Alissons misstag bjöd in Leicester i matchen.

Alisson försökte dribbla som siste man, tappade bollen till Kelechi Iheanacho som kunde spela fram Rachid Ghezzal till öppet mål och reducering i 63:e minuten.

Det var Liverpools första insläppta mål i ligan denna säsong, men laget kunde hålla undan till fjärde raka trepoängaren. Det här är klubbens bästa säsongsstart sedan 1990.

Chelsea, Tottenham och Watford – de två sistnämnda möts på söndagen – har tre raka segrar inför sina matcher i fjärde omgången.