När Middlesbroughs Albert Adomah missade sin straff var det den 30:e i ordningen och Liverpool kunde pusta ut.
Liverpool hade svårt att få igång spelet trots att man tog ledningen genom 17-årige debutanten Jordan Rossiter i den tionde minuten.
Middlesbrough kämpade till sig en straff på övertid i förlängningen som man satte och fick till straffläggning