Första mötet i Malmö för en vecka sedan slutade oavgjort, 1-1, och Malmö fick en bra start i kvällens match i Makedonien.
I den 15:e minuten kom gästernas ledningsmål. Jo Inge Berget var på väg igenom men fälldes av målvakten Gacenski fällde och domaren pekade på straffpunkten.
Markus Rosenberg klev fram och sköt straffen rakt upp i krysset bakom en chanslös målvakt i Vardar.
Malmö fortsatte att spela bra i den första halvleken och Yoshimar Yotún hade ett gyllene läge att utöka Malmös ledning, men svenskarna fick nöja sig med en välförtjänt 1-0-ledning i paus.
Fem svarta minuter
Vardar inledde den andra halvleken bra och skapade ett par fina möjligheter, bland annat en nick som gick i ribbans överkant.
Men det skulle bli värre för MFF.
I den 56:e minuten kom första bakslaget. Efter en högerhörna nådde Vardars lagkapten Boban Grncharov högst i luftrummet och kunde nicka in kvitteringen.
Och fem minuter senare var det dags för nästa smäll. Brasilianaren Juan Felipe gjorde en dragning i straffområdet samtidigt som han uppvaktades av Oscar Lewicki. Hemmaspelaren föll och domaren pekade på straffpunkten.
Juan Felipe tog själv hand om straffen, men Johan Wiland räddade. Dock kunde han inget göra på returen från Tigran Barseghyan och 2-1 var ett faktum.
Malmö hade nästan en halvtimme på sig att få till en kvittering vilket betytt vidare avancemang, men hemmaspelarna var duktiga på att försvara sig och istället kom 3-1 på tilläggstid genom Boban Nikolov. Därmed var Malmös cupäventyr över för den här gången.
– Jag tycker inte att vi gör en usel insats, utan tycker att det är en ganska jämn fotbollsmatch om du tittar på chanser och hur det ser ut. Det är idag vi förlorar men det är alla de ytterligare missade målchanserna i första matchen som gör att vi inte har gått vidare. Så man kan krasst konstatera det, säger MFF-tränaren Magnus Pehrsson till klubbens hemsida.