Friedrich Merz behövde en majoritet på 316 av 630 röster i den första omgången av förbundskanslervalet, men fick bara 310.
Resultatet är oväntat, särskilt för Merz själv, menar Christoffer Wendick.
– Många beskriver det som en chock, andra kallar det för ett blixtnedslag.
Wendick tolkar det som en markering från ledamöter som ville ge Merz en knäpp på näsan, men tror att ledamöterna inte var beredda på att så många skulle rösta ner Merz.
Det är sannolikt att Merz blir vald vid en andra omröstning, bland annat för att de som ville markera nu nått sitt syfte, menar Wendick.
– Hans chanser att bli förbundskansler är fortfarande goda. Men den här dagen kommer i så fall ändå alltid att skugga hans framtida kanslerskap.
Första gången i Tysklands historia
Ann-Kristin Kölln, professor i statsvetenskap vid Göteborgs universitet, säger att resultatet är historiskt, då det är första gången en nominerad kansler inte väljs i den första röstningen efter framgångsrika förhandlingar.
Merz misslyckande kan tolkas som en signal från socialdemokraterna, som kritiserat koalitionen med kristdemokraterna, menar Kölln.
– Jag misstänker att det är någon från SPD som har röstat nej. Deras vänsterfalang och ungdomsförbund har sagt tidigare att de inte är med på den nya koalitionen och att partiet rört sig för långt högerut.
En andra valomgång i dag
En andra valomgång i förbundsdagen ska hållas under tisdagseftermiddagen, meddelar SPD:s medledare Lars Klingbeil.
69-åriga Friedrich Merz är partiledare för tyska Kristdemokratiska unionen (CDU/CSU), som är traditionellt konservativa och marknadsliberala.
Unionen blev största partiet efter nyvalet i februari.
I slutet av april godkände Tysklands socialdemokratiska parti SPD en regeringskoalition med den kristdemokratiska unionen, vilket öppnade upp för Merz att bli landets nya förbundskansler.
AFD kräver omval
Det tyska partiet Alternativ för Tyskland (AFD), som klassas som högerextremt av det tyska författningsskyddet, kräver nu nyval, men det är inte sannolikt, menar Wendick.