Leipzig ledde med 1-0 efter första halvlek, men bollen hade inte varit i rullning länge i andra innan bortalagets Jota slog till med sitt första Champions League för säsongen och kvitterade för de skotska gästerna.
Hemmapubliken var måttligt imponerade med domarbesluten när Leipzig därefter fick inte bara ett, utan två mål bortdömda efter VAR-beslut.
Men stämningen på läktaren vände från missnöje till glädje i 64:e minuten när Celtic-keeper Joe Hart stod för en utspark han nog sent glömmer. Den engelska målvakten missbedömde helt var han hade sina försvarare och passade bollen rakt framför fötterna på Dominik Szoboszlai som passade fram till André Silvas 2-1.
På bänken fanns Emil Forsberg och Sead Haksabanovic i vardera lag.
Båda blev inbytta i andra halvlek och Forsberg var inblandad i uppspelet som bäddade för Leipzig segersiffror 3-1, där det återigen var André Silva som höll sig framme.
Sead Haksabanovic var en av spelarna som lämnade Ryssland i somras och var under sommaren utlånad till Djurgården innan han lämnade Stockholmsklubben för Celtic.
Lars Lagerbäck om Erling Braut Haalands nya succé (5 okt):
