I ljudinspelningen, som tidningen The New York Times har publicerat på sin hemsida, hörs Kerry beklaga sig för en grupp syriska civila, över att hans vilja att agera mot Bashar al-Assads regering föll för döva öron.
”Jag har förlorat diskussionen”
Mötet, där ett tjugotal personer från bland andra syriska hjälporganisationer deltog, ägde rum den 22 september i FN-byggnaden i New York.
– Det finns förmodligen tre eller fyra personer i administrationen som förespråkar användningen av militärt våld, jag har förlorat diskussionen, hörs Kerry säga i inspelningen.
– Vi försöker att följa det diplomatiska spåret, och jag förstår att det är frustrerande. Det finns ingen som är mer frustrerad än vad vi är, säger han.
Mötet ägde rum några dagar efter att en vapenvila, som Kerry själv hade förhandlat fram med Ryssland, kollapsade.
Detta har inneburit att den syriska regimen, med hjälp av ryskt flygunderstöd, gjort nya framryckningar i och kring Aleppo.
USA:s UD har inte kommenterat
Inspelningen gjordes av en icke-syrisk deltagare vid mötet, skriver The New York Times, som har kontrollerat dess äkthet med flera andra deltagare.
Det amerikanska utrikesdepartementet, förnekar inte inspelningens äkthet, men har avböjt att kommentera vad det beskriver som en ”privat konversation”.