Mannen greps under natten till söndag och anhölls senare. Under måndagen tog åklagaren dock beslutet att lägga ner förundersökningen i brist på bevis.
– Enligt mitt sätt att se det finns det inte grund för att hålla kvar honom eller för att fortsätta utredningen, säger åklagare Klas Hellgren.
Den person som anmälde våldtäkten hävdade att den skedde utomhus i centrala Jönköping.