Omkring 1.500 personer hade spärrats in, de flesta av dem civila. De fritogs i samband med regeringsstyrkornas offensiv mot staden Heet, som är en av de större städer i provinsen Anbar som intagits av IS.
Under måndagen kom dock en dementi från generalmajor Ali Ibrahim Daboun, ansvarig för militären i området. Han säger att inget fängelse hittats i staden Heet i Anbarprovinsen, men att civila evakuerats från staden. Flera andra tjänstemän bekräftar uppgifterna.
Den irakiska offensiven inleddes i mitten av mars. Delar av staden är fortfarande i jihadiströrelsens kontroll.
IS erövrade stora delar av provinsen, väster om huvudstaden Bagdad, 2014, men har sedan dess tryckts tillbaka allt mer av irakiska styrkor.
Denna artikel har uppdaterats med den dementi som kom från ovan nämnda generalmajor, efter det att nyheten om det påstådda underjordiska fängelset först publicerats.