Attacken började på morgonen när en självmordsbomb utlöstes i en bil nära presidentpalatset, där även inrikesdepartementet är beläget, säger somalisk polis till nyhetsbyrån AP.
Beväpnade män tog sig sedan in i byggnaden och dödades efter en två timmar lång eldstrid med somaliska säkerhetsstyrkor.
Dödssiffran kan stiga
Minst nio personer dödades i attacken och dödssiffran kan komma att stiga, uppger polisen. Enligt vittnen dog eller skadades flera personer som försökte fly genom att hoppa ut genom fönster.
Den terrorstämplade jihadiströrelsen al-Shabaab har tagit på sig attacken. Mogadishu drabbas återkommande av attacker som genomförs av gruppen, som vill störta regeringen och införa en extrem version av islamistiskt styre.