Tv-bilder visar brandmän som försöker släcka branden som kraschen orsakade.
Olyckan inträffade klockan 16.45 lokal tid, bara några hundra meter från en förskola.
Japans försvarsministerium har sagt att den japanska militärhelikoptern försökte landa efter att besättningen rapporterat om störningar, skriver Japan Today.
Två befaras döda
Enligt lokala myndigheter befaras de två personer som var ombord på helikoptern vara döda. Inga personer som bor i den lägenhet som helikoptern kraschade in i ska dock ha skadats.
Den senaste tiden har det varit flera incidenter med militärhelikoptrar i landet. Dock har de flesta varit amerikanska militärhelikoptrar.