Mannen omhändertogs av en polispatrull på en krog i centrala Sundsvall under natten till söndagen. Mannen uppträdde störande och togs till polisstationen.
Vid avvisiteringen av honom hittades en isärskruvad pennpistol.
Han är nu delgiven misstanke om grovt vapenbrott.
Mannen är inte känd hos polisen sedan tidigare.