Händelsen inträffade på Norrbottens regemente i Arvidsjaur vid lunchtid på onsdagen. Polis larmades till platsen av regementspersonal som stoppat mannen.
Mannen greps på platsen och fördes till polisstationen för förhör men frigavs senare. Han är nu misstänkt för stöldförsök.
Polisen är förtegen med uppgifter kring händelsen då utredning pågår men beskriver det som att mannen försökt lämna området med "vissa vapendelar".
Den misstänkte är inte hemmahörande i Arvidsjaur och det framkommer inte vilken del av regementet han tillhör.