自卫团建立初期，武器主要有大刀、长矛、土枪、土炮。以后在战斗中，缴获日伪钢枪，弹药和自制部分手榴弹、地雷。1941～1942年，胶东民兵一级模范张仁厚自办小兵工厂一处，修枪、造子弹、石雷。自造的雷管供全县使用。前迟家村制造的火药、七夼村造的地雷和复新的子弹都在实战中发挥了很大的作用。至1946年下半年，全县民兵拥有步枪1385支、步枪弹20624发，地雷1143枚，手榴弹7711枚，石雷64个，土药363斤。
建国后，民兵武器配备步枪、冲锋枪，轻、重机枪。1974年始，在部分乡镇配备轻型火炮、高射机枪、“四0”火箭筒，有的企业配备37高炮。五十年代至七十年代中期，武器由民兵连保管；七十年代中期至1985年，武器集中到公社(厂企)武装部保管。此后，武器全部由市武装部统一保管。