抗战时期的1941至1942年间，在日伪军连续扫荡、大规模“蚕食”的形势下，中国共产党领导的抗日根据地在积极开展军事斗争的同时，将军事打击与政治攻势相结合，把公开斗争与隐蔽斗争相结合，加强敌占区和边沿区工作，其中组织和发展武工队是强化敌后斗争的重要和有效措施。
武工队，全称“武装工作队”，因其活动区域主要在敌后，又称“敌后武工队”，是抗日战争时期根据地军民创造的一种新的对敌斗争的组织形式,1942年首创于晋察冀根据地。1942年9月11日，中共晋察冀分局和晋察冀军区在平山县寨北村召开边区党政军高级干部会议，正式确定了“以武装斗争为核心，配合各种斗争，向敌后展开全面攻势，变游击区为根据地，敌占区为游击区，敌进我进，向敌后之敌后伸展”的方针，得到了中共中央的肯定。随后，中共中央向各抗日根据地提出了“敌进我进”“到敌后之敌后去”的号召。很快，武工队这一组织形式被普遍推广于其他抗日根据地，采取各种手段打击敌人，被人们誉为敌后斗争的“袖中利剑、怀中匕首”。
1942年12月15日，山东纵队4旅由旅政治部、10团和泰山专署公安处侦察班负责组建调集干部、共产党员50余人，组成泰山区第一武工队，4旅政治部协理员、战斗英雄罗俊任队长，10团3营副教导员刁愈之任指导员，李烈炎等任副指导员，下设三个分队。这支武工队的指战员全部是挑选出来的一些精明能干、有勇有谋、能单独执行任务的连排干部，每人都配备步枪、短枪和手榴弹三种武器。这支武工队像一把尖刀插入敌人的重点防守地区。1942年1月，武工队进入莱芜口镇后，很快站稳了脚跟，铲除了作恶多端的叛徒宋有德。1943年，武工队奉命开赴泰安、莱芜边界，摧毁了日本特务川村与之雄策划建立的“川村实验区”，后又转入济南市周边、淄博等地开展斗争；改造了很多会道门组织，坚持了莱芜北部反“蚕食”斗争。
武工队有时集中，有时分散，广泛开展游击战争：今天打埋伏、袭据点、摸哨兵，明天撒传单、割电线、埋地雷；打击日伪征粮队、破坏敌掠夺资源计划、解救被抓壮丁、摧毁或改造伪组织、对日伪据点实行围困，有时甚至化装进城或进敌人的据点直接打击伪军和汉奸……这些战术搅得敌人晕头转向，防不胜防。武工队坚决执行“紧紧掌握民族矛盾”、“坚决依靠基本群众”等原则，一面战斗，一面发动群众，组织民兵，在乡村建立起情报站、联络站等，以扩大共产党、八路军的影响。
值得一提的是，武工队员采取了一系列措施瓦解敌军，诸如发动政治攻势，对于可以争取的分子尽量争取；对伪乡长、伪保长进行教育，争取建立“两面政权”；建立“红黑簿”（善恶簿），订出了奖励伪军携带武器归来的办法，争取伪军投诚（1943年，先后有120多名伪军投诚）；对日军，武工队员利用包围据点的时候用日语向敌人喊话，或者利用敌人的电话线，向日本士兵进行宣传，宣传时，以说服教育的口气，注意避免谩骂讽刺的言词。除了口头宣传和喊话，还大量散发宣传品，为了加强宣传品的效果，对日军特别注意印刷精美、文字生动和富有日本民族色彩。这些举措迅速打开了局面。
1944年前后，成立了历城县政府，同时建立了历城县大队负责南部山区对敌斗争。从此，这支武工队完成了交给的任务，奉命调回根据地。1945年1月，八路军山东军区通令嘉奖泰山区第一武工队。
