1931年农历正月辞旧迎新之际，刚刚取得第一次反“围剿”胜利的中国工农红军，由宁都、兴国等地进至闽赣边界的广昌、南丰、建宁一带，开辟新的革命根据地。驻扎在江西省广昌县的红四军派出红十师第三十团进入建宁西北乡村开展工作；其中一个30多人的工作队，在队长帅宏的带领下从船顶隘开进桂阳村，打垮了当地的国民党反动武装，在桂阳成立了桂阳乡农会，并组织成立了桂阳游击队。
桂阳游击队成立之初，队员有30多人，分为3个班，队长张国维、副队长夏金良，队址设在桂阳街的张氏祠堂。他们以大刀、梭镖、土铳等为武器。不久，游击队找到了恶霸土豪埋藏的10枝新步枪，改善了装备，其活动范围也延伸到周边多个乡区，并配合红军部队击退了国民党第五十六师的进攻。
同年4月，进入建宁的主力红军回江西参加第二次反“围剿”，恶霸张秉刚乘机纠集各乡民团向桂阳反扑，妄图消灭桂阳游击队。游击队避其锋芒，将武器埋藏起来，队员分散隐蔽，等待红军的再次到来。
5月16日，第二次反“围剿”战斗打响。红军在毛泽东和朱德的率领下，连打几个胜仗。27日，红军攻克广昌县城，向建宁挺进。桂阳游击队得到消息，迅速通知队员集中起来，准备协助红军攻打建宁县城。游击队集中后，出其不意迅速将张秉刚包围捕获，并按广昌红军的命令，将其交给广昌县陈庄村的游击队押往宁都。
29日，红军攻打建宁，以桂阳游击队为向导，当日进驻里心，30日占领城外的枧头村，31日从枧头攻克建宁县城，歼灭建宁县城守敌国民党五十六师5000余人，取得第二次反“围剿”胜利。红军攻打建宁县城时，桂阳游击队除担负向导任务外，还出色地完成了从里心到桂阳这一路程的红军伤员运送任务。
第二次反“围剿”胜利后，游击队队长张国维、夏金良等加入了共产党，张贵明等年轻人加入了共青团，队伍发展到60多人。为了加强桂阳游击队的思想政治工作，红军工作团派李克雄任指导员。6月下旬，桂阳游击队发展到100多人，编成一个连。7月初，游击队又与建宁的宁源游击队、杨林游击队及江西省南丰县的傅坊游击队、广昌县的陈庄游击队等在桂阳村整编，合并组建为红军南广建独立团，全团700多人，桂阳游击队编为第三连，又称之为桂阳连，连长张国维，指导员李克雄。
7月中旬，红军主力部队撤回江西准备进行第三次反“围剿”时，独立团留在闽赣边的南丰、广昌、建宁打击进犯苏区的国民党军，掩护主力红军转战赣南；后经宁化，转战长汀、武平等地，到达瑞金，两个多月中，经历大小战斗十余次。8月28日，独立团在宁都、瑞金边界的黄石馆被国民党军孙仲连部的一个旅和地方武装包围，独立团与敌激战至第二天中午，才由第三连杀出一条血路冲出包围。战斗中，第三连连长张国维负重伤，陈友良、陈春仔、夏邦森、夏六仂、夏金旺等10余名桂阳藉的老战士壮烈牺牲。10月，独立团随红十二军进入闽西，在武平攻打钟绍奎部时，第三连表现得机智英勇，为战斗的胜利发挥了重要作用，被红十二军军长罗炳辉称为“铁军”。
