大余整编着重健全党、团组织，加强党对军队的领导
10月底，朱德率领部队来到赣粤边境的大余地区。朱德、陈毅利用国民党军阀各派之间进行混战、放松对起义军追击的间隙，组织部队进行了整编。
首先从整顿党、团组织入手。重新登记党、团员情况，成立党支部以健全组织，注重连队工作，加大基层连队的党、团员比重，同时还选派了部分优秀党员去基层担任指导员，从而加强了党对部队的全面领导。
其次对部队进行整编。起义部队减员严重，原有的军、师建制都成了空架子。他们从实际出发，不再按照完整建制搭建部队，而是组成六个步兵连、一个迫击炮连和一个重机枪连，暂称“国民革命军第五纵队”。朱德为司令，陈毅为指导员，王尔琢为参谋长。整编之后的部队比原来更加集中、更加团结、更加精干，更有利于指挥和作战。
经过这次整编，部队精神面貌焕然一新。官兵们思想稳定、士气高涨，形成了一个比较巩固的战斗集体。此时部队虽然人数有所减少，但经过严峻的磨炼和考验，思想觉悟更高了，战斗力更强了，可以说是大浪淘沙保留下来的精华。
上堡整训着重申明纪律，调整作战样式，提高部队战斗力
11月初，朱德率领部队来到湘粤赣三省交界的江西省崇义县西南上堡山区。这里环境相对偏僻，敌人暂时无暇顾及，正是进行整训的有利时机。
首先是整顿纪律。朱德、陈毅一直都很重视部队的纪律教育，他们曾经对部队转战途中出现的不良行为，进行过严肃的批评，提出过严格的要求。到了上堡后，根据形势的变化，部队的任务不仅是行军、打仗，而且还要深入农村发动群众，组织群众打土豪、分田地，建立革命根据地。因此，树立革命军队的良好形象尤为重要，对官兵进行遵守纪律的教育更为必要。这次对部队进行纪律教育时，明确规定：募款和缴获的物资全部要归公。
其次是加强军事战术训练。这支部队的指挥员多数来自于叶挺独立团，不少毕业于黄埔军校，他们沿用的是正规战的指挥模式。战士们大多参加过北伐战争，打的也是正规战，南昌起义后的一些战斗仍然是正规战。部队转移到山区后，朱德、陈毅等从实践中摸索出“还可以上山打游击”的经验，开始了由正规战向游击战的转变。
朱德要求部队以连排为单位，在上堡、文英、古亭等山区村镇向群众做宣传工作，帮助群众劳动生产，收缴地主和土匪的武装，组织分粮、分田、分物。这里的百姓长期深受地主、土匪的压迫，大革命时期受过农民运动的影响，具有较好的群众基础，一经发动，便迅速行动起来，革命形势发展很快。
通过“赣南三整”，部队的思想得到统一，组织更加健全，军事训练更符合实战，形成了一个坚强有力的战斗集体。朱德终于把这支南昌起义留下的革命队伍带出绝境，使革命的火种得以保存，并成为实现井冈山会师的骨干力量。
