1927年7月下旬，党中央决定发动南昌起义，并派周恩来任前敌委员会书记，负责领导这次起义。当时，敌人在南昌地区的力量比较薄弱，总计六个团约1万人。在这个地区，我党掌握和影响的武装力量主要有：叶挺领导的第24师，贺龙领导的第20军，朱德领导的第3军军官教育团和南昌市警察武装，由叶挺独立团为骨干编成的第25师，以及蔡廷锴的第10师的一部。还有卢德铭领导的国民政府警卫团和陈毅领导的中央军政学校武汉分校等部，正向南昌集中，7月27日，正式组成以周恩来为书记、谭平山、恽代英、李立三、彭湃为委员的前敌委员会。次日起义总指挥部成立，贺龙为总指挥，叶挺为前敌总指挥，刘伯承为参谋长。在准备工作基本就绪时，张国焘由武汉赶到南昌，阻扰起义。前委克服了张国焘的阻扰，决定于8月1日发动起义。
8月1日，在以周恩来为首的中共前敌委员会和贺龙、叶挺、朱德、刘伯承的领导下，北伐军约3万人举行了南昌起义。起义部队经过五个小时的激烈战斗，全歼南昌守敌，并控制了全城。起义胜利后，部队仍沿用国民革命军第2方面军的番号，贺龙任代总指挥，叶挺任代前敌总指挥，刘伯承任参谋长，郭沫若任总政治部主任，共编为三个军：第20军（军长贺龙兼，党代表廖乾吾）；第11军（军长叶挺兼，党代表聂荣臻）；第9军（副军长朱德，该军约一个团的兵力）。
南昌起义后，前委决定：起义军按原定计划退出南昌，进军广东重建根据地，依托海口，争取外援，再次举行北伐。8月5日，起义部队撤离南昌，取道临川、广昌南下。蔡廷锴第10师进到进贤地区叛变逃走。部队在瑞金、会昌地区击破敌军黄绍弘、钱大钧等部的拦阻后，由福建进入广东的三河坝、潮州、汕头地区。朱德同志率第25师留守三河坝。师长周逸群率第20军第3师留守潮、汕。起义军主力继续西进，在汤坑地区与敌薛岳等部激战后，10月3日，在流沙镇与我从汕头撤出的部队和前委首脑机关会合。当日下午，主力部队进至乌石山时，与敌陈济棠、徐景唐部激战遭受失败，保留下的武装1300余人，进至海陆丰地区与东江农民武装力量相结合，改编为工农革命军第2师，继续坚持革命斗争。三河坝我军与敌黄绍弘部激战三昼夜后，保留下来的武装与我从潮州突围的少数部队于饶平会合，在朱德、陈毅率领下，转移到赣粤边的大庚地区，保存了南昌起义部队的一部分骨干。
南昌起义，由于客观上敌人力量过于强大，主观指导上缺乏经验，没有和湘、鄂、赣地区的农民运动相结合，开展土地革命战争，孤军南下广东遭到失败。但这次起义，打响了反对国民党反动派的第一枪，在全党和全国人民面前树立了一面鲜明的武装斗争旗帜，极大地鼓舞了全国人民的革命斗志，对创建人民军队作出了重大的贡献。
