1927年对于中国共产党来说是历尽艰辛的一年，四一二反革命政变后，宁汉合流使革命局势愈加严峻，革命力量受到重挫。就在党的事业处于危难之际，一位颇有声望的国民革命军将领在此时选择了中国共产党，他就是叶剑英。

北伐战争中，叶剑英因英勇善战，指挥有方，颇受蒋介石重视，先后被任命为国民革命军第1军总预备队指挥部参谋长、新编第2师师长等职。后来因蒋介石背叛革命，一直寻求救国救民道路的叶剑英一下被推到命运的十字路口。是留在国民党军队中升官发财，还是走一条充满艰辛的曙光之路？这位30岁出头的军官经过深思熟虑，毅然选择了后者。正如50年后他所说的，“参加革命，还是反革命？想了想，只有革命才有出路。所以我就下了决心，通电全国反蒋。”

通电反蒋后，叶剑英来到武汉，被第2方面军总指挥张发奎请到国民革命军第2方面军第4军任参谋长。在此期间，叶剑英找到共产党员李世安，把自己加入中国共产党的愿望说了出来。李世安秘密找到周恩来，向他汇报了叶剑英入党的想法。周恩来听完李世安的汇报，回想起自己在黄埔军校时与叶剑英的接触，坦然说道：“他的底子我知道，是好的，我们应该表示欢迎。”

7月上旬，武汉革命形势急转直下，在汪精卫“分共”前夜，经周恩来同意，中共中央批准叶剑英为中共正式党员。为了工作需要，叶剑英的共产党员身份暂不公开。周恩来要他不要和其他党员直接联系，只让他与李世安等少数党员保持联络。

7月中旬，刚组成的中共中央政治局临时常委会召开会议，决定将党所掌握和影响的部队向南昌集中，准备发动武装起义。起义部队云集九江。叶剑英根据党的指示，继续留在第2方面军第4军，随部队也来到九江。

第4军军部设在甘棠湖附近。叶剑英的共产党员身份虽然极为保密，但他依然与叶挺保持秘密联系，与第2方面军总指挥部秘书长高语罕、第4军政治部主任廖乾吾等也有交往，并尽力将获悉的重要军事情报传递给中共组织。

准备参加南昌起义的大批部队向九江、南昌集中，引起了反动派的警觉。汪精卫与张发奎等人秘密策划，决定以张发奎的名义，邀贺龙、叶挺上庐山开会，届时将二人扣留。同时令贺、叶部队到九江、南昌之间的德安一带集结，然后以3个军的兵力，包围贺、叶部队。然而，他们万万没想到，这个阴谋被叶剑英察觉了。

得到这一消息后，叶剑英连夜找到叶挺，将汪精卫的阴谋告诉了他。他们决定立即通知贺龙、廖乾吾以及高语罕，到甘棠湖烟水亭附近碰头，以划船赏景为掩护，共同商议对策。

在甘棠湖上的一个小划子上，叶剑英将他在山上听到的汪精卫、张发奎密谋要调贺军长、叶师长的消息告诉了大家。

“他们要我们上山搞什么名堂？”贺龙一听就急了，抢先发问。

“他们名义上要你们上山避暑，商议军情，实际上要把你们扣起来，罢掉兵权！”叶剑英沉静地回答，并将他所了解的内情和盘托出。

叶挺听后问贺龙上不上庐山，贺龙斩钉截铁地说：“我坚决不去！我们不上庐山，不去德安，只去南昌。”

经过短时间的磋商，他们决定了三件事情：第一，贺、叶不上庐山；第二，贺、叶部队不按张发奎命令集中德安，而是开往牛行车站到南昌去；第三，叶挺的部队第二天先行，贺龙的部队第三天行动。

最后，叶剑英对叶挺、贺龙、高语罕等说：“你们如有什么动作，请及时通报消息。”

甘棠湖上这次对于保证起义领导人安全和决定将起义主力部队及时开往南昌的重要会议，史称“小划子会议”。

7月26日起，叶、贺部队次第转移，开往南昌。此后，张发奎数次催促两人上庐山开会，但他们已经抵达南昌，拒不从命。汪精卫没有善罢甘休，又一次下令要第2方面军实行“清共”。叶剑英事先得知这一消息，立即告诉廖乾吾。廖乾吾及时转告恽代英、高语罕等。得知消息后，恽代英、高语罕等迅速离开九江，脱离了危险，赶赴南昌参加起义。

1927年8月1日，南昌起义爆发。听到起义消息的张发奎立刻召集第4军军长黄琪翔、参谋长叶剑英等高级军官开会，准备火速追赶已经撤离南昌的起义部队。叶剑英劝张发奎开往广东，以不追叶、贺为上策。他分析战局道：总指挥早就想南下广东，实现总理遗训，重新北伐，目前正是时机。我们原想去广东，李济深是反对的，现在我们放叶、贺的队伍到广东去，李济深招架不住，必然来请我们出兵相助，我军便可打起援师的旗号，直趋广州。这样比跟着叶、贺屁股打，两败俱伤，要胜一筹。假若在此尾追叶、贺，徒耗兵力，别说不一定赶上他们，即使捉获，我们仍无立足之地，何谈北伐统一！

叶剑英所说正合张发奎占据广东的心愿。他表面上虽下令要部队追赶一程，实际上已经放弃尾追叶、贺的计划，让部队朝着广东南雄分道前进。这样一来，为南昌起义军减轻了来自敌军的压力，客观上为南昌起义军保存实力创造了有利条件。