中国共产党成立后，在发动和领导革命斗争的过程中，开始注意加强自身的建设，取得了初步的成效。
中国共产党是马克思主义与中国工人运动相结合的产物，是根据列宁的建党学说组建起来的。虽然在创建初期党的大多数成员是具有初步共产主义思想的知识分子，工人党员很少，然而，判断一个政党的性质，主要不是看党员的成分，而是看它的指导思想和行动纲领。中国共产党从创建开始，就是一个以马克思主义为指导思想的、以中国工人阶级先锋队和中国人民根本利益代表者的面貌出现的政党；它以完成中国反帝反封建的民主革命、最终在中国实现社会主义和共产主义为自己的奋斗目标和行动纲领。因此，它是中国历史上第一个新型的无产阶级革命政党。
党为了把自身建设成为坚强的无产阶级先锋队，担负起领导中国革命的重任，“为无产阶级做革命运动的急先锋”，在创立时就规定有严密的组织和严格的纪律。党的一大通过的纲领将党章的内容和党纲的内容合在一起。到二大时，党制定了第一个正式的章程，分六章二十九条，详细规定了党员条件、入党手续、党的组织系统，以及党的组织原则、纪律和其他制度。章程规定：全国代表大会为党的最高机关；在全国代表大会闭会期间，中央执行委员会为最高机关；全国代表大会及中央执行委员会的决议，全体党员必须绝对服从；党的一切决议均取决于多数，少数绝对服从多数。它要求从党的中央到基层组织都要有严密的组织系统，要有集权精神与铁的纪律，避免无政府的“乌合的状态”；无论何时何地，每个党员的言论必须是党的言论，每个党员的活动必须是党的活动。每个党员都要在行动上受党中军队式的训练，不能以资产阶级法律秩序的观念来看待党内的纪律与集权，而“应以共产革命在事实上所需要的观念施行之”。党的二大还强调，要把党建设成为一个能够实行无产阶级革命的“大的群众党”，既不是学会组织，也“不是少数人空想的革命团体”。“我们的组织与训练必须是很严密的集权的有纪律的，我们的活动必须是不离开群众的”。
上述规定，对于把党建设成为一个政治上、思想上和组织上集中统一的无产阶级政党，具有决定性的意义。正因为“我们的党从最初组织起就有自我批评和思想斗争，就确定了民主集中制，就有严格的组织与纪律，就不允许派别的存在，就严厉地反对了自由主义、工会独立主义、经济主义等，因此在我们党内公开提出系统的组织上的右倾机会主义的理论，是还没有的”。“就这方面说，我们走了直路”。
党在实际工作中坚持实行严格的纪律，对违犯纪律、不符合标准的党员予以严肃处理。陈公博和周佛海两人在建立党的早期组织过程中曾做过一些工作，并被选为代表出席了党的一大，但不久就严重违反党的纪律。党毫不留情地将这样的人清理出去，因而保持了党组织的纯洁性。
建党初期，党的建设的一个迫切任务是迅速在各地建立和健全党的组织机构，发展党员尤其是发展工人党员。１９２１年１１月，中央局发出通知，要求上海、北京、广州、武汉、长沙五区在本年内，至迟于１９２２年７月召开大会前，都应发展到３０人，成立区执行委员会，以便开大会时能够彻底依党纲成立正式的中央执行委员会。到１９２２年６月底，已发展和扩大了许多地方组织，计有：中共上海地方执行委员会（１９２１年１１月成立）、中共湘区执行委员会（１９２２年５月成立）、中共广东区执行委员会（１９２２年夏成立）、中共北京地方委员会（１９２１年秋成立）、中共武汉（湖北）区执行委员会（１９２２年１月成立）。地方支部等基层组织主要有：安源煤矿支部、湖南第一师范学校支部、衡阳省立第三师范学校支部、湖南自修大学支部、长辛店机车厂支部、唐山制造厂支部、山东支部、郑州支部、徐州支部、铜山站支部、旅莫斯科支部、旅德支部、旅日党小组、四川党小组等。到党的二大召开前夕，党员已发展到１９５人，其中上海５０人，长沙３０人，广东３２人，湖北２０人，北京２０人，山东９人，郑州８人，四川３人，留俄８人，留日４人，留法２人，留德８人，留美１人。内有女党员４人，工人党员２１人。项英、邓培、张浩、王荷波、史文彬等一批工人中的先进分子被发展为党员。
党成立后，注意深入群众，深入实际。同时，很多知识分子党员通过与工农群众相结合，思想感情和工作作风发生了很大转变，成长为合格的无产阶级的先锋战士。
党的自身建设在创建时期已有一个良好的开端，取得了初步的成果，使党能以无产阶级先锋队的面貌，迅速从中国各政党和团体中脱颖而出，获得中国工人阶级和其他劳动群众的信赖。这为以后党的建设奠定了坚实基础，为发动和领导中国革命走向高潮提供了有力的保证。
中国共产党在成立后的近两年里，开始注意理论联系实际，把马克思主义的基本原理与中国革命的实际结合起来，制定出反帝反封建的民主革命纲领，探讨现阶段中国革命的性质、对象、动力、任务、目标和前途等基本问题，实现了党的战略和策略的第一次转变。同时，党又积极投入到发动、组织和领导革命斗争的实践中去，扩大了自己在全国的政治影响，很快开创出中国革命的新局面。党在理论上和实践中所体现出来的先进性，表明它能够真正承担起领导中国革命的重大责任。党虽然幼小，却已成为任何敌人无法压倒的新生政治力量。
中国共产党在成立初期，尚缺乏革命斗争的经验。在领导工人运动，特别是在领导京汉铁路大罢工的过程中，党对工人阶级同帝国主义、封建军阀之间的矛盾已经日益激化的形势估计不足，对于反动军阀可能制造流血事件的阴谋警惕不够。在策略上，不善于把公开斗争与秘密斗争结合起来，也缺乏应变的准备。在组织上，党对发展新党员的标准和要求过高，在工人运动兴起后仍然没有在工人中较多地发展党员。在京汉铁路工人罢工爆发时，全路共产党员还不到５０人，因而不能在各个基层单位形成坚强有力的领导核心。这就难以适应日益激烈而复杂的斗争形势，成为这次罢工失败的一个重要原因。此外，党虽然开始关注农民状况和农民运动，但尚未给予足够的重视。
中国共产党在初期的斗争实践中取得了一些重要的经验教训。第一，中国革命的敌人是异常强大的，对于力量相对比较薄弱的工人阶级来说，不能单靠自身的孤军奋斗，必须同其他民主力量合作，必须发动广大人民群众，争取一切可能的同盟者，才能取得反对帝国主义、反对封建军阀的革命运动的胜利。第二，在半殖民地半封建的中国，工人阶级不能享受起码的民主权利，几乎所有规模较大的工人斗争都受到反动政府的武力镇压。这表明，没有革命的武装斗争，单靠罢工这个武器，主要进行合法斗争，是不可能取得革命胜利的。中国劳动组合书记部在二七惨案后发表的文告中即指出：“劳动者能有武器，岂能任他们如此杀戮？”第三，党必须大力吸收工人、农民中的先进分子，尽快壮大自己的队伍，不断扩大和巩固自身的组织，才能适应领导不断发展的革命斗争的需要。年幼的中国共产党正是带着这些经验教训，迈入以国共合作为基础的反帝反封建的大革命时期。
