各地共产主义小组成立后，迫切需要建立一个全国性的统一的党的组织来领导中国革命。一九二一年六月，共产国际代表马林来到上海，鉴于中国共产党成立的条件已经成熟，马林建议召开党的全国代表大会。大会的筹备工作，由上海小组的李达主持，他通知各地共产主义小组来上海开会（当时，法国共产主义小组还没有同国内取得联系，未能通知）。七月二十三日至三十一日，党的第一次全国代表大会正式召开。出席大会的代表有毛泽东、何叔衡、董必武、陈潭秋、王烬美、邓恩铭、李达、李汉俊、刘仁静、张国焘、陈公博、周佛海；包惠作为陈独秀指派的代表也参加了大会。他们代表全国五十几名党员。马林也参加大会。大会开始是在上海租界望志路一0六号举行，因法国巡捕破坏，大会最后一天转移到浙江嘉兴南湖举行。

大会的主要内容是制定党的纳和实际工作计划，选举中央领导机构。

大会经过讨论，通过了“中国共产党的第一个纲领”。纲领把党的名称定为中国共产党，指明党的奋斗目标是：以无产阶级革命军队推翻资产阶级，建立无产阶级专政，废除私有制，直至消灭阶级差别。党纲还规定了党的组织原则是民主集中制。大会还通过了关于当前实际工作的决议，确定党成立后的中心任务是组织工人阶级，领导工人运动。大会选举陈独秀、张国焘、李达组成中央局，陈独秀为书记。

党的第一次全国代表大会，宣告了中国共产党的诞生。中国共产党的成立，具有伟大的历史意义。

第一，中国共产党的成立，是我国近代历史上最伟大的事件。它标志着中国无产阶级认识到自己肩负的伟大历史使命，由自在的阶级变为自为的阶级，成为中国革命的领导力量。从此，中国人民有了完全可信赖的组织领导者。它给灾难学生的中华民族带来了光明和希望。中国革命的面貌从此焕然一新。

第二，中国共产党的成立，在中国出现了一个完全新式的、以实现共产主义为目的、以马克思列宁主义为行动指南的、统一的工人阶级政党。它是以列宁的建党原则为指导，以俄国布尔会维克党为榜样建立起来的；它在思想上和组织上都没有受到第二国际机会主义的影响。有了这样一个党的领导，中国人民不仅可以在极端困难的条件下，胜利地进行反帝反封建的斗争，而且使中国人民争取社会主义的光明前途有了保障。因此，党的成立，使中国历史进入了一个崭新的阶段。