1920年4月，经共产国际批准，俄国共产党（布尔什维克）远东局海参崴分局外国处派出全权代表维经斯基抵达中国，着手帮助中国建立共产党的组织。在党的早期组织创建过程中，陈独秀、李大钊起着关键的作用。1920年8月，中国共产党最早的组织在上海法租界《新青年》编辑部成立，陈独秀被推选为书记。维经斯基来华期间，先后在上海、北京建立了工作机构——“革命局”。广东是中国南部沿海地带产业工人相对较为集中的地方，包括香港、澳门在内的近代产业工人超过30万人。维经斯基认为，现在的任务是，在中国各工业城市建立与上海革命局相类似的局，目前还只建立了北京局；广州也具备建立一个类似上海、北京那样的工作机构的条件，“现在我把米诺尔同志从天津派往广州，他要在那里组建一个革命局”。

1920年八九月间，米诺尔和别斯林在北京大学粤籍学生、北京共产主义小组成员黄凌霜引领下抵达广州。黄凌霜是无政府主义者，他把米诺尔、别斯林引荐给梁冰弦、区声白、刘石心等人。经过接触，他们随后发起成立“共产党”，米诺尔、别斯林和7名无政府主义者担任党的执行委员，并租用永汉北路光明眼镜店二楼作为活动中心。广东“共产党”成立后，创办《劳动者》周刊，同时以广东“共产党”的名义散发传单，开展宣传工作。广东“共产党”的主要构成人员为无政府主义者，它并非真正意义上的共产党组织，其活动亦受制于无政府主义。“与其称作共产党，不如称作无政府主义的共产党”。谭平山等人拒绝加入这个所谓的“共产党”组织。

1920年底，陈独秀应自称“社会主义者”的粤军总司令、广东省省长陈炯明之邀到任广东省教育行政委员会委员长。赴穗前，他与李大钊商定在广东成立共产党组织。陈独秀抵达广州后即约谭平山、陈公博、谭植棠商谈建党。陈独秀说，现孙中山在广东建立政府，正是开展民众运动的好机会，必须像上海、北京那样，建立共产主义者的组织。谭平山对此表示完全赞同，认为今天“实在需要建立一个强有力的政党组织，以宣传和组织民众，为振兴中华做出努力”。

陈独秀又奔走于广东“共产党”成员之间，研究党的组织问题，并把自己起草的“党纲”提交他们讨论。但在“党纲”问题上，无政府主义者与陈独秀等人存在根本性分歧，无政府主义者反对在“党纲”上写明实行“无产阶级专政”的条文。陈独秀等人认为这一问题是根本性的原则问题，不能妥协退让。双方不能取得一致意见，无政府主义者宣布退出。

1921年春，经过反复酝酿，陈独秀、谭平山、陈公博、谭植棠及米诺尔、别斯林等人组成新的广东共产党，即广州共产党早期组织，陈独秀任书记（后谭平山接任），活动地点主要在高第街素波巷的广东宣讲员养成所。此外，随同陈独秀赴穗的上海共产党小组成员沈玄庐、袁振英、李季参加了广州共产党早期组织小组。两个月后包惠僧受上海早期党组织的派遣赴穗见陈独秀，也参加了该小组。

在广州市第十中学里的小红楼（广东宣讲员养成所），是广州共产党早期组织的主要活动场所

广州共产党早期组织成立后，以广东宣讲员养成所、注音字母教导团、机器工人补习学校、俄语学校为阵地，在讲授国语、历史、注音字母、文化技术的同时，还宣讲革命理论，介绍马克思主义原理，启发群众觉悟。《广东群报》开辟“马克斯研究”“俄国研究”“莫斯科通信”“2人消息”等专栏，驳斥和批判无政府主义者并指导工人运动。此外，广州共产党早期组织成立后，创办马克思主义研究会，组织学习马克思主义的基本理论，研究中国的实际问题，并吸收一批高、中等学校学生参加，发展会员80多人，为革命造就了最初的骨干力量。

1921年7月23日晚，中国共产党第一次全国代表大会在上海法租界望志路106号开幕。“代表大会定于六月二十日召开，可是来自北京、汉口、广州、长沙、济南和日本的代表，直到七月二十三日才到达上海，于是代表大会开幕了。”国内各地党组织和旅日党组织派出13名代表出席大会，代表全国50多名党员。广州共产党早期组织派出代表陈公博出席了会议。陈公博向大会报告了广州共产党早期组织成立的经过及主要工作，提出今后发展党员、成立工会、举办工人学校、加强农民宣传教育以及争取军队官兵等重点工作。此外，包惠僧受陈独秀指派，也由穗赴沪参加了大会。中共“一大”确定党的纲领是“以无产阶级革命军队推翻资产阶级”“采用无产阶级专政，以达到阶级斗争的目的——消灭阶级”“废除资本私有制”以及联合第三国际。大会决定今后党要集中力量领导工人运动，成立产业工会，“党应在工会里灌输阶级斗争的精神”，教育、组织和发动工人。

中国共产党第一次全国代表大会会址

中共“一大”之后，陈公博回到广州。谭平山在广东宣讲员养成所主持召开广东党员大会，听取陈公博传达党的“一大”召开的情况及会议主要精神，并认真开展了学习讨论。这次会议还邀请了一部分党外先进分子列席。大会还正式宣布：中国共产党广东支部成立，隶属中共中央局。谭平山任书记，陈公博负责组织工作，谭植棠负责宣传工作。大会还宣布吸收一些党外先进分子入党。

广东支部成立后，进一步发展党员。广东支部早期的成员除前述已提及的人员之外，还有阮啸仙、林伯渠、杨匏安、张善铭、周其鉴、冯菊坡、梁复然、郭植生、陈适曦、王寒烬、罗绮园、刘尔崧、黄裕谦等人。1921年11月，中共中央局发出通告，要求在1922年7月党的第二次全国代表大会召开之前，广州等5个区必须发展党员达到30人，并成立党的区执行委员会。至1922年6月，中共广东支部又吸收杨章甫、郭瘦真、谭天度、施卜、黄学增、杨殷、潘兆銮、赖玉润等人入党，广东党员发展到32人。随着党员人数的增加，中共广东支部扩大为中共广东区委（“粤区委”），驻地广州，谭平山担任书记，陈公博负责组织，谭植棠负责宣传。

广东党组织是中国共产党最早成立的地方组织之一，成立之后，即投身中国革命的伟大事业，在艰险曲折的征途中发展壮大。