陈独秀在1925年10月，共产党北京第二次中央扩大会议上，提出了共产党员应该及时准备退出国民党而独立，始能保持自己政治面目，领导群众而不为国民党政策所牵制。陈独秀对共产党加入国民党一事，自始就缺乏信心，一直以客卿自居，国民党内一有风吹草动，他总不免有悔不当初之感，嚷嚷着要退出国民党，他和戴季陶的出发点不同，但殊途同归。
陈独秀的意见受到共产国际代表和中央委员们的一致反对，使他未能坚持自己的主张。这次会议通过的《中国共产党与中国国民党关系议决案》，其精神是积极的，但并非是完满无缺的，其中规定非必要时我们的新同志不再加入国民党，不担任国民党的工作，尤其是高级党部。这个规定当然不利于争夺国民党的领导权。
北方政治形势的恶化，使陈独秀的思想又发生了变化，他片面地认为郭松龄倒戈失败，奉系军阀气焰复张，并与吴佩孚勾结起来，冯玉祥的国民军正处于四面受敌的情况下，表明革命低潮到来了，一味主张在革命统一战线方面要执行让步的策略。
于是，陈独秀同张国焘一起代表中共中央，约请参与过西山会议派活动的叶楚伧、邵元冲、孙科在上海，就国共关系问题举行会谈，向他们表示：“中共并没有包办国民党事务的企图，而且反对这种企图。中共中央已通知各地党部，多推选国民党人士出席国民党第二次代表大会。中共亦不希望在大会的中央委员改选中，增加中共方面的国民党中央委员人数。”还邀请他们回广东参加国民党“二大”。会谈中双方就继续合作达成了几点协议。
陈独秀又急不可耐地给中共广东党组织写信，要他们欢迎这些右派回广东参加大会，选举国民党中央委员时，要尽可能地把各方面的人物都包罗进去，说这样可以团结国民党。陈独秀提出的国民党中委候选人名单，有很多人是国民党右派分子，陈独秀还把完全附和他的张国焘派到广州，担任出席国民党“二大”的中共党团书记，指导中共在大会的活动。
张国焘到广州后，立即召集中共广东区委负责同志和鲍罗廷开会，要求贯彻执行陈独秀的退让政策，鲍罗廷说：
“国民党左派和共产党仍应向右派势力进攻，以期广东局面获得进一步的巩固，此时决不应退让，因为退让政策会助长右派的气焰。”
广东区委赞成鲍罗廷的意见，反对同孙科、邹鲁、叶楚伧等人的协议。鲍罗廷气愤地质问张国焘：“为甚么广东方面将那些阴谋破坏革命的国民党右派分子驱逐出去了，现在你们却又要将他们请回来？”
张国焘回答说：“孙科等人是中派，中央既已与他们有协议，自不能中途变更。这不是退让政策，这是中共自谋独立发展和巩固国民革命阵线所必要的措施，不应要求修改，而应切实执行。开除西山会议派和使中共党员增加在国民党中央的比重，并不算是甚么真正的革命进攻。”
张国焘还向汪精卫表示，在选举国民党中委时，可以减少中共的名额。
出席国民党“二大”的代表共278人，其中共产党和国民党左派代表168人，中派代表65人，右派代表45人。大会主席团由汪精卫、谭延闿、邓泽如、谭平山、恩克巴图、丁惟汾、宋庆龄等7人组成，秘书长是共产党员吴玉章。
由于共产党人和国民党左派在代表中占多数，他们参加了大会的各个主要机构。在大会上，汪精卫作了政治报告，林伯渠作了代表大会筹备经过报告，谭平山作了党务和代表资格审查报告，毛泽东作了宣传工作报告，邓颖超受何香凝委托作了妇女运动报告，蒋介石作了军事报告，国民政府顾问鲍罗廷作了大会发言。
大会对西山会议派表示强烈愤慨，但蒋介石和孙科却秘密策划阻挠大会对西山会议派的处理。他们看到这个企图不能得逞时，就把出席大会的第一军和黄埔军校的部分代表召集起来，让汪精卫出面以第一军和黄埔军校代表名义，向大会提出，对西山派尽量从宽处理，但却遭到多数代表的反对和批判。
大会通过《弹劾西山会议决议案》，决定永远开除谢持、邹鲁的党籍，给予居正、石青阳、石瑛、覃振、傅汝霖、沈定一、茅祖权、叶楚伧、邵元冲、林森、张继、张知本等12人警告处分，责其改正错误，限其两个月内，具复于中央执行委员会。若有不接受大会警告，是甘心背叛本党，即开除其党籍。唯念戴季陶为党奋斗有年，翊赞总理，改组本党，颇有勋劳，大会促其猛省，不可再误。
大会还通过决议，继续聘请鲍罗廷为国民政府顾问。并赠送鲍罗廷银鼎一座，上镌刻“共同奋斗”4字。
在选举中央执行委员和监察委员时，由于张国焘坚持对右派的妥协退让，新当选的36名中央执行委员，共产党员只有7人，即林伯渠、李大钊、于树德、杨匏安、恽代英、吴玉章、朱季恂，加上国民党左派朱培德、谭延闿等人在内，只有14人；国民党右派、中派则有15人，孙科、戴季陶、胡汉民、伍朝枢等右派都当选了。12个中央监察委员中，右派占了绝大多数，共产党员只有高语罕一人。
在这次选举中，原来在国民党内地位并不高的新右派头目蒋介石，竟一跃当选为中央执行委员，并接着在二届一中全会上又当选为国民党中央常务委员会委员。常务委员共9人：蒋介石、汪精卫、谭延闿、谭平山、林伯渠、胡汉民、陈公博、甘乃光、杨匏安。蒋介石的亲信何应钦当选为候补中央执行委员，陈果夫当选为中央监察委员。蒋介石在反对西山会议派的斗争中，伪装左派，浪得不少声誉；他作为国民革命军东征军总指挥，拥有一部分军权，取得东征的胜利，在大会上备受礼遇。他又以军事领袖自居，在大会上作了各种引人注目的表演。
蒋介石一跃而成为国民党内地位很高的人物，与陈独秀多次吹捧蒋介石有关。1925年10月，陈独秀在《向导》上发表文章说，蒋介石手创有力的党军，不但为国民党建立了惊人的勋劳，并且为已死的中山先生出了多年力不从心的怨气。12月，陈独秀又在《向导》上先后发表了两篇吹捧蒋介石的文章，把蒋介石列入国民党左派领袖的队伍，并把蒋排在汪精卫之后，称他是第二号左派领袖。苏联派遣来的军事顾问亚·伊·列潘诺夫，也说蒋介石在政治上是个左派，并正往左发展。
历史上称此时的陈独秀是右倾投降主义。陈独秀的私人生活也开始放荡不羁，他和妻子高君曼感情破裂，高君曼去了南京，陈独秀另有新欢。
陈独秀在上海隐蔽起来，没人知道他住在上海什么地方，他每次到中央机关看文件，同志们用话引他泄秘密，但每次都失败了。话说到边缘，他便闭口不谈。大家猜想他一定有个女伴，陈独秀同女医生施芝英同居。
1926年1至2月，陈独秀便不来中央机关看文件了。因为没人知道他的住址，也没有办法找他。秘书处秘书任作民首先恐慌起来，他报告了瞿秋白、彭述之、张国焘，他们也恐慌起来。一天天过去，都没有消息，大家近于绝望了，猜想陈独秀被秘密处死了。眼泪汪汪的张国焘说：
“老头子如果要做官，可以做很大的官，想不到今天落到这个下场。”
陈独秀“失踪”一个多月后露面了，他裹着一件大衣，缠着围巾。原来他生了伤寒病，住进了医院，他的女伴服侍他。他说已经告诉任作民要好多天不来办公的，他以为不久就可以出院的。同志们受了场虚惊，少不了要数落他，他答应以后任作民一人可以去他家。
本来就支持国民党的共产国际，对于陈独秀吹捧蒋介石尤其注意。
2月上旬，联共（布）派遣联共（布）中央委员、红军总政治部主任布勃诺夫、联共（布）中央委员、远东边疆区党委书记库皮亚克等10余人来华。布勃诺夫在北京会见俄国顾问，听取了关于中国形势的汇报，然后同加拉罕一起去包头、张家口，会见冯玉祥。布勃诺夫认为革命阵线争取冯玉祥的工作是很值得做的，苏联应以更大规模继续向冯玉祥提供援助。
在布勃诺夫同冯玉祥会面时，共产国际在莫斯科召开第六次扩大会议。国际执委会主席季诺维也夫在工作报告中说：“有40万党员的国民党，历史的‘明天’将使它在全中国掌权，而它却在思想上表示赞同我们，这已经是巨大的成就了。”全会作出的《关于中国问题的决议》中说，国民党已经同最广大的工农群众和城市民主派建立了联系，广州政府乃是中国人民争取独立斗争的先锋队。共产国际根据联共（布）的建议，批准国民党参加国际，并推选蒋介石为共产国际主席团的名誉委员。
然而，谁曾料到，就在共产国际会议闭会后的第5天，即3月20日，这位“名誉委员”在被誉为“典范”的广州政府所在地，制造了中山舰事件，又称“3·20”事件，这对中共和陈独秀都发生了很大的影响。
蒋介石原本不赞成国共合作，曾对孙中山坚持联俄联共，表示异议，但由于个人野心，又隐忍下来。为了表示对孙中山个人的服从与忠顺，他又竭力装出完全拥护的样子，借以骗取革命人民的信任，捞获政治资本。蒋介石玩弄两面手法，使他的地位迭迭上升，权力不断扩大。他兼有政治和军事两方面的重要职务，与国民党领袖相比，在军事方面，蒋介石比汪精卫强，拥有汪精卫所不具有的军事地位和实力；在政治方面，蒋介石比李济深、程潜等人强，享有李、程所不具有的政治地位和影响。野心谋求权力，权力助长野心，并以既得权力为杠杆，谋求更大更多的野心，这就是蒋介石发迹的法窍。
1926年2月，苏俄政治顾问鲍罗廷偕谭平山暂时离开广州，去了北方，鲍的职务由另一名苏俄顾问季山嘉代理。季山嘉对蒋介石的阴暗反共心理有所察觉，对蒋的独裁擅权行为不满，竭力拉拢国民政府主席汪精卫对蒋进行抑制，这就加深了蒋介石的疑忌。右派头目伍朝枢、古应芬、王柏龄等乘机大肆散布谣言，说苏俄顾问和中共要“倒蒋”，广州市面上出现了称蒋介石为“新军阀”的传单，这无异是火上加油，推波助澜。蒋早有反共的思想基础，已有疑忌之心。右派分子的挑拨煽动，使他有了机会发动政变。
蒋介石深知军权的重要，而要掌握军权，必须打击共产党，扩张自己的势力。
广州商团叛乱后，黄埔军校革命学生为帮助政府及时平定叛乱，联络广州其他各军校学生，发起组织青年军人代表会。不久，黄埔军校学生代表蒋先云等决定将青年军人代表会改组为青年军人联合会，其主要负责人有黄埔军校学生蒋先云、李之龙、周逸群、徐向前、陈赓、王一飞、许继慎、左权等，在教职员有金佛庄、鲁易、胡公冕等，大都是共产党员。联合会在其存在的18个月中，会员发展到2万多人，成为革命军人中有明确宗旨、严密的组织、严明纪律和广泛的群众基础的革命团体。
黄埔军校右派分子王柏龄等为了与联合会相对抗，组织了“中山主义学会”。这些人打着研究中山主义的旗号，把右派分子集中起来。几个月之后，王以中山主义学会为基础，成立了孙文主义学会。王柏龄说：
“成立孙文主义学会，就是要和共产党和青年军人联合会划上一道鸿沟，尔为尔，我为我。”
孙文主义学会的骨干都是蒋介石的亲信，王柏龄、贺衷寒、何应钦、陈诚、顾祝同、胡宗南、吴铁城、缪斌、冷欣、曾扩情、酆悌、桂永清、欧阳格、刘峙、陈肇英等。它是蒋介石豢养的反共反革命的团体。
孙文主义学会监视共产党员的行动，盗窃共产党员的文件，放出种种污蔑中伤共产党员的滥言，甚至挑起冲突，大打出手，酿成武斗惨剧。孙文主义学会会员、黄埔军校官佐林振雄同青年军人联合会会员李汉藩发生口角，林竟然拔出手枪向李开了一枪，幸未打中，当时引起大风潮。军校进步师生同声抗议林振雄枪击李汉藩事件。
身为黄埔军校校长的蒋介石，貌似公允，暗中却支持孙文主义学会，竭力加强对青年军人联合会的控制。
1926年2月2日，蒋介石装作协调两会关系，召集两会负责人开会，议定4条办法，利用孙文主义学会以加强对青年军人联合会的监视，把联合会摆在自己的控制之下，庇护右派，打击左派。
蒋介石操纵孙文主义学会，阴谋策划中山舰事件。
中山舰是国民政府唯一的一只装备完全的兵舰，它原是由永丰舰改名的，孙中山曾在永丰舰上避难，为纪念孙中山而改名“中山舰”。
蒋介石同孙文主义学会、国民党右派多次策划，散布说：
“共产党要暴动，推翻国民政府，组织工农政府。”
蒋介石精心策划之后，于1926年3月18日，令黄埔军校驻省办事处通知海军局，谓奉蒋介石命令，调派“得力兵舰二艘，开赴黄埔，听候调遣。”
海军局代理局长李之龙即派中山、宝璧两舰前往。但19日晨军舰到达黄埔后，蒋介石却声称并无调舰命令，随后因苏联参观团要参观兵舰，李之龙经请示蒋介石又将中山舰调回，19日下午6时兵舰驶抵广州，中山舰的往返开动，本是奉命行事，但蒋介石却说这是“无故露械外出，经一昼夜”，“中正防其扰乱政府之举，为党国计，不得不施行迅速之处置”。
20日凌晨3时，蒋介石到造币厂，宣布广州紧急戒严，命令陈肇英、王柏龄、陈策、欧阳格、吴铁城等人，率武装部队，包围苏联顾问季山嘉及苏联代表团住宅、苏联领事馆和省港罢工委员会，扣押第一军和黄埔军校中的共产党员，逮捕李之龙，他们预定，只要任何方面的共产党一开枪反抗，就以第2师、新编第1师及公安部队来一次大屠杀。他们还包围了汪精卫的住宅。
蒋介石老谋深算、诡计多端，当他对准共产党猛然一击之后，就立即收缩回来。他感到现在羽毛尚未丰满，同共产党彻底决裂还为时尚早，还需要共产党的支持和苏联的军火援助，于是，在20日下午，释放了许多被扣押的共产党员。
远在上海的中共中央领导人见到报纸上披露中山舰事件的消息，感到莫名其妙。因为通讯联系不便，无法了解事件的真相。
受到软禁的苏联使团布勃诺夫等人不能不表态。22日，苏联领事馆代表与蒋介石会晤，问蒋：
“这是对人问题，还是对俄问题？”
蒋回答道：“对人不对俄，希望鲍罗廷速回俄。”
领事馆代表随即表示：“如此即可安心，乃令季山嘉回俄。”
布勃诺夫立即将苏联顾问组组长季山嘉和其他顾问组成员10余名遣返回国。
事变之后，蒋介石非常害怕共产党人对他进行反击，如果共产党人进行反击，蒋介石的地位就会处在危险之中。当时周恩来、毛泽东等都主张反击，当时的革命力量很强，广州工人、省港罢工工人有10多万人，工人纠察队有几千人，并有统一的司令部——省港罢工委员会。广东已有许多农民加入农会，并有许多武装的农民自卫军。黄埔军校第4期2000多学生中，共产党、共青团员很多。在国民党军队中，中国共产党有相当的力量，6个军中的政治部主任，除第五军外，都是共产党员担任。中国共产党在广大群众、革命军官兵和国民党人士中，有良好的影响和很高的威信。国民党内部和国民党革命军中，有很多人反对蒋介石制造这次事件，黄埔军校教育长邓演达等人坚决谴责中山舰事件为反革命行为。第2军军长谭延闿对人说，蒋介石的位置提得太高了；第3军军长朱培德不愿受蒋介石指挥；第4军军长李济深、第6军军长程潜都对蒋介石不满；第5军军长李福林同蒋介石也有矛盾。如果当时提出把蒋介石搞掉，这几个军都会赞成。第一军的共产党员在该军中有较大影响，对蒋介石把共产党员赶出第一军去很不满。因此，搞掉蒋介石，不会有更大的困难。
但是苏联使团布勃诺夫给蒋介石频送秋波。蒋介石又演出虚假的自请处分的闹剧。3月23日，蒋介石煞有其事地呈文政府，说：“此次事起仓猝，处置非常，事先未及报告，……
应自请从严处分。”
同日，汪精卫托词“因患晕眩”，请假治疗。汪精卫同蒋介石之间，一直存在着尖锐矛盾。蒋介石阴谋发动政变，包围了汪的住宅，使挂着国民党政府主席和国民党革命军总代表名义的汪精卫感到十分难堪，如同受了一记耳光。国民党中央执行委员会对蒋介石自请处分的呈文，通过决议：“对于蒋同志表示信任”，“毋庸议处”，留给汪精卫的只有羞愤出走了，他借口养病，隐匿下来，不久就动身去了法国。
蒋介石把自己装扮成三民主义的忠实信徒。3月24日，他在黄埔军校演讲，说如果李之龙有罪，也只是他一个人的问题，不能牵涉到团体的身上，但实际上已暴露的共产党员被迫退出国民党的有250多名。中山舰的军权被夺取，舰长换成了欧阳格，第一军的全体共产党员被驱逐，党代表被取消，青年军人联合会被解散，所有会员被迫退出黄埔学生军。
蒋介石利用右派打击了左派，又回过头来“惩办”右派，迷惑左派。他免去了王柏龄的第一军第1师师长职务、陈肇英虎门司令职务，“软禁”了广州公安局长吴铁城，还解散了孙文主义学会。但是，不久，他以孙文主义学会的骨干分子为基础，成立了黄埔同学会，自任会长。他不仅使孙文主义学会借尸还魂，还进一步扩充了他的反动力量。
蒋介石居心叵测，行动敏捷，纵横捭阖，左右逢源。他通过中山舰事件，打开了夺取权力的大门，在这个事件之后，苏联使团布勃诺夫帮了蒋介石的大忙。布勃诺夫在给苏联顾问作报告中说，这次事件，是由于军事工作和总的政治领导方面的严重错误而引起的，中国将军脖子上戴着5个套，这就是参谋部、军需部、政治部、党代表和顾问。这种情况与中国军队历来的习惯，是毫无共同之处的。布勃诺夫要顾问们特别注意到中国军阀们的过敏的民族主义，外国军事专家的任何一个压力，都会引起他们的强烈不满。因此，在任何情况下，都不应越权，不应承担任何直接领导军队的职责，以免使破坏国民革命的危险更趋严重。
