在邓小平留法的五年间，中国的政治状况也发生了很大的变化。军阀割据愈演愈烈，各地军阀为扩大和占领地盘的争夺蔓延到了除西藏、新疆等边远地区以外的整个国家，大小军阀的数量急剧增加，发展至数以百计。虽然这些军阀的外貌和个性有很大的差异，但他们却有两个共同的特点：一是他们都统率着一支完全效忠自己的军队并有自己的地盘。二是较大的军阀分成了三个同盟或派系，这三大派系的军阀有时通过阴谋手段，有时通过武力互相拆台、互相攻击，以获得更多的地盘或取得对北洋政府的控制权。
当时，北洋政府实际上并未管辖中国的大部分土地，但它却拥有着即使是最大的军阀也无法具有的两大属性：一是政治地位。因为它是根据1912年中华民国临时宪法成立的，具有政治上的合法性。二是外国政府的承认。同时，它还拥有这两大属性所带来的特权：有权向国内和国外借债。因此，对这些军阀来说，如果能控制北洋政府的总统和总理，就是最大的政治资本或政治优势。
同时，一场新的革命运动正悄然兴起，引起这场革命的根源主要有三个：一、1911—1912年辛亥革命失败后，先是袁世凯称帝，紧接着就是军阀割据，整个国家四分五裂、民不聊生，从而激起了有识之士的愤慨。二、当时世界列强继续瓜分中国，使中国连番受辱，最终甚至演变成列强在凡尔赛会议上将过去德国在山东享有的特权全部转让给日本，从而激起了中国民众的愤慨。三、中国新一代知识分子意识到，中国要想实现现代化和获得掌握国家命运的权利，必须进行一次文化和社会革命，舍此没有其他的选择。
这场新的革命运动的思想体系和目标比过去更激进，它的正式的思想体系仍由孙中山1905年首次提出的三民主义构成，即民族、民权、民生，但更突出了其反帝和集体主义的倾向。革命的目标是消灭军阀，建立强大的共和政府，取消外国列强在中国领土上享有的各种特权。
这场新的革命运动在其成分和组织形式上与过去也有所不同。以前的革命运动包括一些自称为马克思主义者的人和一些无政府主义者。新的革命运动则包括了中国共产党。中国共产党是1921年在上海召开的一次会议上成立的，参加会议的有6个来自各地的马克思主义小组的代表。中共在1922年和1923年时人数非常少，只有几百人，但已开始称自己为“具有战斗性和纪律性的无产阶级政党”，并且设有在临时中央领导下正规的列宁主义者的组织机构和支部。更为重要的是，中共及其领导的运动已经成为莫斯科共产国际的组成部分，它不但要向共产国际提交报告，还要接受来自共产国际的指示。参与这场新的革命运动的另一个更大的政党国民党，也向莫斯科方面示好，并向苏联请教有关政治和组织等问题。1923年秋，具有丰富国外工作经验的布尔什维克党员米海尔·鲍罗廷抵达广州，按照列宁主义路线为国民党修改了纲领并改组了国民党。因此，从1924年起，这场新的革命运动便由国民党和共产党两个政党组成，每个党都有其下属或联合组织。共产党员以个人身份加入国民党。对共产党员来说，这既有利也有弊。利是共产党能名正言顺地影响国民党政策的制定和执行，并改造该党；弊是共产党这样做无疑是在国民党面前暴露了自己，让国民党知道了谁是共产党员以及他们在做什么。但无论如何，这样做是当时国共两党都能接受的。
孙中山作为一场新的革命运动无可争议的领导者，终于意识到如果不能拥有自己的军队的话，那这场运动就不可能产生政治变革。在此之前，旧的革命运动失败的原因在于过分依赖反复无常的军人，除了动用军事力量打击军阀以外，没有其他任何办法能消灭军阀。因此，孙中山在鲍罗廷的鼓动下，转而向苏联请求帮助。1924年10月，瓦西里·布留赫尔将军抵达广州，担任孙中山的军事顾问。他化名加伦，跟随他一同到中国的还有其他一些苏联军官。同月，首批苏联武器装备被用快艇从黑海的敖得萨港运抵广州。
在加伦一行到达广州之前的五个月，位于广州南部珠江上的黄埔开办了一所军事院校，即黄埔军校。就像是命中注定的一样，孙中山任命蒋介石为该校的校长。蒋介石是一个坚决支持孙中山反对袁世凯并受过日本军校训练的军官。为了加强军事纪律和礼仪细节，蒋介石以极大的热情开始工作，到1924年年底，黄埔共开办培训了两期军官，每期500人。这期间，中国革命运动内部分裂成了几个派别：马克思主义者主张革命，致力于反对地主和资本家的阶级斗争；左派主张社会改革，但不赞成革命；中间派是爱国者；右派是社会保守者。对这几个派别，当时蒋介石没有表现出明显的政治倾向。他与加伦一起友好地工作，并在1925年把儿子蒋经国送到莫斯科学习。
1925年是风云变幻的一年。这年3月，孙中山赴北京参加军阀召集的一个所谓的“国民会议”。当时北京控制在直系军阀冯玉祥手中。也是在这年3月，孙中山因肝癌在北京逝世，享年59岁。这年的2月到5月，蒋介石战胜了广州附近的军阀，赢得了对军阀作战的一系列胜利。到5月底，即上海的“五卅事件”时，国家主义者和共产主义者的队伍迅速壮大。1925年年初，共产党只有一千多人，到该年年底，该党已拥有大约一万名党员，它的青年团也有大约一万名团员。在这年的6月，国民党领导人在广州建立了一个临时政府并宣布成立国民革命军。8月，极力主张同共产党和苏联合作的廖仲恺先生在广州被暗杀。这一事件给革命运动带来了严重的危害，也对这场革命运动未来的发展产生了至关重要的影响。同时，这一事件也使蒋介石卷入了政治斗争。蒋介石专门成立了一个委员会来调查这起谋杀案。经过调查，这个委员会并没有发现有什么组织或个人对廖仲恺下了毒手，却意外地发现，国民党右派正在密谋除掉所有赞成听从苏联意见和支持继续与中国共产党合作的资深的国民党元老，这一发现导致了广州的政治天平开始强烈地倾向于左派。在1926年1月召开的国民党代表大会上，国民党左派和共产党控制了会议程序，控制了新的中央执委会。已知的或受到怀疑的右翼阴谋家被驱逐出广州，或者北上进入北方军阀的地盘，或者用带有诗意的说法是，到莫斯科“受教育”去了。蒋介石对此事并未表示公开反对，在整个1925—1926年冬天，他仍与鲍罗廷和加伦密切合作。
1924年，孙中山先生确立联俄、联共、扶助农工的三大政策。中国国民党和共产党都深感革命干部和人才不足，于是各自派遣人员前往苏联接受训练。邓小平就是在这种情况下，由中共选派从法国前往苏联接受训练。
邓小平在莫斯科一共待了11个月，一开始他在东方劳动者共产主义大学学习，这所大学是1921年创办的，目的是培养来自苏联境内外的亚洲工人，让他们学习革命理论和方法。这所大学存在了将近20年，为乌兹别克、哈萨克、蒙古和朝鲜培养了一大批稳定的革命力量。这批革命力量掌控着苏联和蒙古等地的党和政府机构，推动了各地革命运动的发展。20世纪20年代，数百名中国共产党员都曾是这所学校的学生，包括曾在党内升至很高职位的刘少奇和任弼时等。在苏联的严格控制下，这所学校只招收共产党员，因此，它并没有在国际上引起人们太多的注意，也没有引起苏联政治上的紧张。
邓小平在这所学校只学习了几个星期，就转到了中山大学学习。中山大学是苏联共产党为中国革命培养人才于1925年秋季创办的，意想不到的是，它后来却成为中国内部争论的焦点，成为斯大林和托洛茨基之间不断的权力斗争的舞台。5年后，斯大林认为这所大学带来的麻烦多于它存在的价值，决定关闭这所大学。
照理说，中山大学应该由中国国民党和苏联共产党中央委员会共同管理，中国国民党也确实派过一名高级人员到莫斯科担任该校的董事。但该校的经费来源至今仍是个谜，传说不一。一种说法是，苏联共产党效仿法国政府1920年的做法，支取了庚子赔款基金；另一种说法是，国民党说服了一些中国富商定期给该校汇款。不管钱从哪里来，反正这所大学经费充足，所有的学生除了每月都能拿到津贴，他们的衣食住行也都是免费的。
中山大学教师和行政管理人员的阵容相当强大。校长卡尔·罗德是波兰人，1917年曾担任列宁与德国政府间的联络官。他是一位通晓多国语言的语言学家，也是一位知名的学者。他生活中不修边幅，嘴里经常叼着烟斗。他喜欢演讲，往往一讲就是两个多小时。虽然他从未到过中国，但他讲授的课程却是中国革命运动。他的很多学生和许多听众一定都对他的一些大胆假设和推理感到惊讶。尽管如此，这位罗德校长却深受学生们的拥戴。他的副手、25岁的副校长帕维尔·米夫，并不受学生们的欢迎。米夫是一个野心勃勃、喜欢炫耀自己的人。米夫在俄文里是“神话”的意思，其实，米夫是他的化名，他的真实姓名叫米开·亚列山多维兹·福杜斯。这位年轻的副校长是共产国际远东支部的一名成员，他认为，苏联境外的共产党的首要任务是保卫苏维埃政府，共产国际的职责就是保证这一目标的实施。因此，米夫在中山大学的主要任务就是寻找能够认同并接受他的这些观点的中国青年。按照他的标准，他要找的是聪明且热衷马克思主义理论但又没有任何实际政治经验的学生。他对其他学生没有兴趣，在他们身上花费的时间很少，所以学生们自然对他没有好感。
1927年，当中国国内国共两党合作的统一战线破裂和斯大林废黜托洛茨基的运动开始后，米夫对多位共产党员学生进行了无情的批判和迫害，因为这些学生认为托洛茨基关于中国的政治见解比斯大林的正确。
米夫成功地组织了一个秘密小组，在中国叫“回国留学生”、“二十八个布尔什维克”，或者毫不客气地称之为“斯大林的中国小组”。自1931年至1935年，这个小组的领导人控制了中国共产党，实施了现在称之为错误的“第三次‘左’倾路线”的政治和军事战略。1945年，毛泽东在关于党的历史决议中正式否定了这条路线。这个决议尖锐地批评了这条错误路线，它坚决要求这条错误路线的支持者进行自我批评。然而，这个决议并没有说这条路线是由莫斯科造成的，或者说由于这条路线是来自莫斯科的，所以它的追随者才不得不服从这一路线。颇具讽刺意味的是，尽管在这段时期真正的反面人物是斯大林，但在1956年赫鲁晓夫谴责斯大林时，毛泽东却成为处处维护斯大林的最重要的共产党人。由此可见，在中国，毛泽东对斯大林名誉的维护程度要远远高于米夫的弟子们。
这个秘密小组的最重要的成员是陈绍禹（他革命时的笔名为王明）、秦邦宪（博古）、张闻天（洛甫）和王稼祥。王明多才多艺，能写善辩。关于博古，埃德加·斯诺的第一个妻子海伦·福斯特·斯诺在1937年这样描写道：“他是一种典型的中国知识分子，如果以一幅漫画，则可将他勾画为单薄、体弱、劳累过度、半病态并戴着深度眼镜，他厚厚的乱蓬蓬的头发，给人一种似乎头重脚轻的感觉。”但他非常勇敢，30年代初，他曾冒着被逮捕和处死刑的危险，在上海干得比几乎所有的共产党领导人的时间都要长。他很快就认识到，作为一个知识分子，要了解工人是如何生活的，他们都需要什么。洛甫比王明和博古大五到六岁，对世界的了解相当多。他的父亲是商人兼学者，而他自己只是一名学者。他在加利福尼亚待了两年，在那里上过一些大学的课程，并在旧金山的中国华侨杂志社工作过，他英语讲得很好。没有笔名的王稼祥是一个勇敢的男子汉，在长征前和长征期间，他以极大的毅力忍受着胃病的折磨，1933年当邓小平在政治上失意时，他曾以自己的独到见解帮助过他。
据研究邓小平的人介绍，邓小平并不认识这些从莫斯科回国的学生。这一点或许不太属实。在中山大学学习期间，他一定知道副校长米夫已经网罗了一批亲信，至少他听说过这些人的名字或见过他们。王明和博古同邓小平不在一个班，这可能是因为他们会讲俄语。以邓小平强烈的爱国精神和很有主见的个性来看，他无论如何不可能同那些不管外国人说什么都唯命是从的人有太多的来往。
邓小平刚进中山大学时，该校的学生有两三百人，到1926年年底，学生人数增加了近一倍，其中有半数学生是中共党员或共青团员，或者兼具两种身份。这些人当中，只有十几个人来自西欧，其他几乎都是来自中国华北和华东的大学毕业生和在校学生。这些学生中，除半数的中共党员外，其他学生大多是国民党党员，他们当中有少数几个是国民党领袖的子弟。邓小平就有两个这样的同学：一个是蒋介石的儿子蒋经国，1925年时只有17岁；另一个是冯玉祥将军的女儿冯弗能。
1927年中国的统一战线破裂后，中国学生的构成也随之发生了改变。国民党学生销声匿迹了，一些人要求回国；一些人则被强制遣返；少数人被逮捕，受审后被判刑做苦力。蒋经国就是在这种情况下被迫留下的，他被送往西伯利亚金矿劳动，直到1937年国共结成新的统一战线后，他才获许离开苏联。这些国民党的学生离开后，空出的名额改由共产党员顶替，新来的这些学生党员中，有些人年纪较大，比如，邓小平在重庆就读的留法预备学校的创办人吴玉章就是其中之一；有些人是党的干部；还有一些是工厂的工人。为了这些工人，学校只得调整教学计划，改成一些内容简单的课程。
但是，对邓小平而言，当时的课业负担还是很重的，共有七门课，分别是外语、历史、哲学、政治经济学、经济地理、列宁主义和军事科学。在所有的外语中，俄语是必修课，英语、法语和德语是选修课。历史课的内容是“社会形态发展史”和“革命以及革命运动史”。哲学课是马克思和恩格斯的辩证唯物主义。政治经济学是主修马克思的《资本论》。列宁主义这门课是由一系列演讲稿为基础构成的，这些演讲是斯大林在列宁死后不久于1924年4月在斯维尔德洛夫大学发表的，这些演讲后来被编成《列宁主义的基础》一书出版。军事科学包括了实践的成分：射击和基本战术的训练。现在不清楚邓对这些课程有什么反应，但作为一个把书本知识和马列主义作为智慧来源的人，邓小平的态度是相当明确的，这一点可以从他在1992年春天的谈话中看得出来，他说：
学马列要精，要管用的。长篇的东西是少数搞专业的人读的，群众怎么读？要求都读大本子，那是形式主义的，办不到。我的入门老师是《共产党宣言》和《共产主义ABC》。最近，有的外国人议论，马克思主义是打不倒的。打不倒，并不是因为大本子多，而是因为马克思主义的真理颠扑不破。实事求是是马克思主义的精髓。要提倡这个，不要提倡本本，我们改革开放的成功，不是靠本本，而是靠实践，靠实事求是……实践是检验真理的唯一标准。
就在邓小平在莫斯科中山大学读书的时候，中国的北伐战争开始了，并且在军事上取得了节节胜利，但在政治上，左派却被迫交出了一些控制权。
1923年孙中山重登永丰舰合影（1925年3月孙中山逝世，4月蒋介石命永丰舰改称中山舰）。
从1926年3月开始，蒋介石同苏联军事顾问、国民党左派及共产党决裂，并强烈压制这三方面。这一危机起因于一艘由共产党军官指挥的炮舰，这艘炮舰停泊在靠近黄埔蒋介石司令部的地方。当时，舰艇升火待发，意向不明。蒋介石怀疑这是一次阴谋，于是在广东发布了戒严令，并派遣效忠他的亲信部队解除了工人纠察队的武装，查扣了这艘炮舰，扣留了30多名苏联军人。(1)
在掌握实权后，蒋介石紧接着就要求他特别不喜欢的三个苏联顾问离开广东，要求共产党的政工人员从由他指挥的第一军撤走，要求此后国民党内的共产党员的活动公开化。或许是为了显示他在政治上的公正，他还同时要求几个国民党右派政治家离开广东。“中山舰事件”发生时已离开广东而正在北方的加伦和鲍罗廷，只是坚持莫斯科的教条，害怕会破坏统一战线。
蒋介石还征得了加伦和鲍罗廷的同意，一旦军事准备就绪，军队将立即挥师北上，这是国民革命的另一个胜利。1927年年初，斯大林和托洛茨基都希望把军队留在南方，因为他们认为，苏联同日本维持良好关系，比较符合苏联自身的利益，这就需要国民党不能采取任何威慑日本的行动。在广东的共产党，从领导到普通士兵，都坚决要求尽早采取军事行动，但在上海的党中央却站在苏联一边，认为采取行动的时机尚未成熟。因此上海方面后来受到党内的批评，因为它完全附和苏联的立场。
北伐战争于1926年6月正式开始，在湖北发生了激战，经过40天的围攻，武昌被攻克。在江西，省会南昌经过三次夺城战斗后才被占领。一些部队包括几支最精锐的部队，伤亡惨重。伴随着部队不断地向前推进，群众运动也发展起来，运动的主要对象是不得人心的地主，也就是毛泽东所说的“土豪劣绅”，以及外国人。
到1926年年底，北伐军已经夺取了军阀控制的长江以南的大部分地区。1927年1月，位于长江边的城市汉口、九江的英国租界被收回；在湖南，发生了反基督教的活动，致使一些传教机构被迫撤离，大多数教会学校关闭。北伐所取得的成功令世界震惊，也完全改变了中国的力量对比，看起来就好像是革命的第二次风暴，孙中山的革命获得了全面的成功。而此时，对于身为北伐军总司令并已得到国际社会认可的蒋介石本人来说，其政治地位要比他离开广东之前坚实、稳固得多。他明确表示反对在城市及农村进行社会革命，也不希望过多地伤害外国人及外国人的利益。中国共产党对此看得很清楚，也有所警惕。1927年1月中央委员会报告对当时的局势做了这样的分析：
国民党右派变得日益强大……在国民党中当前有一股非常强的反苏俄、反共产党、反工农运动的倾向。
这种右的倾向首先是由于蒋介石和其他人所持的信条：这个国家只能存在一个党，所有的阶级应合作，阶级斗争应禁止，共产党没有存在的必要……
第二个原因是在他们的思想中认为国家革命很快就会获得成功，不久就会发生阶级革命，当前最大的敌人不是帝国主义和军国主义而是共产党……正是由于这些原因在国民党内掀起了一股强烈的反共潮流……
促成邓小平返回中国的，是军阀冯玉祥。
与其他大多数军阀相比，冯玉祥更能受到民众的爱戴。他是个基督徒，又是个品格高尚的中国传统主义者。他深信以身作则，关心普通人民的福祉，是一个领导者的责任。作为一名军人，他衣着简朴，不像绝大多数军阀那样耀武扬威、锦衣玉食。他平易近人，能与下属官兵们打成一片。他对部下提倡以德服人，而不是滥用刑罚。他鼓励自己的部队在行军时唱歌，并把基督圣歌作为进行曲在部队中教唱。他这样做，一部分原因是他个性较强，特立独行，但最主要的还是因为他是一个正直的人，他非常渴望把他的国家建设好。所以除了他的军队拥戴他之外，一般老百姓也很爱戴他。
1924年，以中国西北为基地的冯玉祥，趁北方其他主要军阀吴佩孚和张作霖混战之际，占领了北京。随后他向苏联寻求援助，以加强他对抗吴佩孚和张作霖的力量。当时，鲍罗廷从广东到了北方，把冯玉祥作为苏联和南方国民党潜在的联盟，接受了冯玉祥的请求。根据鲍罗廷的建议，苏联决定向冯玉祥提供武器装备、经费和军事指挥员，同时也给他派了几个他并不愿意接受的政治顾问，还安排他的军官到苏联军事学院学习。与此同时，中国共产党决定从上海和北京选送一批年轻人包括一些已在苏联受过军事培训的人到他的部队工作。
虽然得到了苏联的援助，但在1926年年初，冯玉祥的军队仍然接连败在了有“东北王”之称的张作霖的手下。冯玉祥以一个战败的中国将军通常采用的姿态，宣布辞去总司令的职务。他做出了出访莫斯科的计划。然而，苏联人显然并不希望他在这个时候去访问，但他决意要去。因为他断定，苏联人不可能拒绝接待一个曾经接受过他们援助的人，而且不管是在军事还是政治上，他对他们来说都是具有重要意义、有很大利用价值的人。此时北伐战争即将开始。他从容不迫地上路，先前往外蒙古（蒙古人民共和国）首府乌兰巴托。在那里他和鲍罗廷会晤了几次。如果鲍罗廷不能在冯玉祥到达莫斯科之前弄清他的真实意图，那么他先前在莫斯科所处有利地位将大受影响。经过在乌兰巴托一个月的中途停留之后，冯玉祥在5月初到达莫斯科。
冯玉祥在莫斯科整整待了三个月的时间。他几乎会晤了当时的大部分苏联领导人，不过他并没有见到斯大林。他访问了中山大学，向学生们发表演讲，邓小平也一定听了他的演讲。他的演讲充满了革命豪情，受到学生们的热烈欢迎。冯玉祥对苏联人的想法十分清楚，他知道苏联人急于要他返回中国，于是，他利用苏联人的这一焦急心情，争取到了相当有利的援助条件，包括提供给他大笔经费和大量的军事设备，并为他培训军官等。当感到自己的目的都达到时，他马上起草了一份公开的、正式支持国民革命的声明，并很快兑现了他的诺言。他再度经由外蒙古回国，找到他的部队，重新担任总司令。9月17日，他领导全体官兵在黄河北部的沙漠城镇五原举行誓师大会，宣布全体军队集体加入国民党。
陪同冯玉祥回国的还有几名苏联军事顾问和几名中共党员。据邓小平的官方传记记载，冯曾请求共产国际“派一批中国同志到他的部队工作”。事实上，很可能是共产国际说服冯玉祥接受了他们，并说明在他的军队中应该有共产党人，以象征他接受革命统一战线。不管这件事是如何决定的，冯玉祥最终还是允许共产国际向他的部队派遣了一批新的共产党活跃分子。
这批由苏联奉调到冯玉祥军队的中共党员，为首的是刘伯坚。刘伯坚曾担任过旅法共青团的书记，在莫斯科受过军事和政治训练。1927年春，他出任冯玉祥部队的政治处副处长。当时冯玉祥的司令部设在西安，同时，他还在西安创办了一所新的政治军事学院。
邓小平随后也到了西安。按照他的官方传记的说法，或许他是被共产国际选派去的，或许是刘伯坚请他去的，或许是他本人志愿去的，尽管从他的官方传记中看不出他在莫斯科见过冯玉祥。邓小平是在1926年年底启程回国的，他先是乘火车经西伯利亚铁路到乌兰库德，再换乘汽车到外蒙古的乌兰巴托，然后再坐车经黄河上游的银川、兰州，最后抵达西安。在这段漫长旅程中，他开始是坐火车，后来又坐卡车，其间还曾改骑骆驼和马走了很长的路途，最艰苦的一段是横越戈壁大沙漠，他乘坐的是一辆装载军火弹药的大卡车。1月的戈壁沙漠，气温可降到－30℃，从乌兰巴托到黄河边，要穿越500多英里的空旷沙漠。
1927年2月，邓小平到达西安。