孙中山决定联俄联共，派蒋介石去苏联考察。在莫斯科时，蒋介石读到一份共产国际关于国民党的文件，立即说到：“我太绝望了！看看它都说了些什么？这么忽视一个友好的党，它怎么能成为世界革命的中心呢？”
蒋介石写道：“……我比以前任何时候都确信苏联政治体制是独裁和恐怖主义的统治工具，它与以三民主义为基础的国民党的政治体制完全不同……”。
许崇智战败后，率其余部逃到福建。1922年10月13日，他占领了福州，孙中山立即给予嘉奖，并任命他为总司令，蒋介石为参谋长。
由于其他部队的配合，这支忠诚的军队于11月15日进抵广州，陈炯明不得不躲藏起来。几个星期后，形势变得明朗化了。1923年1月21日，孙中山返回广州，又恢复了他的军政府。
反复无常的蒋介石总是要有命令或召唤才回到孙的身边。
在重新收复广东前，他又借故跑到上海。于是，孙中山又给他写了封信，此信是所有信中最严厉的一封，对蒋进行了批评和劝告。
蒋介石回到广州，孙中山刚恢复军政府，蒋介石又请假去上海医治眼病。那时，他的确患了眼疾，尽管不清楚到底是什么病。
上海这个港口城市，自有它的迷人之处，一直吸引着蒋介石，蒋介石参加革命的引导人陈其美，曾带他去过黑势力“青帮”的地盘，那条街到处都是妓院。
在那里，蒋介石遇到一个妓女陈洁如，被她迷住了。蒋介石不久便与陈洁如结了婚，并居住在一起，直到后来蒋与宋美龄结婚，蒋与陈的这段浪漫婚姻才告结束。
在北伐期间，陈洁如在蒋的生活中的某些方面扮演了日后宋美龄在蒋的生涯中扮演的角色。陈洁如容貌娇艳，且知书达礼，蒋的朋友和部下都十分尊重她。
“青帮”成了蒋的保护人。
1927年秋，臭名昭著的“青帮”头子杜月笙资助陈洁如去美国。陈洁如在美安顿下来后，进入纽约哥伦比亚大学学习，获得了博士学位。之后，她前往西海岸，在旧金山附近买了一幢房子居住下来。
1967年她写完她的自传，交给纽约的一个出版商出版，但是台湾当局不惜巨款买下了该书的版权，使其出版计划夭折。
陈洁如得到这笔钱后，十分富有，她移居香港，直到1971年去世。她的骨灰运回了加利福尼亚，并埋葬在那里。
那时，蒋除了眼疾外，其他一些事情也将他留在了上海，直到4月20日，他才返回广州。然后，他立即投入了与那里的叛军的战斗，这段时期，局势一片混乱，进攻与反击、忠诚与背叛、好运与恶运、敌对与竞争，错综复杂，变幻莫测。
但有一件事是确定无疑的，那就是孙中山的权力越来越不稳定了。
正是在这段时间里，孙中山决定联合新的盟友——莫斯科新政权领导人，以改变他的运气。
1918年7月4日，苏维埃政权刚成立不久，苏俄外交人民委员契切林宣布，苏俄单方面废除历代沙皇与中国及以中国为代价而与日本和其他国家签订的协议和不平等条约。除了1919年7月25日的宣告外，苏俄又于1920年9月27日发表第二次对华宣言，并正式通知了北京政府。
这一系列友好的声明受到广大中国人民的欢迎。最初，苏俄并不重视孙中山和他的国民党，只把它看作南方的一个小集团。苏俄频频向北洋政府提出各种建议，但是在西方列强和日本控制下的各届北洋政府均加以拒绝，于是，苏联人决定发展与国民党的关系。与此同时，孙中山意识到他的权力基础很不牢固，指望西方列强是不可能的，于是决定响应苏联人的建议。
苏联的利益并不一定都要由苏联人来代表。1919年列宁建立共产国际，以把革命推向世界各个角落。
第一个派往中国的共产国际代表是斯内弗利特，化名为马林，他以旅游者的身份于1921年春来到中国，并前往广西会见了孙中山，这次见面，孙中山给马林留下了深刻的印象，使马林认识到国民党是中国民族主义的主要代表。
1922年1月，广州和香港爆发了海员大罢工，马林发现国民党很好地组织了这次新型的中国工人运动。
回到莫斯科后，马林建议中国共产党应加入国民党，以期从内部控制它。这一建议与十月革命后派往中国的另一个苏联代表的报告内容完全相反，该报告赞成与北方军阀发展关系。
1922年8月,马林与孙中山在上海再次举行会谈。马林建议孙中山吸收共产党的群众宣传和群众组织等经验；而蒋介石则总是主张采取军事行动。看来，孙中山采纳了马林的全部建议。
那么，中国共产党的情况如何呢？中国共产党的创始人都不懂俄语，也没有人在苏联接受过马克思列宁主义的教育，列宁领导的共产国际在中国共产党的创建活动中起了重要作用。
事实上，正是马林和共产国际的另一代表魏金斯基，把各地分散的马克思主义小组召集到一起，于1921年7月1日举行了中国共产党第一次全国代表大会，从而标志着共产党的成立。
马林和魏金斯基都出席了会议。12个中国共产党代表参加了这次会议，其中有毛泽东。
但是，中国共产主义思想的真正缔造者陈独秀和李大钊未出席，陈独秀当选为第一位总书记，但不久他就脱离了中共。
后来李大钊被北京军阀杀害。12个代表中至少有6个脱离了共产党，正是由于这个原因导致了马林仕途受阻。
最初，中共弱小并力量单薄，基本为共产国际所控制。
1922年8月，马林在与孙中山第二次会晤后，正式建议中共党员应加入国民党。尽管中共党内存在强烈的反对意见，但这一建议还是执行了。孙中山表示欢迎共产党员以个人身份参加国民党。
“媒”已作成，就差举行婚礼正式结婚了。莫斯科派了一位有经验的外交官——原驻柏林大使越飞来完成这一使命。
1922年8月，越飞来到中国，在与北京政府建立关系的努力又一次受挫后，他前往上海与孙中山进行会谈。
1923年1月26日，双方发表了《孙越公报》，双方表示中国目前还不具备实现共产主义或苏联模式的社会制度的条件；当前的首要问题是实现国家的统一和独立。公报再一次宣布苏联放弃在中国的任何特权，但仍保留中东铁路——这条铁路是俄国人1917年得到的。
孙中山和越飞之间达成一个默契，那就是苏联共产党将按照共产主义路线改组国民党。1923年10月6日，苏联政治局委派能干的鲍罗廷来进行这项工作。正象这一时期的许多俄国革命者一样，鲍罗廷用了假身份，他是个犹太人，出生于立陶宛。
1924年1月，国民党第一次全国代表大会在广州召开，完成了改组任务，从此，国民党决定每两年召开一次全国代表大会，半年开一次执行委员会会议；另外，设立一个小规模的常务委员会，由五至九人组成，这相当于标准的共产党政治局。
这一系列措施使共产党获益匪浅，尽管它的人数仍然很少，但它开始在人数众多的国民党内部发挥作用了。
上述这一切，正是蒋在下一个阶段的活动的历史背景。
孙中山已决定联俄联共，他计划派他的部下去苏联考察并向他汇报，他选中了蒋介石。
1923年8月5日，蒋在上海与马林商谈了出访安排。9月2日，蒋由三个助手陪同，抵达莫斯科。他在苏联的大部分时间都呆在首都莫斯科。11月29日他们离开了苏联，并于12月15日回到上海。
蒋介石一行是前去考察苏联革命成功后的党的体制以及政治和军事组织状况。
有关蒋的传记里说，蒋对他在苏联亲眼目睹的苏联革命非常失望和不满。在他自己的文章里，他解释了其原因。在共产国际的执行委员会里，蒋介石表示了对革命的信心，他认为以孙中山的三民主义为思想基础的中国革命运动，将在两三年内取得成功。他宣称共产国际并不了解中国革命的性质，建议共产国际多派些人去考察。
在莫斯科时，他读到一份共产国际关于国民党的文件，立即说到：“我大绝望了！看看它都说了些什么？这么忽视一个友好的党，它怎么能成为世界革命的中心呢？”
蒋介石一行参观了彼得格勒的海军研究所和其他一些军事学校，并在克伦斯塔参观了海军基地。没有人谈论两年前在这儿发生的一次叛变。但从当地人和海军人员的态度来看，这一事件已留下了深深的痕迹。
他们会晤了一些部长及一些地方官员并参加了莫斯科苏维埃全体代表大会。蒋写道：
“我很快就察觉出苏联社会各部门及苏联共产党内存在的公开的和秘密的激烈斗争。我比以往任何时候都确信苏联政治体制是独裁和恐怖主义的统治工具，它与以三民主义为基础的国民党的政治体制完全不同，这是我出访苏联所得出的结论。如果我们一直呆在国内，我们恐怕永远不会发现这些。”
国民党的一些较为婉转的有关苏联的参考资料也未改变蒋介石对苏联体制的看法。
还有一个原因导致蒋失望和不满。蒋试图与苏联解决沙俄侵占的中国领土，尤其是外蒙古问题。在头一年元月份的《孙越公报》中，苏联代表明确表示，苏联“无意继续奉行在外蒙古问题上的帝国主义政策，也无意使它脱离中国”。
但是，只要蒋介石一提起这个问题，苏联人或者避而不答，或者态度强硬，毫不妥协。事实上，正是在苏俄当局的策划下，于1919年7月6日成立了蒙古人民革命政府；而且也没有任何迹象表明苏联会放弃对它的控制。
蒋介石希望列宁能会见他，但这位布尔什维克的领导人此时已处于昏迷状态，蒋介石与契切林、加米涅夫、季诺维也夫、拉狄克和托洛茨基等人见了面，尤其是与托洛茨基进行了几次长谈。
使蒋介石吃惊的是，许多苏联领导人都十分敬重孙中山，而且最真诚与国民党合作的多是犹太人。
托洛茨基引用列宁的话说，对于殖民地和半殖民地人民的反帝斗争，苏联将给予全力的道义上和物质上的支持，他请蒋转告孙中山：“苏联将支持他的民族革命，将给予积极的军事和经济援助，但是苏联不会直接出兵。”
列宁的病情日益恶化，蒋注意到以托洛茨基为首的国际派和以斯大林为首的国内派为争夺权力的斗争已日趋显著(蒋介石当时似乎没见过斯大林)。
使蒋介石担忧的是，中苏合作是建立在一个脆弱的基础上的，蒋认为，一旦苏联政权得以巩固，它就会恢复沙皇时代的帝国野心。
蒋介石在返回上海的途中，把这些都写了出来。1924年3月14日，他从奉化给一个国民党高级官员发了一封信，信中写道：苏联共产党不值得信赖，并且他在苏联遇到的党员，对于孙先生惟有诋毁与怀疑而已。他继续写到：
俄党对中国之唯一方针，乃在造成中国共产党为其正统，决不信吾党可与之始终合作，至其对中国之政策，在满、蒙、回、藏诸部，皆为其苏维埃之一，而对中国本部，未始无染指之意。
蒋介石的这封信在国民党常务委员中进行了传阅。但是，他的信和报告在国共合作的热烈气氛下，丝毫没有产生作用。
当蒋介石不在广州时，鲍罗廷正好到来，在廖仲恺的建议下，孙中山任命鲍罗廷为国民党的政治顾问。
孙中山看来完全被鲍罗廷的个人风度和性格迷住了。
鲍罗廷是个典型的世界主义者和革命冒险家。他幼年时被送往美国，在那儿接受教育。后来他在芝加哥开办了一所商业学校，并阅读了大量马克思主义著作，鲍罗廷是他的化名，共产国际先后派他去过墨西哥、苏格兰(在这里被驱逐过)和土耳其。
鲍罗廷来到广州时，还带了一封苏联的信函，宣布放弃沙皇时期侵占的中国领土。
鲍罗廷很快赢得国民党领导人的信任，这不仅是由于他的个人风度、他的真诚，而且是由于他的个人信念及对三民主义的完全支持。
蒋介石12月中旬才返回广州。他回到中国后，先回了溪口。孙中山再次对蒋的目无纪律感到不满。1923年12月24日他发了封电报给蒋，说他此行苏联责任重大，应速回广东报告旅苏情况，详细制定中苏合作计划。他还写到，我们尊重你关于政治形势的意见和你的建议，我们想与你商讨此事。
蒋介石不甚情愿地中断了他的个人安排，回到了广州。他向孙中山解释说，在他去苏联之前，他十分相信俄共是真诚的，是愿意帮助国民党的。但是，苏联之行使他失望了。从短期利益来看，“联俄容共”可能会形成反对西方殖民主义者的力量；但是从长远来看：苏联的世界革命计划比老的殖民者对中国的独立具有更大的威胁。
同以往一样，孙中山又一次拒绝了蒋介石的建议。他认为，目前的革命形势迫切需要国共合作，对待共产党的唯一办法是，将他们置于国民党的领导和控制之下。这样，就能进行北伐，而一旦北伐胜利，就能实现三民主义。
蒋介石徒劳的努力使国民党领导人开始有所戒心，回答他的是一连串的反问：难道苏联没有承认国民党是唯一能领导民族革命的党吗？难道不是苏联敦促中共党员加入国民党并接受其领导吗？越飞不是承认共产主义不适合于中国吗？
根据国民党的官方档案，孙中山的最初政策是“联俄容共”，但是中共按照自己的做法，将其理解为“联俄联共”。
蒋回到广州后不几天，国民党第一次全国代表大会在广州召开。忧心忡忡的蒋介石参加了大会，他发现国民党党员已经开始受新加入的共产党员的影响。
这些中共党员很好地利用了他们与苏联的特殊关系，第一个加入国民党的中共党员李大钊在大会上发言说：
“我们作为个人而不是组织加入国民党。也许有人说我们是双重党籍，但是不能说国民党是党中有党……我们加入国民党并同时保留中共党员的资格，这是公开的值得赞扬的行为，而不是偷偷摸摸的行动。”
蒋回忆说，李大钊的讲话起到了预期的效果。国民党的所有疑虑都消失了，国民党没有采取任何预防措施。然而，中共党员通过秘密组织，迅速扩大了它的影响范围。
大会正式通过了鲍罗廷起草的章程，李大钊和毛泽东等八名共产党员被选进国民党中央执行委员会和中央监察委员会。1月24日，大会即将闭幕时，蒋被任命为陆军军官学校筹备委员会主席，筹划在距广州14英里处的黄埔岛开办学校，并被提名为军校校长。蒋对与共产党合作越来越表示怀疑，再次提出辞职，并将筹备工作留给廖仲恺，自己回溪口老家去了。孙中山又一次发信和拍电报催他，提醒他要服从革命的需要。直到4月份，蒋才听从催劝，返回广州。
孙中山认为军校是国家统一不可缺少的工具。他迫切需要一支训练优良的队伍去扫除军阀势力。
苏联答应提供武器和训练人员来支持军校。在莫斯科时，蒋介石就与苏联红军高级将领讨论过有关的细节问题，在他返回符拉迪沃斯托克的途中，他还会见了西伯利亚军区司令加伦将军。
蒋介石最后同意出任黄埔军校校长，他提出由加伦将军作他的参谋长。苏联方面同意了这个要求，这样加伦来到了中国。
廖仲恺被任命为黄埔军校国民党党代表，他的副手是留法的年轻有为的中共党员周恩来。
蒋对加伦十分敬重。“在我看来”，蒋写道：“他是个杰出的苏联将军，也是个很有理智的人和很好的朋友。最不同寻常的是他身上丝毫没有布尔什维克的迹象。”
在后来的日子里，蒋又多次要求斯大林再派加伦来华，这些请求多数未被答复。1939年，斯大林告诉国民党驻苏大使，加伦由于迷恋一个日本女间谍而不忠于国家，已被处决。
1924年6月16日，孙中山宣布黄埔军校正式创建，这表明中苏之间、国共之间的军事政治合作已经开始。