1921年3月19日，蒙古人民党领导的“蒙古临时人民政府”宣布成立。这与在库伦的蒙古上层王公和恩琴俄国“白匪”形成了对立，并展开战斗。由于实力相差悬殊，蒙古人民党邀请苏联红军入蒙参战。

1921年5月，苏联红军进入外蒙古，在买卖城外打败了恩琴的军队，挽救了危在旦夕的蒙古人民军。随即于7月占领了库伦。7月10日，蒙古上层王公与蒙古人民党共同组建了“蒙古人民革命政府”。在俄国的怂恿下，外蒙古再次宣布“独立”和建立“蒙古国”。消息传到中国内地，一时间舆论大哗，国内各民间团体、民主党派纷纷发表宣言，反对蒙古王公贵族分裂祖国的倒行逆施，谴责苏俄对中国外蒙古的武装占领。北京政府的实权人物曹锟和吴佩孚，以中国政府名义发布措词严厉的声明，谴责外蒙古企图分裂中华民国的行径，不承认外蒙古的“独立”。东北的张作霖也通电谴责俄国，对外蒙古的“独立”异常愤慨。他不顾被其他军阀吞并危险，独自发兵外蒙，与外蒙和俄军作战，试图以武力解决外蒙纠纷。然而，由于内战原因，张作霖害怕曹锟、吴佩孚借机出兵东北，夺回部分失地(这些失地至今还在中国辖区)，就不敢再贸然行事。而北京的曹锟、吴佩孚在北边要对付张作霖，南边要对付其它各省军阀，生怕出兵外蒙会丧失自己在北京政府中的实权，因此也只是口头谴责蒙独，不敢以武力去制裁。

1924年成立蒙古人民共和国

自那时起，苏联红军就一直留在外蒙古。这期间，那些在苏俄控制下、被剥夺了权力的蒙古上层王公开始醒悟，后悔分裂中国的行为，纷纷逃到中国要求发兵收回蒙古主权，赶走俄国人。但是苏联不断增加驻蒙军队规模，阻挠中国收回外蒙古主权的行动。1921年外蒙的苏赫巴托在俄国帮助下，成立君主立宪政府，1924年又废除君主立宪，成立蒙古人民共和国。二三十年代一直到四十年代，中国除了内乱混战，便是抗日战争。长期陷于内乱的中国，一次次地丧失了收回蒙古主权的机会。

俄国的列宁在世的时曾经说，要把沙皇掠夺的亚洲土地还给亚洲人民，他承诺，当中国革命取得成功后，蒙古将自然成为中国的一部分。但在列宁死后，斯大林完全背弃了列宁的诺言，他杀掉了曾经对列宁的讲话有过记载的一位国防部副部长，然后拒不承认列宁说过的话。从此在苏联再也听不到要归还蒙古的声音。苏联军队就这样还一直赖在外蒙古。

1928年，外蒙古发生大规模反对独立并要求回归祖国的统一进步运动，苏联以“平叛”为由进军外蒙进行血腥镇压，整个蒙古血流成河，蒙古统一人士要求民国政府出兵外蒙，中苏军队在外蒙东部边界发生小规模战斗。苏军不愿扩大事端，宣布撤出外蒙，中国军队也没再进入外蒙。此后，蒋政府忙于在南方“剿匪”，之后的中日战争，使南京政府无力于外蒙事务。亲苏的乔巴山趁机又得到发展，加上日本也制造满蒙独立事端，外蒙甚至与伪满洲国签订“边界”协定，从事分裂国家的勾当。至此，外蒙古在抗战期间成为事实上的独立国、苏联的卫星国，脱离了中华大家庭。

苏联也不再承认中国对外蒙古拥有主权了。苏联于1941年4月13日同日本签订了《苏日中立条约》，并且双方发表联合声明说：为了维护两国的友好关系，苏联保证尊重“满洲国”的领土完整和不可侵犯;日本保证尊重“蒙古人民共和国”的领土完整和不可侵犯。这样，两个本来都属于中国的领土居然成了苏日之间罪恶的交易了，这是苏联外交史上很不光彩的一页。对此，重庆的国民政府外长王世杰曾郑重声明“绝对不能承认”，他强调说：“《苏日中立条约》，对于中国绝对无效。”　1945年2月，美国总统罗斯福、英国首相丘吉尔和斯大林在雅尔塔举行三国首脑会议。在商讨对日作战问题时，斯大林提出苏联对日作战的条件之一是“外蒙古的现状须予维持”。斯大林的要求得到了罗斯福和丘吉尔的同意。他们并就此签订了一个秘密的协定，世称“雅尔塔协定”。斯大林所说的“现状”就是指的“蒙古人民共和国”。斯大林知道这是件很烫手的事，所以提出由美国出面通知中国政府。1945年6月15日，美国驻华大使赫尔利奉命把雅尔塔协定的内容正式通知了蒋介石。蒋介石感到愤怒，却又无可奈何，只得同意派行政院院长宋子文、外交部长王世杰和蒋经国赴莫斯科谈判。