8月27日，兰州解放。广州国民政府不放过马步芳，8月27日，国民党国防部长徐永昌受阎锡山委派，飞抵西宁，一面要追究马步芳的责任，一面指示他以西宁为基地作困兽之斗。马步芳不服气，同徐永昌大吵一通。
最后，马步芳借口要向国民党中央求援，带着一大群姨太太乘上陈纳德的民航大队飞机，背着徐永昌飞往重庆，永远离开了自己残暴统治了40年的青海。
9月6日，到达重庆的马步芳得知西宁已被解放军攻占，号啕大哭。也抵达重庆的徐永昌一方面责难马步芳，另一方面借机扣留了马步芳运到重庆的一部分财富。马步芳不敢在重庆久留，不久就飞抵广州。马步芳电令还在西北战场上的儿子马继援速来广州会合。不久，马氏家族和青马集团的部分核心人物也先后汇集到广州。
但广州也非久留之地。9月下旬，马家所有人员迁到香港，聚居于皇后大道100号，这是北临海湾、南靠香港山脚下的一条繁华大街。在此期间，10月上旬，蒋介石电召马步芳去台湾。马步芳无奈，不得不遵命到了台湾。他把西北战场失败的全部责任完全推到了马鸿逵的身上，而蒋介石却命他重返西北，收拾残部，继续同解放军对抗。西北战局已无法挽回，这实际上是叫马步芳去送死，马步芳不寒而栗，遂萌生去意。
10月初，台湾当局的“行政院”召集第52次会议，以马步芳擅离职守，给予“撤职议处”的处分。马步芳感到此生作恶太多，再在台湾呆下去后患无穷，决定离开。他施展了惯用的“黄金外交”，以2000两黄金贿赂了能在蒋介石面前说得上话的国民党元老吴忠信，由吴向蒋周旋，才获准暂不返回西北。马步芳深知自己的所作所为和恶人先告状的做法难以持久，一旦马鸿逵赴台，一定会同他算账。
到利雅得后，沙特国王特地接见了他，并表示要赠送他一辆小汽车，马步芳婉言谢绝了。马步芳安排完大家的生活，购买了4辆小汽车，率部分人员前往麦加朝觐，并到麦地那朝拜穆罕默德陵墓。因为当地天气太热，只得暂时转到塔伊夫省避暑。之后，马步芳又带着随行人员迁往吉达海港，那里气候比较凉爽，各国驻沙特领事馆多建在该市。