八世哲布尊丹巴称帝前，外蒙的政体是王公管政，喇嘛管教，但哲布尊丹巴上台后集政教大权于一身，喇嘛当道，王公大权旁落，引发后者强烈不满。再加上畏惧日本乘机侵占，王公们纷纷策动撤销自治——其目的当然不是为了归附中央，而是为了恢复前清旧制，以便重掌大权。当时，代表民国政府驻库仑的都护使陈毅（非后来的陈毅元帅）举措失当，哲布尊丹巴坚决反对撤治。这时，徐树铮奉命处理此事。
徐树铮显示了一个边才的雄才大略。他在任西北边防筹备处长时，即对外蒙以及日、俄之间的关系了若指掌，他认为外蒙对中国徘徊观望，乃由于日、俄蛊惑所致。为此，他甫一进入库仑，即与松井交涉，通过国际法惯例，将松井非法派遣到库仑的一百余名士兵缴械。对于蒙古喇嘛、王公在中、俄、日之间的骑墙，徐树铮认为是中国方面不够强势。为此，他在入蒙之前调集了80辆大卡车，入库仑时，每车乘士兵20人，将所有新式武器悉数向蒙古人展示。车辆进入军营后，士兵受命伏于车内，上以帆布覆盖，重又离开营房，驶到库仑郊外，混入其他车辆中，以为疑兵之势。当时，徐树铮所部只有8000人，但外界纷纷猜测他至少带了五万军队。
徐树铮曾留学日本，精通日语，与日方打交通，例不用翻译。到外蒙后，他突击学习蒙语，并告诉左右“在我学习蒙古文之时，非有特别重要事故，概不会客”。这个罕见的语言天才，仅用了两周时间便能用蒙语与蒙人交流。陈毅此前徒劳无功，在于其人优柔寡断，一会儿幻想通过王公说服喇嘛，一会儿又幻想通过喇嘛说服王公，但无论如何，都不过是仰人鼻息甚至与虎谋皮。徐树铮不同于陈毅的，是他懂得用权术来处理外蒙问题，针对王公、喇嘛和活佛的弱点各个击破。1919年11月17日，外蒙古上书中华民国大总统徐世昌，呈请废除俄蒙一切条约，蒙古全境归还中国。至此，徐树铮入蒙仅22天，不费一枪一弹，便完成了外蒙重归版图的重任。
此后，徐树铮在外蒙设立边蒙银行，聘请德国化学家从事地下资源调查，从天津引种大白菜（此前外蒙从来没有蔬菜），使外蒙风气为之一新。总之，倘若徐树铮专心治理外蒙，徐本人拥有如此广阔的土地与资源，完全能像后来的盛世才独霸新疆那样割据外蒙，而外蒙也不至于在数年后再度独立，并永远从中国分离出去。然而，徐树铮志不在这边僻之地;更何况，他不可能背弃有知遇之恩的段祺瑞。当中原战事爆发后，徐树铮不得不带领他的边防军回到内地，投身到内战的厮杀中。