受张治中的提拔，汤恩伯志得意满，但在他又一次被提拔为第2师师长时却尝到了失败的苦果。没有任何作战经验的汤恩伯在与红军作战中冒失突进，结果遭到惨败，落得一个撤职查办的结局。经此打击，汤恩伯痛定思痛，他在得到钱大钧和徐庭瑶的保举出任第89师师长后连战告捷，因功被提拔为第13军军长。
汤恩伯当上军长后，以清末名将胡林翼的“要有菩萨心肠，要有屠夫手段”为治军座右铭，重用黄埔军校毕业生，作战时“有功必赏，有过必罚，不识亲疏不计近远，战时使部曲均畏威怀德，乐为效命”。行军时，命每个连队必派1名军官手持“执行革命军纪”小旗押阵于后，以保证军纪。此外，汤恩伯“自奉俭约，平时不讲究穿着”，士兵都称他为“伙夫头”。在经济上，汤恩伯主张公开，并“廉洁自律”，不仅使全军官兵对其信服，部队军纪也是全国陆军中的佼佼者。
第13军在汤恩伯的不断建设下，逐渐成为他的基干部队。此后汤恩伯即以第13军为基础不断壮大，并渐发展成一个庞大的军事集团。
名将的诞生
1937年7月抗战全面爆发后，汤恩伯的第13军首当其冲奉命在南口阻击日军。南口是平绥线上的要隘，守住此地，则日军进兵察哈尔受到牵制，更可保山西和绥远无恙。