1894年，一些参加中日甲午战争的清军溃败后投入到汤玉麟的山寨入伙，因而使其部武器精良加强了作战能力，使汤玉麟在辽河流域成了一位出了名的大杆子。

汤玉麟称霸辽西时，曾救张作霖一命，张、汤由此结为生死之交，

1928年7月19日，汤玉麟以热河主将率先响应民国政府号召通电宣布热河省易帜服从国民政府，国民政府任命汤玉麟为热河省保安司令；12月9日在汤玉麟的影响下，张学善接受了国民政府的任命，宣布东北易帜。12月31日国民政府任命汤玉麟为热河省高官、兼第36师师长，驻节承德省会。