汤玉麟字阁臣，1871年生于辽宁义县一个贫苦人家。少年之时因家贫无钱读书，自幼给富人家放牛、放羊，稍长给老板赶车，为雇主运输货物往来于朝阳和阜新之间，因其身材高大，能力举数百斤，因而远近皆知。
汤玉麟在一次外出运货归来时途遭土匪打劫，因势单力薄吃了大亏，一怒之下到大凌河投奔苑四、苑五兄弟，当了绿林好汉，开始打家劫舍的土匪生涯。
1894年，一些参加中日甲午战争的清军溃败后投入到汤玉麟的山寨入伙，因而使其部武器精良加强了作战能力，使汤玉麟在辽河流域成了一位出了名的大杆子。
汤玉麟称霸辽西时，曾救张作霖一命，张、汤由此结为生死之交，
1928年7月19日，汤玉麟以热河主将率先响应民国政府号召通电宣布热河省易帜服从国民政府，国民政府任命汤玉麟为热河省保安司令；12月9日在汤玉麟的影响下，张学善接受了国民政府的任命，宣布东北易帜。12月31日国民政府任命汤玉麟为热河省高官、兼第36师师长，驻节承德省会。