因张作霖反对与日本关东军合作,日本特务在皇姑屯将其炸死,其子张学良秘密潜回继承了东北帅位,挽救了时局。民国17年(1928年)7月19日汤玉麟以热河主将率先响应民国政府号召通电宣布热河省易帜服从国民政府、奉行三民主义,国民政府任命汤玉麟为热河省保安司令;12月9日在汤玉麟的影响下,张学良接受了国民政府的任命,宣布东北易帜。12月31日国民政府任命汤玉麟为热河省省长、国民党热河省党部常委兼第36师师长,驻节承德省会。民国18年(1929年)1月汤玉麟当选为国民政府首都建设委员会委员,张学良为了笼络父辈对他的支持请汤玉麟出任东北政务委员会副主席,汤玉麟为中国的重新统一立下了汗马功勋。