清代至民国初期，归属巴拉奇如德（巴奇楼子）苏木。
伪满时期，归属第四区。
1946年，建查布嘎庙（查布杆庙）区。
1949年9月，将查布嘎庙（查布杆庙）区的西南村、西北村、东北村、合作村等5个行政村划出分建城关区。
1956年7月，撤销查布嘎（查布杆）庙区和城关区，建天山镇。
1958年11月，建天山镇人民公社。
1960年6月，划出5个生产队建城市人民公社，当年12月撤销。
1965年5月，分建查布嘎（查布杆）庙人民公社。
1966年8月，查布嘎（查布杆）庙人民公社更名为红星人民公社。
1980年9月22日，撤销天山镇人民公社，建天山镇人民政府。
1984年2月，撤销红星人民公社，部分大队归天山镇。
2006年9月，撤销岗台乡、荞麦塔拉乡整建制并入天山镇。