春秋为屈邑，晋献公曾封其子夷吾子屈。
武帝元朔三年（前126）封代共王子郢客为土军侯，后始置土军县，县治设团域，县属西河郡。
北魏太平真君九年（448），置岭西县，兼为吐京郡治。
太和二十一年（497）县吐京县。
孝昌年寄治西河（今孝义县上下吐京村）。
北周曾改为吐军县。
隋开皇初复改吐京。
县先后属汾州、西汾州龙泉郡和隰州龙泉郡。
隋开皇十八年（598）始改名石楼县。
唐武德元年（618），石楼县属隰州。
次年，境内置西德州，辖石楼、临河、长寿三县。
贞观元年（公元627年），临河、长寿二县并入石楼县，废西德州，改属东和州。
次年改属隰州。
天宝元年（742）改属大宁郡。
乾元元年（758）复改属隰州。
明万历四十年（1612），改属汾州府。
清代因之。
1912年县属山西省府。
1914年属中路道，后改冀宁道。
1927年复改属省府。
1937年9月，改属第六政治区（后改行政督察专员公署）。
1939年改属第四行政督察专员公署。
1945年9月28日，县人民政府在李家寨村成立，石楼县属晋绥边区吕梁四专署。
1948年6月改属晋绥九专署；1949年2月改属晋南行政公署。
1949年10月1日改属汾阳专署。
1951年3月27日改属临汾专署。
1958年10月并入吕梁县，改称石楼镇。
次年10月复置县。
1971年5月1日划归吕梁地区。
2003年10月，国务院批准吕梁地区撤地设市，属吕梁市管辖。