清朝光绪二十九年（1903年），设小河堡。
中华民国二十八年（1939年）7月，设小河乡。
1951年，境域分属小河、河口、长桥、旗塘、罗兜、上塘、志和、复兴8乡，归小河区管辖。
1956年5月，撤区并乡，小河、河口、长桥、旗塘、罗兜、上塘、志和、复兴8乡并为小河、志和2乡。
1957年4月，恢复小河区。
1958年9月，撤销区乡，原小河、志和、万隆、石店4乡和极富乡一部分并设为小河公社。
1961年10月，从小河公社中分设万隆公社。
1984年6月，小河公社改为小河乡。
1993年3月9日，小河撤乡设镇。