夏、商、周属荆扬南裔。
春秋时楚越之交。
战国属楚。
秦始皇三十三年（前214），属象郡。
秦末汉初属南越。
汉武帝元鼎六年（前111），属交州合浦郡徐闻县。
三国时初属蜀，后入吴。
隋开皇十年（590），遂溪地设铁杷、扇沙、椹川三县。
唐贞观二年（628），省椹川、扇沙入铁杷县，属东合州。
天宝二年（743），改铁杷县为遂溪县，县址设今麻章区旧县村，此为遂溪得名之始。
五代遂溪属雷州。
宋乾道七年（1171），雷州改为雷州军，遂溪属之。
元至元十五年（1278），改雷州军为雷州路，明洪武元年（1368），改雷州路为雷州府，遂溪属雷州府。
清沿袭明制。
1913年，遂溪属高雷道。
1915年，属南路行政区。
1921年，属南区。
1925年，属第八行政区。
1938年，属第十四区。
县治于1948年10月迁往城月。
1950年3月，迁回遂城。
1950年2月，属南路地区；9月，属高雷专区。
1952年，属粤西行政区。
1956年，属湛江专区。
1958年，遂溪与廉江、海康南渡河以北合称雷北县属湛江专区，县城设廉城镇。
1959年8月，迁遂城。
1960年，雷北县改名雷州县。
1961年，重分，复置遂溪县，一直沿用至今。