春秋时期楚国筑养城（阳城），是建城之始。
秦初境内北部设新阳县，在尹城子建新阳城。
南北朝沙颍河南岸筑云城。
后因境内有一沟，为颍州与陈州的分界沟，俗称界沟集。
明末因界沟为颍州边界上的首集，始名为界首集。
1947年10月，建立界首市民主政府。
1953年，撤市设县，更名为界首县。
1958年11月，与太和县合并为首太县，政府驻地界首镇。
1959年4月，与太和县分置。
1989年9月，经国务院批准撤县恢复市建制，复名为界首市。
1996年，直辖于安徽省政府，由阜阳市代管。