隋开皇三年（583），改合州为庐州，当时合肥城因位于南淝河之阳，故称庐阳。
1912年，庐州府废，直属安徽省。
1914年全省分为三道，属安庆道。
1928年废道直属安徽。
1949年2月，合肥市设区，第一区、第二区在今庐阳区境内。
1960年更名为南市区。
1963年8月更名中市区。
1985年7月，中市区巢湖路、包河2个街道划归西市区，西市区光明，益民，安庆路，亳州路4个街道属中市区。
1963年8月，南市区更名中市区。
2002年2月，中市区更名为庐阳区。
2012年，庐阳区辖9街道1乡1镇。