古为塞人地。
继匈奴、大月氏之后，乌孙于西汉武帝建元六年（前140）在此重建王国。
汉神爵三年(前59)，隶属西域都护府纳入中国版图。
其后至宋，相继为悦般、柔然、突厥、西辽属地。
成吉思汗西征后成为其子察合台和窝阔台的封地。
明至清初，成为准噶尔部会盟之地。
乾隆二十年（1755）清延平定准噶尔之乱；乾隆二十七年(1762)设“总统伊犁等处将军”于惠远，下设伊犁、塔尔巴哈台参赞大臣，阿勒泰由科布多参赞大臣管辖；光绪十年(1884)新疆建省；光绪十四年(1888)设伊塔道，治宁远城(今伊宁市)，下辖伊犁府和塔城、精河直隶厅；光绪三十一年(1905)阿尔泰地区专设办事大臣，与科布多参赞大臣分治。
1915年，伊塔道分置为伊犁道、塔城道。
1919年，增设阿山道，划归新疆省。
1929年，改设伊犁、塔城、阿山3个行政区，置行政长公署。
1943年，伊犁行政区改为伊犁专区，辖11县和新源设置局。
1950年7月后，中共伊犁区委及所属伊犁、塔城、阿勒泰（阿山）地委相继成立。
1954年11月27日，成立管辖伊犁、塔城、阿勒泰三个专区的伊犁哈萨克自治州。
1955年11月，伊犁专区撒销，所属市县由自治州直辖，州政府驻伊宁市。
1975年8月29日，恢复伊犁地区，自治州政府迁驻奎屯市。
伊犁地区机关驻伊宁市。
1979年9月2日，，撤伊犁地区，州政府机关又迁回伊宁市。
1984年9月14日，恢复伊犁地区，地区机关驻伊宁市。
2001年6月，撤销伊犁地区，所属市县仍归自治州直辖。
伊犁哈萨克自治州现直辖塔城、阿勒泰两个地区和11个直属县市。