白玉辖境历史悠久。
西汉前，本地为血缘骨系部落。
东汉为白狼夷地。
隋为附国地，隋末唐初，吐蕃继续向东发展，附国为其所灭，逐属其统治。
唐末，吐蕃势力崩溃，本地复为部落。
北宋中期为格萨尔王征服，属林国辖地。
清代白玉全境为德格土司所辖，解放后，1951年7月成立白玉县人民政府，隶属西康省藏族自治州；1955年10月，西康省撤销，划属四川省甘孜州自治州；1966年试建人民公社时，将原有白玉乡分建为3个人民公社。
由此，形成全县辖4区，17乡的建制。
2020年6月乡镇行政区划调整和村级建制调整改革后，全县由17个乡（镇）156个行政村，减少为16个乡（镇）130个行政村2个社区。