光绪二年（1876）二月，左宗棠命大将刘锦棠统兵自甘州（今张掖市）移师至肃州，七月，令刘锦棠领湘军二十五营一万三千兵马，与满族将领金顺率清兵四十营二万一千兵马，共三万四千兵力先锋，出星星峡进入新疆，一举夺回失陷十四年的乌鲁木齐，光绪三年（1877年）初，天山以北基本上收复，同年进军南疆门户库尔勒，击败白彦虎，再收复东四城：库车、拜城、阿克苏、乌什。阿古柏政权分崩析离，刘锦棠迅即攻入喀什噶尔（今喀什市），破其都城叶尔羌（今莎车县）阿古柏已死，南疆全部收复。左宗棠大功告成，需要解决的是，收复被俄国占据十年的伊犁，于是有「左宗棠枱棺西征」的传说。但解决伊犂问题，是清朝与俄国的外交较量。

光绪七年（1881年），清政府经过艰辛交涉，与帝俄谈判，最终收复被俄国占领长达十一年之久的伊犂地区。清朝统治者亦意识到新疆的得失，影响全国的政局，早在左宗棠进军新疆的时候，已向他询问处置新疆边防的策略，宗棠在《遵旨统筹全局摺》中，提出他的意见：

「窃维立国有疆，古今通义，规模存乎建置，而建置因乎形势，必合时与地通筹之，乃能权其轻重，而建置始得其宜。伊古以来，中国边患，西北恒剧于东南。

「是故重新疆者所以保蒙古，保蒙古者所以卫京师，西北臂指相联，形势完整，自无隙可寻，若新疆不固，则蒙部不安，匪特陕甘、山西各边，时虞侵轶，防不胜防，即直北关山，亦将无晏眠之日。」

「为新疆画久安长治之策，纾朝廷西顾之忧，则设省，改郡县，事有不容已者。」

朝廷接纳他的意见，光绪十年（1884）十一月十九日，光绪皇帝颁发上谕，任命刘锦棠为甘肃新疆巡抚，魏光焘为新疆布政使，标志着新疆正式建省。新疆省会由伊犁移至廸化（今乌鲁木齐），全省设置镇廸（镇西廸化）、阿克苏、喀什噶尔、伊塔（伊犂塔城）等四道，有廸化、伊犂、焉耆、温宿、疏勒、莎车等六府，吐鲁番、精河、英吉沙尔、塔尔巴哈台、库尔哈喇乌苏、哈密、镇西等七直隶厅，库车、乌什、和阗等三直隶州，一散厅、一散州、二十一县。