公元1368年，在红巾军北伐的战鼓声中，朱元璋在应天（今江苏南京）即皇帝位，定国号为大明，建元洪武，以应天为京城，正式建立明王朝，朱元璋即明太祖。      明攻取山西是在攻克元大都之后。朱元璋的统一路线是起淮右，定金陵，西克湖湘，东兼吴会，然后遣将北伐，并山东，收河南，进取幽燕，分军四出，由晋及秦，至于领表滇南，最后削平辽东，完成统一大业。徐达、常遇春受命北伐时是1367年十月。当时腐朽的元政权只靠几支割据武装支持残局，他们之间派系林立，都“假元号以济私”，彼此相互攻伐，杀掠不断。徐达各部进入山东、汴梁、潼关等地打败元军。次年七月，徐达在山东临清会各部将领，马步水师都沿运河北上，连下德州、直沽（今天津）、通州等城。元顺帝带领后妃太子及部分蒙古大臣弃大都北逃。八月北伐军攻陷大都，结束了元朝的统治。而自石敬瑭割燕云十六州给契丹，被北方少数民族统治了四百三十年的燕京（今北京）终于又回归了汉族人民的统治。      大都攻克后，明军按照预定计划，向山西进军。这时元将扩廓帖木儿已从河南退守太原。扩廓帖木儿早先跟随军察罕帖木儿镇压过北方红巾军，察罕死后，元顺帝将他的官职授予了扩廓。后来因为援护太子有功，被封为左丞相、河南王，受命总领天下兵马，驻军河南。扩廓曾经联合关中李思齐等军阀会师抗明，但他们不受命，扩廓引兵西击，与李思齐等人相持数年。就在徐达北伐山东的时候，元顺帝忌惮扩廓的势力越来越大，下诏罢免了他的官职，让太子统领天下兵马，后来又下诏扩廓退驻泽州，还下诏李思齐等联合进攻扩廓，让关保带兵守卫太原，阻挡扩廓的后路。扩廓非常愤怒，引兵擒杀了关保，以十万大军据守太原，杀尽元朝官吏。这时明军已经攻下山东，乘虚席卷河南，河南前线的元军望风而逃，中原形势大变。元顺帝大惊，急忙恢复了扩廓的官职，令他进兵，反攻汴梁。但下诏不久，明军就逼近了大都，元顺帝北逃，扩廓都来不及救援，大都就被明军占领。      洪武元年冬季，明北伐军统帅破虏大将军徐达指挥明军分两路进取山西。冯胜、汤和从怀庆（今河南沁阳）翻越太行山进攻泽州、潞州；徐达、常遇春率领主力从大都南下，进攻河北保定、中山，而后从井陉进入山西，攻取太原。冯胜军翻越太行山攻占了潞州、泽州，打跑了元军守将贺宗哲，在从泽州北上潞州的途中，明军先锋遭遇扩廓部将韩扎尔部队的拦截，两军在韩店（今山西长治县）交战，明军大败。但是从客观上分散和牵制了扩廓的兵力，在战略上给予了太原战役有力的策应。徐达、常遇春大军越过井陉，直抵平定。这时元顺帝命扩廓收复大都，扩廓率兵北出雁门关，从保定取道居庸关以进攻北平（明改元大都为北平府）。徐达闻讯后，对诸将说：“扩廓远征，太原必定空虚，北平有孙先祖在，足以抵御。现在我们乘敌不备，直捣太原，使之进不得战，退不得守。扩廓如果回来自救，就会被我们擒获了。”扩廓反攻北平，想迫使徐达回救，但徐达直捣太原，要逼扩廓回军，都用的是孙膑围魏救赵的战法。但徐达信念决定，义无反顾，挥师大步前进，开往太原。而扩廓行至保定，终究还是动摇了，急忙回师。这样一来，徐达掌握了整场战役的主动权，造成了双方决战在太原城下决战的态势。      最终两军在太原城下遭遇，扩廓军数万骑兵突至，前锋甚锐，明军各部虽将其击退，但损失也十分惨重。扩廓紧随明军布阵于城西。明军兵力处于劣势，于是副将军常遇春建议“我军骑兵已经集结完毕，步兵还未全到，马上与之决战，必然伤亡惨重。如果夜晚劫营将会有所斩获。”于是徐达采纳了常遇春乘夜袭击元营的策略，这时以元将豁鼻马暗中投降明军，愿意作为内应。徐达挑选几十名精锐骑兵，由郭英率领先潜入元军大营进行破坏，以举火鸣炮作为进攻的信号。而后常遇春等率大军猝逼阵前，杀声震天。元军大惊，一时不知所措，乱作一团，自相蹂躏，不战而溃。扩廓正在营帐中点着蜡烛阅读兵书，毫无思想准备，在慌乱光着脚骑上了马，率领十八骑兵逃往大同，继而转入甘肃。豁鼻马带领四万士兵投降，明军遂攻占太原。      之后徐达又调兵遣将，扩大战果。常遇春、郭英等攻占兴州（今山西兴县）、大同。冯胜、汤和从泽州西进，在临猗擒住了元朝的右丞贾成，进而攻克了平阳、绛州。徐达本部又接连平定了榆次、平遥、介休，而后与常遇春等部在平阳会师，向河东地区进军，攻陷了河中府（今山西永济），随后兵临潼关，从此山西境内全部平定，所以城池都飘起了大明旗帜。      洪武初年，被明军赶出关外的元军，又集结了一定的军事实力，时刻盘算着卷土重来。同时遗留在山西境内的元朝残余势力，依然盘踞在晋西、晋北的一些山区，负隅顽抗。他们与塞外遥相呼应，试图东山再起。明军则在晋北与元朝残余势力又进行了近二十年的斗争。      洪武二年（1369）春，徐达大军从晋南挺进关中，平定陕甘地区后。常遇春率军回师，途中暴卒，明太祖诏李文忠代替他领军，赴西北会同徐达大军进攻甘肃庆阳。八月，李文忠带领步骑九万行至太原，突然听说大同被包围，情况危急，李文忠决定前往增援。于是回师向北，出雁门关，跨过桑干河，在马邑击败了元军游荡了部队。之后到马邑北面的白杨门安营，这时天气变阴，飘下雪花。李文忠带领几个骑兵进山侦查，感觉到有埋伏，于是命令部队开拔，前移了五里，以河流作为屏障。这天夜里，元军果然来偷袭营地，李文忠下令坚守不出。      天刚亮，敌军主力杀到，李文忠先以两营的人马接战，等敌人困乏，预先埋伏好的精兵从左右杀出，夹击敌人，元军大败，主将被擒。李文忠又穷追残寇到了大同边境，大同之围遂解。      大同解围战具有重大的军事意义。原来元顺帝趁徐达大军进攻关中的间隙，集结重兵攻击大同，想要以大同作为基地，进而收复北方。这次计划的破产让元顺帝再也不敢企图南侵。就在李文忠回救大同的同时，傅友德、薛显所率的部队在石州（今山西离石）击败了元将贺宗哲的部队。贺宗哲在泽州被冯胜部击败后，带领残部逃到了吕梁山中的石州，凭借山河险要对抗明军。薛显攻拔桃花寨、自崖寨，与傅友德合兵进击，贺宗哲大败逃走，渡过黄河窜入陕甘。      洪武五年（1372），扩廓再次入侵大同，被明军击败，从此大同地区基本平定。这时山西境内的元朝残余势力只剩下盘踞芦芽山中的四大王了。之前明军打击的主要是塞外的元朝残余势力，徐达和李文忠还两次出塞北伐，这给了元朝残余沉重的打击。但同年的一次北征，徐达一路被扩廓和贺宗哲合力击败，死伤数万。从此明太祖意识到，塞外的元朝势力很难被彻底消灭。同时，由于西南地区的战事正在进行，明政府无暇兼顾，于是明军从此不再出塞作战，北方各地转入了防务体系的建设。在这种情况下，明军回过头来开始对四大王势力进行清剿。四大王是元朝宗室。明军当年攻克太原后，迅速占领了大同，截断了太原以北各地元军出逃塞外的道路，他们大部分被就地歼灭，余众则以四大王为首，退保芦芽山中。芦芽山是隔断大同盆地与太原盆地的一座大山， 绵延数百里， 东望忻代， 西瞰黄河， 左有雁门关、右有偏头关，中有宁武关，雄踞三关之中，地势险要磅礴。山中人迹罕至，四大王藏匿其中，结寨自固，还时常掠夺邻近州县。受到攻击最多的是武州（今山西神池），但是多次被太原指挥程桂击退。元朝降臣刘元利等人暗中与四大王联络，得知准备进攻太原，许为内应，但被程桂提早发觉，就地正法。延安侯唐胜宗在岢岚西山击败了四大王的部队，乘胜进山清剿，四大王游走于深山密林之中，始终没有剿灭。唐胜宗改用了围困的办法，加强了周边州县的防御，同时调集太原兵力，把守各处关隘，扼守其南下和东出的道路。第二年，明太祖又派李文忠统大军进驻山西，加强晋北的防御，李文忠驻扎在代县。塞外元军多次入侵朔州、保德、雁门等地，企图打通与四大王的联系，但都被李文忠派兵击退，从此四大王只能在山西作困兽之斗。洪武八年，扩廓去世。之后的几年里明军又平定了云南、辽东，明朝的统一事业基本完成，元朝残余想收复失地的希望越来越渺茫。四大王也见大势已去，部众也逃散殆尽，于是于公元1387年前往晋王府投降，山西境内的元朝残余势力至此全部消灭。      明政府为了防备北方少数民族的袭扰，在东起鸭绿江，西至嘉峪关一线上，先后设置了辽东、宣府、大同、榆林、宁夏、甘肃（张掖）、蓟州、太原、固原九个军事重镇，称为九边，并屯驻重兵。九边之中山西有二，大同总兵驻防大同，太原总兵驻防偏关，形成了两道军事防线。      之后明朝重修长城，也是在这两条防线的基础上修建的，大同以北的长城为外长城，而将雁门、偏头、宁武等重要关隘连起来又形成了内长城。后来明政府又重修大同城和太原城，使之更加雄伟坚固，使之称为明朝重要的军事边防基地。