山西自古就是军事重地，在隋朝时期更为突出。当时北方突厥强大起来，山西是防御突厥的主要屏障。隋文帝时期，曾在北方边境各郡县设置十二个军事总管府以备外敌。而山西一省境内就设有文城（今山西吉县文城镇）、龙泉（今山西隰县）、雁门（今山西代县）、马邑（今山西朔州）、太原（今山西太原西南晋源区）五个总管府。隋文帝还先后派遣自己的三个儿子驻守太原，防备突厥，其中就有晋王杨广。公元604年七月，太子杨广弑杀父亲文帝夺取皇位，是为隋炀帝。随后又伪造文帝遗诏，赐死兄长杨勇，引发了皇室内乱。八月，并州总管汉王杨亮举兵造反，但很快就被隋炀帝亲信越公杨素平灭了。由于这次造反失败，山西军民受到牵连而获罪的有十万家。从此便埋下了反隋的仇恨种子。      本来隋文帝时期，施行了一系列利于人民生产的休养生息政策，社会经济状况大为好转。但隋炀帝阴谋夺位以后，露出了奢侈荒淫、残暴狂妄的本来面目。为了满足他奢侈的生活，各地开始对百姓强征暴敛。隋炀帝每次出巡狩猎都要动用几十万大军。隋炀帝还大兴土木，兴建宫殿，开凿京杭大运河，为防御突厥入侵，还在北方修建长城，这些都得动用几百万的徭役。隋炀帝还经常开疆扩土，四处征战，每一次都得耗费大量的物力财力。短短几年，就搞得民不聊生。再加上天灾接连不断，百姓无法生存，于是全国各地都展开了反对隋朝暴政的起义。而山西就站在了起义风暴的最前沿。      公元610年，山西雁门的尉文通聚集三千人，公开对抗朝廷。后来被镇压下去，而这点星星之火，迅速发展成燎原之势，王薄、窦建德、翟让、杜伏威等人相继起兵反隋，拉开了全国反隋战争的序幕。隋朝政府也赶忙派兵，四处镇压。但山西起义军声势浩大，接连打败前来镇压的官军，还杀死了官军的将领，这使隋炀帝不得不派李渊为河东抚慰使，专门镇压山西起义军。李渊父子来到山西很卖力气，前后镇压了几支起义军，但仍然无法逆转人民对隋朝政府的仇恨。      在隋朝天下大乱风雨飘摇的形势下，统治阶级内部，一些手握兵权大臣也打起了反隋的旗号拥兵自重，企图浑水摸鱼。      其中杨素的儿子杨玄感在黎阳为“顺民心”口号起兵反隋，一时间响应的官员和名门子弟多达四十多人，第一次掀起了贵族反隋的高潮。但这次起义很快被镇压下去了，李渊就是在此次镇压行动中立了功，受到了隋炀帝的信任。公元617年，隋朝已经崩溃在即，第二次贵族起义的高潮出现了，其中马邑郡校尉刘武周杀死了太守，兴兵反隋。      刘武周，原籍河间景城（今河北景县），父亲刘匡是当时的富豪，后来举家前往马邑。刘武周年轻时骁勇善射，喜结交豪侠。后来随隋炀帝三征高丽，以此获得战功，被提拔为校尉。回乡后，担任鹰扬府校尉。      刘武周起事后，马上开仓济贫，全郡征兵，得到了万余人，然后自称太守。为了立稳脚跟，他派遣使者依附于突厥。      隋雁门郡丞陈孝意、虎贲将王智辩合兵征讨刘武周，将他围困于桑乾镇（今山西山阴南）。刘武周援引突厥骑兵共击隋军，王智辩兵败被杀，陈孝意奔还雁门。刘武周趁势袭破楼烦、雁门，夺取了隋炀帝的行宫汾阳宫。为了取得突厥进一步的扶持，刘武周将俘获的汾阳宫的宫女献给突厥，突颜始毕可汗以战马回报他。刘武周如虎添翼，兵威大振，攻陷定襄后，又回军马邑。突厥为了扶植地方割据势力，册封刘武周为“定杨可汗”。刘武周自称皇帝，改元天兴，之后引兵围攻雁门，围城百余日。陈孝意全力拒守，最后兵尽粮绝，被部下张伦杀死，举城投降刘武周。当时易州起义军领袖宋金刚，解救魏刀儿，被窦建德打败，于是率部四千余人来投奔刘武周。刘武周早就听说宋金刚善于用兵，得之大喜，封宋金刚为宋王，委以军事重任，并分一半家产给他。宋金刚也为了深交刘武周，休去原配妻子，娶了刘武周的妹妹为妻。      就在同年，李渊被拜为了太原留守，随后进军关中，占领了长安，之后当了皇帝，建立了李唐王朝。唐朝的建立，对割据一方不图进取的刘武周产生了极大的震动。这时，宋金刚建议应该迅速占领唐的发祥地晋阳，然后向南以征天下。于是刘武周采纳了这个建议，派宋金刚准备进攻晋阳。