上回我们说到，李家父子已经举起义旗反隋。这时，李渊身边的王威和高君雅严密监视着他的行动，若要招募军队，必须先除掉他们及其在太原的势力。就在李渊父子决定起兵后不久，刘文静遵照李渊命令，以晋阳令假造隋炀帝的诏令，称朝廷将在太原、西河、雁门、马邑招募二十至五十岁的男子应征，年底集结涿郡东征高丽。这消息如同阴风，瞬间弥漫城乡，令民心惶惶，太原城顿时沸腾，议论纷纷。
“这皇帝真是疯了，一次次征高丽，除了让我们送死，能有什么好处？”
“男人都去打仗，谁来耕种？家里只剩老弱病残，难道让我们等死？”
“他不让我们活，我们也不能让他安生，干脆反了算了！”
许多人已做好准备，一旦征兵开始，便会结伙造反，聚集山林。城里的人们齐声唱起当年王薄起义时的《无向辽东浪死歌》：“譬如辽东死，斩头何所伤……”
同年二月，刘武周杀死太守王仁恭，占领郡府，自称天子，并攻占隋炀帝的离宫汾阳宫，为李渊募兵提供了借口。李世民等人急促李渊起兵，警告他盗贼已占离宫，不早行动灾祸将至。李渊召集将领，表明刘武周的威胁，并表示若等朝廷救兵，必将被灭。王威、高君雅见形势紧迫，支持李渊专擅行事。李渊假装无奈，决定先聚集兵力。
会议后，李渊立即命令李世民与其他将领分头招募军队，短短数日就集结近万人驻扎兴国寺。李渊调整部署，王威被调离军事岗位，高君雅守备高阳，确保不干预军务，兵权则由李渊和李世民掌握。同时，他派密使召李建成、李元吉和女婿柴绍前往太原。
王威和高君雅见李渊扩军，怀疑他有叛逆之心。李渊以讨伐叛逆为借口，暂时掩盖了真实意图。然而，随着起兵准备工作加速推进，二人的疑心愈发加重。这段时间他们看到诸多反常之事，又发现李渊私自放走钦犯刘文静，心中疑团更盛。
时日一久，王、高二人察觉到李氏父子密谋起义。于是，他们策划在晋祠举办祈雨大会，想哄骗李渊前来，趁机谋害他。王威和高君雅还在夜里拜访武士彟，企图拉他一起行事。
王、高二人以为武士彟可以推心置腹，却不知他与李渊交情甚厚。对他倾诉道：“长孙顺德和刘弘基隐匿太原，罪当死，而唐公却让他们掌重兵，真不知出于何意？我等欲借祈雨大会之机捕拿，你看如何？”
武士彟劝道：“这些人皆为唐公之客，若如此行事，岂非惹怒唐公，惹来大麻烦？”王、高二人虽心有疑虑，最终还是作罢。
次日，武士彟将二人的阴谋告知李渊。李渊苦笑道：“看来纸终究包不住火，既然二贼已察觉，便不怪我心狠手辣了。”
祈雨之日，李渊与王、高会于晋祠，长孙顺德、刘弘基在殿内静候，李世民则在晋阳城外布下伏兵。正当李渊与王、高交谈之时，忽听堂外骚动，刘文静率刘政会急步闯入。
刘政会大声道：“唐公，我听闻有人欲反叛，特持密状来禀。”
李渊示意王威接过密状，但刘政会补充：“我所告的正是这两位副留守的反情，这密状只能由唐公查看。”
李渊匆匆阅罢，脸色瞬间变得阴沉，目光如刀，盯着王、高二人道：“好啊，原来你们早有叛心，暗中勾结突厥，图谋不轨！”
高君雅听后如遭雷击，立刻从座椅上跳起，尖叫：“贼喊捉贼！这是谋反者欲杀我等！”
李渊不屑其叫嚷，冷笑着喝道：“来人，将这两个乱臣贼子拿下，送入大牢候审。”
王、高二人不甘就擒，疯狂向大堂外奔逃，然而刚出门口，就遇上长孙顺德带领的士兵，刀剑闪耀，早已等候在此。长孙顺德一声令下，众人扑上前，将王、高二人捆住，押往大牢。
谁也没料到，就在李渊将王威、高君雅逮捕的次日，突厥大军如潮水般奔向太原。虽有新募的兵丁五六万人，但多为未经训练的农家子弟，城中顿时陷入慌乱。
李渊急召众人商议对策，李世民提出以“空城计”智退敌军，他说：“突厥人来势汹汹，欲掠财物，并无攻城之心。我们可严密部署于各街巷，同时洞开四门，令敌军不辨虚实，必不敢贸然入城。即便入城，因不熟地理，敌人也会失去优势。我们兵力远超敌人，进行巷战，必能取胜。”
李渊认同李世民的意见，随即下令大开城门，撤去城上旗帜，不准任何人登城观望。当突厥军队风卷而来时，却见太原城四门洞开，城中寂静如死城。先头部队冲入北门，却发现内城无人把守，犹豫不决，最终选择从东门退去，转而在乡村抢掠一番后撤兵北去。
此时，城中百姓愤怒认为突厥人是王、高二人所引，纷纷咬牙切齿，誓要报复。李渊见此，决意乘机而起，杀贼祭旗。
五月甲子日，晨光微曦，太原校场突然变得热闹非凡，旌旗飞扬，军声嘹亮。新换上军衣的年轻士兵们整齐列队，气势如虹。
百姓们早已得知消息，扶老携幼涌入校场，抬头看着高悬的“李”字大旗，激动不已，纷纷交头接耳。此时，李渊身披红袍，银盔铁甲，骑马疾驰而入，伴随他的是李建成、李世民等人。他们一同登上点将台，场内万众齐聚，屏息以待。
李渊跨前几步，双手抱拳，声音洪亮：“弟兄们、将士们，当今天子无道，盗贼横行，民不聊生。我不能眼看江山沦丧，为了拯救万民，我决定即日起兵，拥戴王杨侑为新帝。从今天起，各个郡县都应该更换旗帜，采用红白两种颜色。”
话音刚落，校场里响起雷鸣般的欢呼。虽然叛乱被视为大逆不道，但李氏父子易姓革命的意图显而易见。众人也都希望李公能旗开得胜，早日为百姓解困。
这时，晋阳宫副监裴寂尖声喊道：“将密通突厥的王威、高君雅拖出来，杀贼祭旗开始！”这就是著名的晋阳兵变，标志着李渊父子公开反隋的开始。