“唐公地兼亲贤，与国共休戚。如果等待上报的结果，势必贻误战机。如今是为国讨贼，乃正事大事，唐公可以自定主张。”
李渊却皱起眉头，看着王、高二人说：“由我专权，这样不大好吧。”
与会的将官纷纷赞同说：“唐公拿主意，目的在于平乱，有什么不好的。”
李渊装做不得已的样子，说：“那好吧。大家既然把责任都压在我身上，我也就不客气了。当前的情况，没有别的妙策，只有募兵一条了。”
军事会议上定下了调子。李渊立即命令李世民、刘弘基、长孙顺德在各处设立招兵站，大力宣扬保护太原的意义。十几天的时间，竟也募兵万余人。
兵多了，人也就有了底气，望着一个个新兵，李渊非常高兴，拤着腰在那里站着，仿佛看见自己率领千军万马扫平群雄，挺进长安，建立帝业。这时李世民走过来，问父亲：“父亲，新兵何处安营为好？”
李渊看着越来越出息的二儿子，心中喜悦，想起宫女侍睡那档事，觉得儿子还真不是一个平凡的儿子。他看了看李世民，大手一指远处的兴国寺说：
“勤王之师，不谋而至。此其兴国之地焉。吾李家新兵可于此寺安处。”
新兵募来，在曾经当过军官的长孙顺德、刘弘基的带领下，日夜操练。为了削弱王、高二人的力量，李渊以工作需要为名，派王威兼任太原郡丞，与裴寂一块掌管军粮，负责军队的供应。又命高君雅去守高阳县，巡守城池。而所募新军的一切事务，均由李世民、刘文静来掌握。
四月底，突厥始毕可汗果然没有失约，派遣柱国康鞘利赶着战马千匹来到晋阳。康鞘利见到李渊，呈上始毕可汗的书信说：“只要唐公依附可汗，要人要马，可以随意。”
李渊读完可汗的信，对康鞘利说：“我李渊愿做可汗永远的朋友。人情我领了，代我谢谢可汗。兵我就不借了，一千匹马，我买下一半吧。”
李渊除掉付了五百匹的马钱，又厚赠康鞘利许多金玉珠宝，以期他能在可汗面前多多美言。众将士见唐公只选五百匹好马买下，以为唐公没有钱了，纷纷涌到留守府，要求用自己的私囊钱买下选剩的五百匹马。李渊对大家说：“不是我不想要那五百匹马，也不是没有钱买。我是怕始毕以马多而贪利，将源源不断送马来让我买。此次只买其半数，是让其知我资财无多，打消其觊觎之心。以后在战场上，只要我等奋力杀敌，何愁没有马匹可用。”
王威见大张旗鼓地招兵，又买来突厥的许多战马，心下疑虑，怕李渊父子心怀异志，于是派人把高君雅从高阳请来，两人密谋一阵，决定一齐去见主管兵器盔甲的武士彟探探情况。
见了面，王威就问：“武参军，最近置办旗帜军服的情况如何，是否按隋制统一的规制定做？”
武士彟奉李渊的密令，向来不显山不露水，平时做出依附王、高二人的样子，见二人问这事，故作诧异地说：“募兵是为朝廷使用，兵乃国家之兵，服色、旗帜当然按国朝颜色、样式定制，不信我打开库房，让二位大人看看。”
王、高二人见武士彟说得肯定，言之凿凿，无什么可疑处，盘桓了一会，但仍愤愤地说：
“长孙顺德、刘弘基等，皆为征辽亲侍，临阵脱逃，犯法当死，如今亡命到此，却让他们统兵，分明另有目的，瞅机会非把他俩抓起来不可，审问个明白。”
武士彟听了这话，心里很着急，表面却假装好意婉言劝道：
“二位大人忠心为公，遇事认真，可敬可佩。然长孙顺德和刘弘基乃唐公的贵客，若贸然逮捕他们，必然会引起纠纷，恐于大事不利。”
“这事不能就此拉倒！”王威恨恨地说道，而后与高君雅一起走了。俩人前脚刚走，武士彟就出了门，直奔李府，把王、高二人的怀疑禀报给李渊，并关切地说：
“王、高二人虽没有多少兵权，但手中仍有兵马和亲信，唐公要多提防他俩。实在不行，要先下手为强啊！”
留守司兵田德平见李渊大规模地募兵，并向突厥买马，也怀疑其有意图，想劝王威过问募兵之事，但举棋不定，怕事情不利连累自身，于是找好友武士彟商量。武士彟推心置腹地跟田德平说：
“公为朝廷着想，这本是好事。但讨捕的兵马，均属唐公掌握。王威、高君雅虽是副留守，但却徒有其名。没有多大的作为。你纵使向他们告发，也于事无补。你何必又去得罪唐公，自寻烦恼呢！”
田德平觉得武士彟分析得有道理，于是将这事压了下来，对李渊欲起兵一事，睁一只眼闭一只眼，佯作不知。太原的局势却越来越紧张，越来越明显，募来的万余新兵均归李渊的亲信所领导，每日操练也不讲对付刘武周的事，宣扬的多是隋室无道、天下兵争的事。晋阳街面上也到处传言李渊将要发动兵变。
在这种形势下，王威、高君雅渐渐觉出事情的可怕，若李渊起兵，第一将斩他俩的头。密报朝廷已来不及了，远水解不了近渴，现如今只能自己救自己。先下手为强，后下手遭殃。王威、高君雅决定采取非常措施，除掉李渊。
进入五月，晋阳有两个月没下雨了，庄稼被越来越热的阳光烤得蔫头耷脑的。照陈年老例，将在晋祠设祭祈雨。为了突出祈雨的隆重性，晋阳乡长刘世龙专程赶往王威的府上，请他祈雨那天光临助兴。
当得知祈雨那天李渊也到场时，一个点子猛然从王威的脑子里冒了出来。李渊募兵买马，磨刀霍霍，反相已露。何不乘此机会将李渊除掉！
于是王威与高君雅密谋一番，便开始准备兵马了。岂知对此有所察觉的刘世龙已将此事汇报给了李渊。这边李渊也已在晋祠附近布好了亲兵。
及至祈雨的那天，在李渊的安排下，开阳府司马刘政会突然出现，将一密状呈给李渊。“密状”中称王、高二人引突厥入关。直到这时，王威、高君雅才发觉上了人的圈套。不容分说，已被人五花大绑，押回城中。
吉时已到，李渊则在刘世龙等人的陪同下，来到前院的祭台，与老老少少一起，向台上的龙王爷献香祷祝，顶礼膜拜，祈望龙王爷能给久旱的大地普降甘霖……
事有凑巧，刘政会告王威、高君雅勾结突厥入关，第三天，即五月十七日，突厥发数万骑兵袭击太原，其轻骑兵在太原城外，往来驰骋，极为骄横。李渊决定利用智谋使突厥退兵，一来不伤与突厥的和气，二来让突厥看看李渊的实力，让其从此不敢小瞧。突厥来犯，正应了刘政会的“密报”。在对付突厥的军事会议上，分派完各路兵以后，李渊命令道：
“人告发王威、高君雅勾结突厥，今果然如此，立即将此二人处斩，祭旗出兵！”
将王、高二人处斩后，单说李渊沉着冷静，命裴寂、刘文静等分别守备太原诸城门。且令城门大开，城墙上不树旗帜，守城将士皆蹲在城垛后面，不许出声。唱一出空城计，以迷惑突厥。空城计毕竟是空城计，为防不测，李渊命李世民率精锐骑兵，乘黑夜悄悄出城，占据险要的地方，一旦太原城有何不测，即从背后突袭突厥。
为进一步迷惑突厥人，李渊又命部将王康达率所部千余人，黑夜出城，白天入城，大张旗鼓装作援军的样子。
李渊的疑兵计收到了预期的效果。在城外，虽然发生了一些小规模的战斗，但基本上没有大的战斗。突厥此次来太原，本来是示其威武，并不准备强攻太原，今见李渊有所准备，怕夜长梦多，于是乘夜退兵。
月光下，但见城外尘土飞扬，人喧马嘶。城墙上的将士们见突厥兵从夜里一直到第二天上午才全部退完。亲眼见到突厥兵强马壮，人多势众。将士们既高兴，又后怕。后怕的是突厥兵终于没来攻城，高兴的是唐公李渊智谋过人。乱世之中，追随这样的人，岂不是我辈的大幸！
上午，李渊正在留守府和文武官员议事，城外埋伏的侦骑飞马来报，言突厥兵已全部退出太原。李渊微微一笑，手捋胡须说：“我知之矣。”
文武官员一齐上来祝贺，齐赞唐公之德。去年马邑大败突厥，现在又智退突厥，使太原避免了劫难，成为乱世之中，最和平的地方。李渊的形象在文武官员和百姓中越来越高大，联想到“杨氏灭，李氏兴”的童谣、图谶，人们更是对李渊心怀敬畏。在讨论如何进行下一步行动时，李世民认为，若兵行天下，必须确保后方根据地太原的安全，而太原最大的威胁来自突厥。突厥控弦百万，十分强大，若一味与其对抗，以后仍然会麻烦不断，只有实行表面妥协和畏服的办法，才能确保太原的安全，确保起兵的顺利实施。
大家一致表示赞同。李渊虽觉畏服突厥，会召来天下骂名，但眼下却不得不如此。于是修书一封，再遣刘文静出使突厥。
信中李渊表达了自己欲取天下，向突厥屈节求和之意。并投其所好，言取天下后，除土地之外，货财宝物，任其所取。始毕可汗接信后非常高兴，对臣下说：
“我知唐公是非常之人，果做异常之事。今上书恭维于我，我当从之。以求宝物。”为了表示向突厥的臣服，裴寂等人主张起兵用白旗，以和突厥的旗色保持一致。李渊认为太露骨，不同意，最后采用李世民的意见，一半是红，一半是白，“杂用绛白”，以表示既不纯属于隋朝、也不纯属于突厥。
北连突厥，解除了后顾之忧，这时李建成、李元吉和柴绍也赶到了太原。李渊觉得正式起兵的机会到了，立即召开太原郡各级官员大会，会上，李渊言隋炀帝无道，致天下大乱，决定依伊尹放逐太甲、霍光废昌邑的故事，废隋炀帝而立代王。并传檄各县，克日起兵。
文武官员都知道李渊葫芦里卖的是什么药，尊隋是假，欲取天下是真。虽说如此，绝大多数人还都愿跟着李渊。听完李渊的号令，与会的官员爆出一阵欢呼声。
李渊为人行事再好，也有人不买他那一套。起义檄文传到了西河郡（今山西汾阳），郡丞高德儒甘愿为隋炀帝尽忠，不听从李渊之命，且坚壁清野，与太原断绝交通。想在乱世之中，夺取天下，就不能怕打仗。李渊决定首先拿西河郡开刀。李世民自告奋勇，愿去打这起兵的第一仗。但李世民毕竟年仅二十岁，又是单独领兵攻城，李渊怕有什么闪失，派大儿子李建成与李世民一起去，并任命诚实稳重的新任太原令温大有为行军参谋。行军之前，李渊拉着温大有的手说：
“我军兵马尚少，又多是新兵，无实战经验。此次又要攻城略地，非比平日打仗。我儿年少，派卿参谋军事，希望你用心而为之。这一仗关系重大，若赢了，帝业可成也。”
李渊又勉励二子一番。李建成、李世民跪地明誓，表示“家国之子、忠孝在焉”，坚决完成任务，若有闪失，愿受军法裁处。李建成这些年在河东，也没有白混日子，平日也研习了不少兵法。今见军队多为新招募的兵士，训练还不到位，行军举止都没有章法，于是边行军，边教以军法。你别说，还真管事，部队行军的步伐整齐多了。行军时，李世民总是一马当先，走在队伍的前列，遇到危险，就挺身而上。每顿饭也与士兵一起吃，颇得人心。温大