大业十三年（公元617年）七月，李渊任命小儿子李元吉为太原留守，全面负责太原的防务安全，他亲自率领三万人马，誓师起兵，向隋朝的都城长安进发。
从七月初五誓师出发这天起，改变中国历史进程的李氏战车正式驶入太长（太原至长安）高速公路，几个月后，这辆性能优良的战车就风尘仆仆地出现在长安大街的御道上。随后的时间里，这辆战车载着李氏一族，开往春天深处。在两百八十九年的“自驾游”行程中，李家人一直沐浴在无边的春色之中，尊荣华贵。
然而，面对起步伊始的李氏战车，也有人设起了路障。西河郡（今山西汾阳）郡丞高德儒和辽山县（今山西左权）县令就和李渊唱起了反调，拒绝搭乘李氏战车。
对于不上车的人，李渊毫不手软：一律撞死碾死，不付丧葬费。
辽山县位于太原的东南方向，地理位置较偏，和这次起兵前进的路线没有冲突，所以李渊认为“辽山守株，未足为虑”。而西河郡位于太原的西南方，是通往长安的必经之路，必须要打掉这只拦路虎。
于是李渊“使建成、李世民将兵击西河”。这是兄弟俩首次合作的“处女秀”。在以后的岁月里，这对年龄相差整整十岁的兄弟共同讨伐敌人的机会屈指可数。此时，由于没有权力之争，兄弟二人互帮互助，胳膊肘子向外翻，颇具“打虎亲兄弟”的融洽。不知道后来夷灭哥哥全族的李世民是否会偶尔想起这段和哥哥“两小无猜”的合作生涯？
尽管后来两人兵戈相向，但这次合作取得了空前的成功。兄弟俩生活上与士兵同甘共苦，战斗中则身先士卒。最值得一提的是这支队伍军纪特别严明：“近道菜果，非买不食，军士有窃之者，辄求其主偿之”。在那个无政府年代，能做到食物不是买的不准吃，士兵偷了老百姓的食物，军队还主动对失主按价赔偿，太难能可贵了，比“三大纪律，八项注意”也差不了多少吧。
这样的军队当然是无往不胜。部队从太原出发到攻克西河城，仅用了五天时间。西河郡丞高德儒以前是杨广的警卫，是个死不改悔的挺杨派。李家大郎、二郎本着“主犯严惩、从犯宽免”的原则，只将高德儒一人斩首，其余官员一个不杀。
李渊看到两个儿子打仗如此勇敢，处事如此妥善，乐得心花怒放，他高兴地感叹道：“以此行兵，虽横行天下可也。”
李渊率军到达西河郡后，除了慰问百姓、赈济贫民外，干的最大最有影响的一件事就是“批条子”，送官帽。他把封官当做了一种敬老爱老的慈善活动，规定凡西河郡七十岁以上的老人都可以无条件得到散官任命。于是一夜之间，西河郡多了一大批有官品的老头儿老太太，不知道这算不算中国封建社会最大方的敬老爱老措施。老头儿老太太都能当官，年轻人就莫说了。当时，李渊在办公室接待了无数个来要官职的人，过程很简单，现场办公，一问一答一落笔，拿到了李渊写的条子就算当官了。来人只要告诉李渊自己有何特长，李渊就会随手写下一个和这个特长有点儿沾边的官职名。不管是谁，只要不说自己的特长适合当皇帝，都会有官做，都能拿到李渊开出的一张委任条。
资料显示，当时最忙最累的不是要官者，而是授官者李渊。他“口询功能，手注官秩，一日除千余人”。一天任命了一千多个官员，这个工作效率太高了，完全可以申请命名为“李渊速度”。今天的公务员同志们都应该学习李渊同志的这种“只争朝夕”的高效率工作作风。按照一天八小时的工作制度，再加两小时的加班时间，一天一千多人，每小时至少需要任命一百人，差不多半分钟就要开出一张“官单”，开罚单也没这么快啊。如此之快的“李渊速度”可能得益于李渊“走笔若飞”的书写速度。《大唐创业起居注》中对李渊的书法和书速进行了“捆绑表扬”：“帝特善书，工而且疾，真草自如，不拘常体，而草迹韶媚可爱。”
千万别以为李渊把官职当胡椒面撒的行为很傻哦，其实恰恰相反，他比妖精还精。他发出去的官位都是“散官”。散官之制始于两汉，指的是无印绶、不理事的官员。也就是相当于在墙上画个饼放那儿，你只能看却不能吃，但也说不定，也许哪天就因某种机缘变成白面做的真饼了。
这种官不同于职事官，说白了是一个无俸禄、无待遇、无办公地点的“三无”官职。对于普通老百姓而言，散官主要是一种荣誉称号的精神奖励。但也不是一点儿用处都没有，翻地砍柴回家后，拿出六品官名状看看，想想自己是个“六品砍柴工”，感觉肯定是相当地爽！间七隔八的邻里间吵嘴打架也可以把官名状拿出来在对方面前显摆一下：你敢殴打六品朝廷命官，不想好了吗？不过要是对方从口袋里掏出一张五品官状，那六品恐怕还是照样要被五品打得一头青包。散官最大的一个好处是准终身制的，只要不犯错误，就能一直“散”到死。死的时候，讣告里就可以写上一笔“曾被朝廷授予某品官职”，这句总结悼词对自己、对家人都很有面子。
综上所述，李渊“撒胡椒面”的作用其实和春秋时期的冯谖烧孟尝君家地契、欠条一样，结果殊途同归：收买人心。
金杯银杯不如老百姓的口碑，李渊在很早的时候就知道这句话的道理。他的收买人心的各种政策行为效果很好，老百姓口口相传，对李渊和他的军队很有好感，这为李渊创造了十分好的“人和”环境。
攻下西河郡后，李渊继续挥师南下，十天后李渊全军抵达了贾胡堡（今山西省汾西县）。在贾胡堡之南五十多里的地方，有一个叫做霍邑（山西省霍州市）的城池。
霍邑位于当年李渊大战魏刀儿的雀鼠谷的南端谷口，西邻汾水，东靠霍太山，地势险要，易守难攻。这个地方本来没有隋军大部队的，是在李渊起兵后才增派的军队。长安留守、杨广的另一个孙子——代王杨侑听说李渊要以武力废掉他的爷爷，尊他为皇帝的消息后，立即派遣虎牙郎将宋老生率两万精兵据守霍邑，同时命令左武侯大将军屈突通率领数万辽东兵及骁果（骁勇果敢之意，隋军战斗力很强的部队）驻守河东郡，试图通过这一南一北互相呼应的两支劲旅阻止李渊进入关中，然后就地消灭。
这件事有点儿搞笑。一个说，我尊你当皇帝；另一个听说后，不但不高兴不领情，还要派兵去割对方的舌头。唉，笑话的朝代总是笑料层出。
李渊抵达霍邑城下的准确日期是七月十四日，这真是个“要死”的日期。当时，霍邑一带天天大雨滂沱，道路泥泞不堪，李渊无法进军，只能无奈地待在霍邑城下等待雨止天晴。可是，这雨好像存心和李渊过不去似的，怎么也停不下来。
就这样，李渊成了霍邑城的“常驻代表”。刚刚踏上争霸天下的第一步就遭遇难题，这对军队士气很不好。此时，李渊面临着好几个不利因素。首先是军中粮食供应越来越紧张，派出去的运粮队伍还没有回来。如果仅仅是缺乏粮食的话，问题还不算太严重，因为霍邑离晋阳不远，粮食运输不是问题，勒着裤带过几天紧日子问题就解决了。比粮食问题更严重的是军营中流传的小道消息。
这些小道消息传得有鼻子有眼，说突厥人将与刘武周乘虚袭击太原。这下所有人都慌了，因为士兵的家属都在太原城内，太原要是丢失，谁还有心思打仗？向来谨慎的李渊被这条小道消息捣鼓得坐不住了，他心急火燎地召集将领们商议如何返回太原。
到底是攻打霍邑还是退保太原？李渊的手下分成了两派。一派是以裴寂为代表的主退派；另一派是以李世民为代表的主战派。
裴寂等人认为，宋老生和屈突通互为犄角，据险扼守，速战速决的可能性很小；而突厥人贪利轻义，他们和刘武周图谋太原的可能性完全存在。为不致后院儿被抢占，应快速率军返回。而主战派李世民则坚决反对撤退。他认为刘武周和突厥人是面和心不和，互相猜忌，短时间内不可能达成抢攻太原的共识。李世民还严厉地指出，如果遇到了小敌，就想着立刻班师，很有可能产生军心涣散、军队解体的严重后果。
李建成也主张以硬战拿下霍邑，他虽然赞成李世民的观点，但他没有李世民反应那么激烈，没有李世民那样强烈的忧患意识，他不敢正面反对已偏向撤兵的父亲。在这一刻，兄弟俩的个性鲜明展现：一温一火。性格决定命运，在后来的政治斗争中，老大就因这种温吞水的性格丧失了多次置兄弟于死地的机会，最终被弟弟的那团烈火烧得灰飞烟灭。
