公元617年，這一年是隋大業13年，曾經輝煌無比的隋朝卻已經陷入了無比困難的地步，各地起義不斷，李密、杜伏威、竇建德等人已經開始四處攻城略地，就連隋東都洛陽也長期陷入了瓦崗軍的圍攻之中。在這種情況下，與隋朝有親戚關係的太原留守李淵也動了心思。
也不怪李淵有其他想法，實在是隋煬帝的心思太過難以揣測。就在這一年，馬邑一個名叫劉武周的校尉殺死了馬邑太守王仁恭，拉起了造反的大旗。這件事本來跟李淵關係不大，但偏偏馬邑在李淵的管轄範圍之內，自然有了連帶責任。更要命的是，劉武周還帶著人把隋煬帝的汾陽宮佔了。
遠在江都的隋煬帝得知訊息後，二話不說就把李淵與兩位副留守免職，準備拿到江都去治罪。不過後來考慮到劉武周實在鬧騰得厲害，又勾結起了突厥人，李淵等人實在是不能離開，隋煬帝只能將李淵等人改成了戴罪立功。雖然暫時逃過了一劫，但李淵心裡卻怎麼也無法安定下來，畢竟他跟隋煬帝雖然名義上是表兄弟，但關係卻並不好，隋煬帝甚至告訴過李淵的外甥女王氏，他準備找機會殺掉李淵。現在背了這麼大一個罪名，讓李淵如何能夠安心？
實際上當時李淵身邊聚集了一大批人，包括他的兒子李世民、好友劉文靜、劉弘基等人，都勸說李淵起兵，因為這個事，李淵也動了心思，便讓長孫順德和劉弘基先招募一些士兵，用以自保。沒想到的是，李淵招兵引起了副留守王威、高君雅兩人的注意，這兩人可以說是隋煬帝的親信，他們感覺李淵可能有異動，就想趁著李淵去晉祠祈雨的機會幹掉李淵。不過這個事情被太原一個叫劉世龍的鄉長髮現了，他趕緊報告給了李淵。李淵一看沒辦法，只能殺掉王威、高君雅，正式在太原起兵。
既然已經舉事了，肯定不能困守太原，李淵則將自己的目光放在了關中，打算趁著隋煬帝不在，先把長安佔了。對外自然不能說是舉事，李淵打的旗號是要進入關中匡復隋朝。不過想要進入關中還是非常困難的，雖然當時為了抵禦李密，北方的隋軍主力集中在洛陽一帶，但關中還是有一些精兵的。得知李淵起兵的訊息以後，坐鎮長安的代王楊侑便讓虎牙郎將宋老生帶著3萬精兵駐紮霍邑，左武侯大將軍屈突通駐紮河東，這兩支軍隊便成了李淵南下道路上的攔路虎。
除了這兩支隋軍以外，更讓李淵感覺到晦氣的是老天爺不肯幫忙，他才剛剛率軍走到賈胡堡，天上就下起了大雨，而且一連下了很多天都沒有停止。下雨不僅僅讓李淵無法向前進攻，還使得後方的補給運送不過來，使得軍中開始斷糧了。一旦糧食出了問題，軍中肯定就會謠言四起。當時就有謠言說，劉武周已經聯合突厥準備進攻太原。太原可是大家的老巢，一旦丟失可不得了，於是裴寂等人紛紛跳出來，勸說李淵先率軍撤回太原。
李淵一看前路不通，後方又有可能出問題，只好同意先撤軍回太原。實際上撤軍並不是一個好的選擇，一旦撤回了太原，很可能會面對蜂擁而來的隋軍，最終因為困守一地而失敗。李世民對此看得非常清楚，當天晚上軍隊已經開始撤退，他忍不住悲從中來，竟然在李淵的營帳外面哭泣起來。李淵聽到兒子的哭聲以後，趕緊出來詢問了一番李世民的想法。聽完之後，李淵自己也感覺撤軍不大靠譜，只好讓李世民與哥哥李建成一起去追回已經撤退的軍隊。
李世民等人上路以後，李淵卻怎麼也無法安心，雖然說撤退回太原形勢不妙，但現在這麼困守賈胡堡也不是個辦法。對於到底應該如何做，前途在哪裡，李淵實在是無法預料。就在這時，有一個人悄然來到了李淵的營地外面。這個人看上去已經非常老了，但一身白衣，仙風道骨，一看就是一位得道高人。
李淵當時正一心收攬民心，他看到這位白衣老人以後，以為是隱居深山裡的得道高人前來投奔自己，想要謀取一個官職，於是趕緊讓人將老人請了進來。在李淵看來，能夠有人投奔自己就是好的，無非是隨便封一個官職而已。令他沒有想到的是，這位老人並不是來求官的，而是來為他指點迷津的。
這個老人一見面就告訴李淵：“我並不是普通人，而是霍山的山神，聽說唐國公的義軍駐紮在此，特地前來拜見。我想告訴唐國公一個訊息，那就是千萬不要退兵，只要等到8月份大雨就會停止，到那時只要你率軍從霍邑東南面發起進攻，那就一定可以獲勝。”聽完這句話後，李淵當場愣住了，沒想到這還真是一位得道高人。
李淵對霍山山神可不陌生，春秋末年晉國大亂，當時晉國趙氏的當家人趙無恤面臨著智伯瑤的壓力，只能夠退守太原。由於智氏遠比趙氏強大，智伯瑤又是晉國執政，能夠動用韓氏、魏氏兩家的力量，趙氏根本無力抵擋三家的進攻。不過就在這時，霍山山神給趙無恤送來了一份竹簡，上面寫著：“霍山山神奉天帝之命，將於3月15日幫助趙氏滅掉智氏。”其後趙無恤果然滅掉了智伯瑤，他因此在霍山建造祠堂專門祭祀霍山山神。
李淵自己同樣是從太原起兵的，他感覺霍山山神應該是想幫助自己成就一番事業。不過他還是有些不相信，覺得會不會是哪個老人跑過來騙自己的。然而還不等他說話，白衣老人就消失不見了，彷佛從來沒有來過一樣。這一回李淵終於相信了，這是一位真正的得道高人，前來指點自己成就霸業的人。既然是天命所在，那留下來必然是正確的，李淵便安心在賈胡堡等待起來。
果然到了8月份，大雨就停了，沈叔安等人也從太原運來了糧食，李淵按照霍山山神的話，從霍邑東南方向發起進攻，果然一舉擊敗隋軍，隋朝猛將宋老生更是被一個叫盧君諤的都頭當場斬殺。搞定宋老生以後，一個屈突通自然擋不住李淵，李淵很快便成功入關佔據長安，最終建起了唐朝。