攻占長安
晉陽起兵後，為了師出有名，李淵散發檄文給諸郡，稱自己隊伍為“義兵”。但也遭到了某些隋朝地方勢力的抗拒，如“太原遼山令高斌廉拒不從命”,並派遣使者星夜趕往江都，向隋煬帝奏報李氏父子舉兵的事。隋煬帝本就忌恨李淵據有太原，聽到奏報後，非常害怕，於是下令“東都西京，嚴為防禦”,以防李淵勢力的進一步擴大。
西河郡亦不順從李淵。晉陽起兵後的行動決策是非常明確的，那就是要乘虛入關，直取長安，以便控製關中、隴右以爭天下。麵對隋地方勢力的抗拒，李淵的政治頭腦非常清醒。他分析當時的形勢說： “遼山是守株待兔可得的，不值得焦慮；西河繞山的路是我們必經之地，不能放棄。”李淵要揮師南進，必經西河郡，為了掃清道路，必須首先攻下該地。這也是起兵之後的第一個戰役，其成敗影響甚大。
於是在大業十三年(617)六月，行前，李淵對李建成、李世民說：“你們年少，沒經過大事，先把這個郡的攻克作為你們的表現，你們應當盡力。”李建成、李世民表示，如不能取西河，願受軍法處置。當時，因義兵初舉，軍隊未經訓練，李世民等人恐兵士不能賣力攻取，故以軍法嚴律。
“三軍聞者，人皆自肅。”這次出兵，李淵還命令太原令溫大有與他們同行，並對溫大有說： “士馬尚少，要資經略，以卿參謀軍事，其善建功名也!事之成敗，當以此行之。若克西河帝業成矣。”這次出師西河，李建成、李世民迅速攻克該郡，這就更加堅定了李淵進兵關中的決心。師回之日， “即定入關之策”。
李淵西攻關中，除了正麵的隋軍外，還麵臨著左側東都洛陽附近李密的威脅。李密領導的瓦崗軍，共有幾十萬人，所部兵士多是漁民獵戶出身，善用長槍。通過戰爭，他們獲取了隋王朝大批的良馬，裝備精良，同時又擁有洛陽周圍的好幾個大糧倉，可以說是糧餉充足，因而成為中原地區，也可以說是全國實力最強、影響最大的一支起義軍力量，具有舉足輕重的作用。
李淵十分擔心進攻關中的軍事行動，會引起李密的密切注意。而關中的門戶——潼關就在洛陽的後麵，如果李密率瓦崗軍來爭奪關中，沒幾天便可到達，這是李淵的兵力無法對抗的。為了確保能占領關中，避免處於腹背受敵、兩麵作戰的被動地位，李淵在進軍途中寫信給李密，要求聯合。
李密複書李淵道： “與兄派流雖異，根係本同。自唯虛薄，為四海英雄共推盟主。所望左提右挈，勤力同心，執子嬰於鹹陽，殪商辛於牧野，豈不盛哉!"並要求李淵親帶步騎數千，來河內郡麵結盟約。
李密在信中以盟主自居，試圖在政治上先聲奪人，居於優勢地位。這一點李淵是十分明白的，但處於當時的形勢下他暫且不作計較，因為李密正與隋東都守兵激戰，即使隋兵無法救援關中，也牽製了李密及其部眾無法入關。
所以暫時穩住李密，對晉陽義軍西入關中的戰略行動，是極為有利的。而義軍隻要能搶先占據關中，就可穩住自己的地位，並將促使全國的政治形勢發生深刻的轉變。李淵充分地預見到這一點，所以毫不猶豫地決定承認李密為盟主，故貶低自己，高抬李密，以驕李密之誌。
李密接信後沒有深思，非常高興，對李淵進兵關中完全采取不聞不問的態度，而集中兵力對付隋軍和王世充的軍事力量。這是李淵在策略上的又一巨大的勝利，既麻痹了李密，成功地牽製了李密及東都隋軍的兵力，又堵住了成皋之道，使隋朝其他地區的官軍和山東群雄都無法入關，為李淵父子進入關中和此後經營關中及四川等地區，創造了十分有利的條件。而當山東群雄與隋軍逐鹿中原時，李淵父子卻穩居關中，毫無顧忌地掃**西北地區的割據武裝，同時積蓄力量，觀察關東鷸蚌相爭之勢，準備收漁人之功。
大業十三年七月癸醜日，李淵親自率三萬大軍誓師出征，遙尊隋煬帝為太上皇，立代王楊侑為帝，將隋朝的赤色旗幟改為絳白，改朝換代的意圖已路人皆知。
西取長安的進軍路線是沿汾河東岸南下，直取潼關，而霍邑則是進軍途中第一個軍事目標。消息傳至長安，留守京師的代王楊侑立即命虎牙郎將宋老生率精兵二萬屯駐霍邑，同時派左武侯大將軍屈突通駐河東，阻截李淵的西進。當李淵的大軍行到霍邑西北五十裏的賈胡堡，恰逢秋雨連綿，道路泥濘，不得不紮營於賈胡堡。由於秋雨一直不停，李淵不得不派出一部士兵返回太原增運一個月的軍糧。
霍邑地形險要，有險可依，守將宋老生有河東的屈突通遙相呼應，是李淵西進關中途中的第一道障礙。這時，軍中謠傳劉武周聯合突厥南下，一時又不能證實謠傳是否屬實，增運糧食的士兵還沒有返回，將士們有些不安。
李淵召集將領商討對策，裴寂等人都說： “宋老生、屈突通聯兵據險，不容易很快攻下。李密雖答應聯合，卻奸謀難測，突厥貪而無信，唯利是圖。武周，事胡者也。太原一方都會，且義兵家屬在焉，不如還救根本，更圖後舉。”
李淵讚同裴寂等人的意見，而李世民則反對說： “武周位極而自滿，突厥少信而貪利，雖相附，內實相猜。突厥必欲遠利太原，寧肯近忘馬邑!武周悉其此勢，未必同謀。又朝廷既聞唐國舉兵，憂虞不暇，京都留守，特畏義旗。所以驍將精兵，鱗次在近，今若卻還，諸軍不知其故，更相恐動，必有變生，營之內外，皆為勃敵，於是突厥、武周不謀而至，宋老生、屈突通追奔競來。進厥麵南，退窮自北，還無所人，往無所之，畏溺先沉，近於斯矣。"李世民對形勢的分析是正確的，表明了突厥與劉武周尚有存在矛盾的一麵，指出了撤退將產生嚴重的後果。李世民還進一步闡述說：“今來禾菽被野，人馬無憂，坐足有糧，行即得眾。李密戀於倉米，未遑遠略。老生輕躁，破之不疑。定業取威，在茲一決。諸人保家愛命，所謂言之者也。兒等捐軀力戰，可謂行之者也。耕織自有其人，請無他問。雨罷進軍，若不殺老生而取霍邑，兒等敢以死謝。”
李建成也非常讚成弟弟李世民的意見。
然而，老成持重的李淵，雖然認為李世民講得有理，卻仍然下令大軍返回太原。李世民見自己的意見未被采納，便想要入軍帳再次向父親進言，可是天色已晚，李淵已經就寢，李世民不敢貿然入內。李世民與哥哥佇立在軍帳之外，為拔營返還太原的決定而痛惜萬分，兄弟二人不禁失聲痛哭起來。李淵聽到帳外的痛哭聲，便將兩個兒子召入帳內。李世民再次進諫說： “今兵以義動，進戰則克，退還則散；眾散於前，敵乘於後，死亡無日，何得不悲!"聽李世民這麽一講，李淵也有所感悟，說道： “大軍已向北出發，如何是好?”李世民見父親態度有所轉變，說道： “右軍嚴而未發，左軍雖去，計亦未遠，請自追之。”李淵見李世民如此有見識，有決斷，便說：“吾之成敗皆在爾，知複何言，惟爾所為。”建成、世民連夜乘馬向北進發，將已經出發北上的左軍全部追還。丙子日，從太原增運的軍糧也運達賈胡堡前線。
李淵集團在賈胡堡前線關於進軍與退兵的分歧，關係到西取長安、奪取天下的大局。李世民對於形勢的分析和進退利害的論斷，並非是危言聳聽。在關鍵時刻，是李世民據理力爭和行動上的按兵不動，使得李淵在西進關中的重大決策問題上避免了一次重大的失誤，顯露出李世民傑出的戰略天才，為李淵的西取長安在交戰前立了一大功勞。事後，李淵也埋怨裴寂說： “懦夫之徒，幾敗乃公事耳!"八月已卯日，長久的陰雨天氣終於放晴。第二天，李淵下令軍中晾曬鎧甲行裝。第三天，乘著漫天大霧，李淵帶領騎兵從東南山旁小路神奇般地出現在霍邑城前，在城東五六裏處紮營。霍邑易守難攻，宋老生采取堅守城池、不領兵出擊的戰略。
李淵的軍中攻城裝備缺乏，如果久攻不下，將處於不利地位。李建成、李世民知道父親的憂慮，便建議說： “老生勇而無謀，以輕騎挑之，理無不出。脫其固守，則誣以貳於我。彼恐為左右所奏，安敢不出!"李淵認為這個計謀很好，派出騎兵進至城下，做出攻城的姿態，然後李建成、李世民率數十名騎兵，一麵做出圍城的樣子，一麵大罵城中的守兵無能，不敢出戰。在辱罵聲中，宋老生惱羞成怒，率領三萬士兵從東門、南門出戰。李淵下令收縮陣地，宋老生誤以為李淵畏懼而後退，便引兵前進，在距城下一裏處布陣。這時李淵的步兵也相繼趕到，列陣與隋軍對峙。李淵想要下令軍士先吃飯再戰，李世民說： “時不可失。”於是，李淵與李建成布陣於城東，李世民布陣於城南。交戰後，李淵與李建成的軍隊向後稍退，李世民與軍頭段誌玄自南原引兵馳下，直衝宋老生的軍陣，使之腹背受敵。
“世民手殺數十人，兩刀皆缺，流血滿袖。”激戰時，李世民令軍士傳呼： “已獲老生矣!”宋老生的部隊聞聽後頓時大亂，爭相奔向城門。此時，建成、世民已分別把守住東門、南門。宋老生城門緊閉，退至城腳。此刻，城上守軍放下一條大繩索，老生想要攀繩入城，被義軍斬於城下。這次大戰屍首數裏，血流遍野。此刻，暮色已經降臨，李淵下令立即登城。由於沒有攻城工具，義軍將士肉搏登城，終於攻克霍邑城池。霍邑戰役的勝利，打開了通往關中的門戶；在霍邑戰役中，李世民立下了卓越的戰功。
攻克霍邑之後，李淵率軍繼續南下。同年八月初八日入臨汾郡，十二日宿營鼓山，絳郡通守陳叔達抵抗，拒守城池，第二天仍被攻克，陳叔達被擒。陳叔達頗有才幹，李淵以禮相待，加以錄用，讓他與記室溫大雅同掌機密。
十五日大軍抵龍門。這時，劉文靜出使突厥回來，並引突厥五百兵士，馬兩千匹來助。汾陰人薛大鼎對李淵說： “請別攻打河東，隻要坐守永豐倉，傳命遠近，關中就可攻下了。”李淵將要采取這一建議，但諸將請求先攻河東，過去在河東照料過李建成等人的任壤，前來謁見。他長期在河東、馮翊等地任職，頗知關中豪傑的意願，對李淵說： “關中豪傑皆企踵以待義兵。義師自梁山濟河指韓城，逼邰陽，然後鼓行而進。直據永豐，雖未得長安，關中固已定矣。”
當時，農民起義軍遍地皆是，在關中的農民起義隊伍中，以馮翊、孫華一支力量最強。李淵到達汾陰，寫信招安了他。八月二十一日李淵進軍至壺口，河濱之民獻舟者，日以百數，遂置水軍準備渡河。二十四日孫華從邰陽輕騎渡河見到李淵。李淵拜孫華為左光祿大夫、武鄉縣公，領馮翊太守。然後又派孫華渡河，準備迎接大軍渡河。接著又派遣左右統軍王長諧、劉弘基及左領軍長史陳演壽、金紫光祿大夫史大奈率領步騎六千從梁山渡河，紮營於河西以待大軍。李淵囑咐王長諧說： “屈突通精兵不少，相去五十餘裏而不敢來戰，是明其眾不為之用。”但他又認識到屈突通絕不會坐視“義兵”過河而按兵不動，所以，又囑咐王長諧要見機行事。如果屈突通過河擊王長諧，李淵就率軍進攻河東；如果屈突通固守，王長諧等人就毀掉河橋，前後夾擊他。
到了九月初七日，張倫攻取離石後又下龍泉、文城等郡。這時屈突通果然派獸牙郎將桑顯和率精騎數千人攻王長諧軍營，王長諧與孫華等人早有準備，設伏分擊各個擊破，並追奔於飲馬泉，桑顯和逃入河東城。初十日，李淵率諸軍圍攻河東，屈突通憑城固守。
河東是戰略要地，關中之門戶，河東未克，李淵欲引兵西入長安，一時猶豫未決。圍攻河東還是西入長安，在李淵集團內部又發生了軍事策略上的第二次分歧。裴寂主張先解決河東，然後入長安，認為“屈突通擁大眾，憑堅城，吾舍之而去，若進攻長安不克，退為河東所踵，腹背受敵，此危道也。不若先克河東，然後西上。長安恃通為援，通敗，長安必破矣”。李世民不同意這種意見，他認為， “兵貴神速，吾席累勝之威，撫歸順之眾，鼓行而西，長安之人望風震駭，智不及謀，勇不及斷，取之若振槁葉耳。若淹留自弊於堅城之下，彼得成謀修備以待我，坐費日月，眾心離沮，則大事去矣。且關中蜂起之將，未有所屬，不可不早招懷也。屈突通自守虜耳，不足為慮”。
裴寂的分析有一定的道理，因為河東守敵尚有一定的力量，不可低估，如果長安不克，可能會陷入腹背受敵的境地。但李世民的用兵更具謀略和膽識。第一，他看到了關中的空虛，如果乘其不備，可以一舉攻克；第二，他主張用兵神速，這樣可以使敵陷於被動。然而其缺點則是輕視了河東守軍的力量。在這種情況下，李淵綜合了雙方意見，取長補短，決定留偏師圍河東，牽製屈突通的兵力，自己親率主力西進關中。實際上李淵的戰略決策仍以李世民的勇於進攻為主，輔之以裴寂的意見。
河西郡縣聽說李淵將渡河，都紛紛降附。朝邑法曹靳孝謨以蒲津、中洋二城降。華陰令李孝常以永豐倉降。京兆諸縣亦多遣使請降。九月十二日，李淵率諸軍渡河，十六日進入朝邑，住於長春宮。關中士民歸之者蜂擁而至。十八日李淵派遣建成、劉文靜率王長諧等諸軍數萬人，屯永豐倉：守潼關以備從東方進攻的軍隊。
這樣以此二路大軍對長安形成戰略包圍，使長安成為一座孤城。此時於誌寧、顏師古、李世民妻兄長孫無忌拜見李淵，三人都大有文才，無忌尤有才略，李淵皆按禮敘用。此後，三人皆為李世民所用，成為李世民軍事和謀士集團中不可缺少的人物。
屈突通聽到李淵西進，留鷹揚郎將堯君素領河東通守，使守蒲阪，自己回師救長安，但為劉文靜遏阻，不能前行。時又有隋將軍劉綱戍守潼關，屯軍於都尉南城，屈突通想要與劉綱合兵。不料劉綱被王長諧引兵偷襲而兵敗身亡，屈突通隻好退守北城。
當時，李淵的親戚在關中起兵者，比如，李淵女平陽公主(李淵稱帝後的封號),李淵堂弟李神通及李淵女婿(娶高密公主)段倫，都在李淵渡河時遣使迎接李淵。李淵於太原起兵時，柴紹及大平陽公主均在長安。柴紹奉召前往太原，臨行前對公主說： “尊公舉兵，今一同前往，則不可能，留此又怕遭禍，則何如?”公主說： “你宜速去，我一婦人，容易藏匿。”柴紹遂去太原。公主即回到鄠縣別墅，散家財，招引山中亡命之徒，共有數百人，起兵以應李淵。李淵堂弟李神通，因李淵起兵受到牽連，遭隋朝追捕，便潛入鄠縣山南，與京師隋朝楷書石刻大俠史萬寶、河東裴責力、柳崇禮等人舉兵以應義軍。當時少數民族出身的農民義軍首領何潘仁聚眾於司竹園，自稱總管。公主派遣家童馬三寶向何潘仁說以其中利害關係，勸其與李神通合力攻鄠縣，何潘仁深以為然，遂即攻下。一時間李神通有逾萬人，自稱關中道行軍總管，以前樂城長令狐德菜為記室。公主又派馬三寶說服起義首領李文仲、向善誌、丘師利等人，使他們與自己會合，於是公主率軍掠地至整屋，武功、始平皆被攻占，擁眾七萬餘人。營中號為“娘子軍”。左親尉段倫聚眾萬餘人於藍田。李淵渡河時，李神通、公主、段倫皆遣使以迎。李淵拜李神通為光祿大夫，段倫為金紫光祿大夫。何潘仁、李仲文、向善誌及關中的農民起義勢力，都降於李淵，李淵予以慰勞並授以官職，皆受李世民節度。
九月二十二日，李淵又親赴永豐倉勞軍，並開倉賑濟饑民。然後將大將軍府移於馮翊。此時，李世民前往渭北，所到之處，吏民及農民軍歸之如流，李世民收服其中的豪俊。至涇陽時已有勝兵九萬。公主率精兵萬餘人與李世民會於渭北。隰城尉房玄齡帶著計策到軍門求見李世民一見如舊識，任為記室參軍，引為主要參謀。房玄齡亦自以為遇到知己，罄竭心力，知無不為。每平定一處，眾人競求珍玩，房玄齡先收羅人物，引入幕府，若有謀臣猛將，皆潛相申結，使各盡其死力，這樣在李世民周圍便形成了一個智囊團體。
李淵又命劉弘基、殷開山分兵西略扶風，南渡渭水，屯長安故城，李世民引兵赴司竹園，李仲文、何潘仁、向善誌皆率眾從之，屯兵於原秦阿房宮城。勝兵十三萬，軍令嚴整。九月二十七日，李世民從蓋鄠遣使向李淵匯報，請示會師長安日期。同時，延安、上郡、雕陰皆請降於李淵。冬，十月四日，李淵屯兵於春明門(長安城東麵三門中之中門)西北，各軍匯集共二十餘萬。十月四日，李淵遂命諸軍圍城。二十七日，開始攻城，至十一月九日，軍頭雷永吉率先登城而入，守城之人各自逃散，遂克長安。李淵與民“約法為十二條，惟製殺人、劫盜、背軍、叛逆者死，餘並蠲除之”;廢除了隋煬帝的一切苛法。
馬邑郡丞李靖，有文武才略，但他向來與李淵有矛盾，李淵入城俘虜了李靖並要斬他，李靖大呼： “公興義兵，本為天下除暴，以成大業，何挾私怨而殺壯士!”李世民為之求情，李靖得到釋放。李世民將他召置幕府，後來他成為能征善戰、出將入相的英傑。
十一月十五日，李淵立十三歲的代王楊侑為恭帝。改元義寧，遙尊隋煬帝為太上皇。這實際上是魏晉以來權臣奪權稱帝的老辦法，是改朝換代的第一步。李淵從長樂宮入長安，恭帝以李淵為假黃鉞、使持節、大都督內外諸軍事、尚書令、大丞相，進封唐王。軍國機務、文武設官、憲章賞罰的權力皆歸相府，並設丞相府官屬，以裴寂為長史，劉文靜為司馬。以李建成為唐世子，李世民為京兆尹、秦公，李元吉為齊公。
李淵自攻克長安， “於是東自商洛，南盡巴蜀，郡縣長吏及盜賊渠帥，氏羌酋長，爭遣子弟入見請降”。
義寧二年(618)三月，隋煬帝在江都被其親信司馬德戡和宇文化及所殺，這標誌著隋王朝的徹底崩潰。消息傳到長安，五月二十日，隋恭帝禪位，李淵即皇帝位於太極殿，是為唐高祖，大赦天下，改元武德，仍都長安。 “推五運為土德，色尚黃。”六月，以李世民為尚書令，相國府長史裴寂為右仆射、知殿事，司馬劉文靜為納言，司錄竇威為內史令。不久，又立唐世子李建成為皇太子，李世民為秦王，李元吉為齊王。