隋煬帝慘無人道的統治，致使民怨四起，於是，揭竿而起在當時已是常事，農民起義此起彼伏。但是，杜如晦因為出身的原因，不可能參加到農民起義中，於是，和房玄齡一樣，密切關注著時局的變化。公元617年太原留守李淵率領軍隊在晉陽舉兵反隋。由於李淵得到民心，又加上策略得當，二公子李世民又英勇善戰，所以，反隋戰鬥進行得很順利。等到李淵父子入主長安以後，杜如晦見天下大局已定，又瞭解到李世民英明神武，並且樂意廣結天下有志之士，於是便決定把自己的性命壓到李世民身上。

後又幾經波折，李淵終於稱帝，但是李世民手下的良臣謀士被調往外地任職，因此李世民擔心不已。但是擔任李世民記室的房玄齡對他說：“雖然府上有很多人被調往外地，但是失去他們並不可惜。然而杜如晦除外，他擁有大智慧，是輔佐帝王將相的良才。如果秦王將來想成就霸業，那必將離不開他。”李世民對房玄齡舉薦杜如晦的這一番話，很是吃驚，他對房玄齡說：“如果不是你提醒，那我就失去他了！”於是李世民馬上去請求自己的父親，硬是把杜如晦留了下來，仍然擔任秦王府裡的屬官。但是從此後，李世民就把杜如晦視為自己的心腹，每次都要與他商討軍國大事。

李淵登基後各方面的威脅仍然很多，於是李世民理所當然得去幫父親消除，而在平叛這方面社如晦是幫了很大忙的。他在軍中統籌大局，對作戰雙方的情況判斷準確及時，由於他傑出的才能，杜如晦受到了軍隊裡所有人的讚賞。杜如晦也由此升官，李世民擔任陝東道大行臺尚書令的時候，任命杜如晦為大行臺司勳郎中，並給他封爵並賜封地建平縣南，管轄地區有三百戶人家。不久以後又兼任文學館大學士。

文學館是李世民專門為了接待四面八方的文人雅士而開設的。在十八學士中，杜如晦是其中的佼佼者。李世民曾經命令畫師描摹了十八學士的肖像並且收藏在自己書房。李世民曾經稱讚杜如晦的畫像說：“長相文雅，並且有忠君報國的烈骨，以後一定能流芳百世。”由此可見，李世民對杜如晦非常重視，當李世民被封為天策上將後，擁有自己的府衙和官僚，又封杜如晦為天策府中的從事中郎，成為天策府的高階主事者。

李世民在平定叛軍中立下不少功勞，於是他的威望日漸超過他的太子大哥，為自己引來了殺身之禍，李建成和李元吉幾次設計要殺死他。對於這種情況他手下的謀臣擔心不已。杜如晦、房玄齡和長孫無忌等都認為，必須要先發制人才能改變這種被動的局面，他們都勸李世民要早作決斷，儘快除掉大威脅李建成和李元吉，以保證國家的穩定安康。當然，李建成也知道杜如晦一直想要他的命，於是想方設法除掉秦王府的武將和謀士。不過經過一系列策劃沒有獲得成功。最後他們在李淵面前惡意中傷房玄齡、杜如晦。李淵居然聽信讒言，把房、杜二人驅逐出秦王府。公元626年夏，突厥數萬騎兵侵擾大唐邊境。李建成於是策劃瓦解、分化秦王府的精兵強將。他極力向李淵推薦，任命李元吉代李世民出征。李元吉又上奏請求把秦王府的猛將段志玄、遲尉敬德、秦叔寶、程知節等歸自己呼叫，以增強自己的北征實力。這一目的實際上就要挖空李世民的實力。

李世民感覺到已經非常危險，於是和高士廉、長孫無忌、遲尉敬德等商議對策，並派人秘密帶領房、杜二人進秦王府密謀策劃了“玄武門之變”。成功殺死了李建成和李元吉，接著又在謀臣的鼓動下，李世民迫使李淵立他為太子。此時軍政大權已徹底落在李世民手上，李世民馬上任命杜如晦為左庶子，幫助他一起處理朝中政事。在826年的七月，又任命杜如晦為吏部尚書。武德九年八月，李世民即位，改元貞觀，尊他的父親李淵為太上皇。李世民取得帝位以後，對手下的群臣論功行賞，因為房玄齡、杜如晦等五人功勞最大於是晉封杜如晦為蔡國公，管轄一千三百戶人。公元628年杜如晦又被升為檢校侍中，兼支部尚書。其實也就是名副其實的宰相。

杜如晦既擔任宰相，又是吏部尚書，掌管著著選賢任能的大權，於是他在引薦賢才，罷除貪官汙吏等方面，做出了很多努力，杜如晦在任用人才的時候，更講究實踐。當時其他官員往往注重文采，而不去了解他們的品德。杜如晦錄用人才的機制是，首先由川郡推薦，然後再進行實際考核錄用。在臨終前他還不忘推薦正直不阿的戴胄做支部尚書。杜如晦對於理政治國方面可說非常有天分。

在唐朝初期，國家一切典章制度的設立都離不開杜如晦和房玄齡，杜如晦雖然身居高位，卻為人低調，並且對李世民的一些錯誤的決定敢於直言以對。他寬厚待人，雍容大度。貞觀三年的十二月，杜如晦因為得重病而辭去宰相的職務。在他病重期間，唐太宗曾經親自前往探視。對於杜如晦的英年早逝，唐太宗感到非常悲痛，曾以“三日不上朝”來表達對杜如晦的哀悼，杜如晦死後被封為司空，又賜封號萊國公。