徐達是濠州鍾離人，家裡世代務農。徐達年少時便有大的志向，他身材魁梧，顴骨突出，剛毅勇敢。

元至正十三年（公元1353年），朱元璋投奔濠州郭子興的起義軍後不久，回到鍾離招募士兵，二十二歲的徐達前來應徵，和朱元璋十分談得來。徐達從此開始戎馬生涯。

郭子興與一同起義的孫德崖等人不合，遭受趙均用等人的排擠，甚至險遭殺害。

元至正二十四年（公元1354年），朱元璋見困住濠州內鬥沒有希望，於是帶著湯和、徐達等二十四人離開濠州，另謀出路。

徐達跟隨朱元璋收編了定遠橫澗山等地的地主武裝，衝鋒陷陣，開始嶄露頭角。

不久，徐達跟隨朱元璋攻克滁州，擊敗元軍，後來又跟著攻下和州，他作戰勇敢，表現突出，被封為鎮撫。

元至正十五年（公元1355年），朱元璋被郭子興提升為總兵官，駐守和州。

朱元璋年紀輕，資歷淺，升任總兵官，很多郭子興的老部下內心不服，不把朱元璋放在眼裡，比如郭子興的妻弟張天佑，只有湯和、徐達等人對朱元璋恭敬謹慎，服從命令

為了樹立威信，朱元璋下令修築城牆，把和州的城牆分成十段，每位將領負責一段，限期三天。

時間一到，朱元璋便檢查驗收，結果只有他自己負責的那段已由徐達修好。朱元璋在徐達等人的傾力協助下，逐漸樹立起威信。

這年春天，郭子興在和州捉住與自己有舊怨的孫德崖，而孫德崖的部眾聽說後便扣留朱元璋。這時，徐達挺身而出，到孫德崖軍營去替換朱元璋，朱元璋才得以脫險。

郭子興釋放孫德崖後，徐達也被放了回來。

從此，朱元璋對徐達更加信任，忠心耿耿的徐達此時已然成為朱元璋的鐵桿嫡系。

放走孫德崖後，郭子興鬱鬱寡歡，始終無法釋懷，不久去世，朱元璋實際上掌握了這支起義軍的決策指揮權。

這年六月，徐達跟隨朱元璋渡江，攻下采石，又一鼓作氣攻佔太平，與常遇春勇冠三軍，均是軍中先鋒，而徐達常參與作戰策略的制定。

徐達跟隨朱元璋擊退元軍，生擒陳野先，又帶兵攻取溧陽、溧水等地，次年三月，跟隨朱元璋奪取集慶路，朱元璋下令改為應天府。

朱元璋發現徐達才能出眾，於是自己駐守應天府，開始讓徐達代替自己統兵征戰四方。

元至正十六年（公元1356年）三月，朱元璋任命徐達為大將軍，率領湯和、廖永安等人攻打應天府東面的鎮江，攻克後，徐達帶兵從仁和門入城，軍隊號令嚴肅，城內安定如常，百姓生活未受打擾。徐達被擢升為淮興翼統軍元帥。

當時張士誠佔據常州，在鎮江投降徐達的陳保二，不久叛降張士誠，張士誠派陳保二進攻鎮江，徐達在龍潭將其擊敗，請求增兵圍攻常州。

張士誠擔心常州守不住，於是派軍支援。

徐達認為對方詭計多端，不能強攻，只能智取，於是在離城十八里的地方設下伏兵，另外派王均用率一支奇兵，而自己領兵與張士誠軍隊正面交戰，對方在敗退途中，突遭伏兵襲擊，大敗而逃。

徐達俘獲張士誠的張、湯兩位部將，於是進圍常州，次年攻克常州，被提升為同僉樞密院事。

徐達不僅才能出眾，紀律嚴明，而且忠心耿耿，深受信任，逐漸成為朱元璋最倚重的鐵桿嫡系。