攻克集庆后，因金陵险固，古称“长江天堑”，“龙蟠虎踞”，在徐达的建议下改集庆为“应夭府”。
置“天兴建康翼统军大元帅府”。
从此，徐达更受重任，朱元璋“居守”，“经营四方，命达为大将”。
为巩固金陵，在以后的三、四年里，徐达领兵向东攻克镇江、滋州、宜兴、江阴等地，控扼大江，阻止了张士诚兵力沿江西上。
又从皖南进兵，攻占婺源、饶州、处州、衡州等地，挡住了陈友谅势力向皖、浙地区的扩张。
这时朱元璋集团以金陵为主，将苏、皖、浙、赣等边区连成一片，东与张士诚集团为邻，西和陈友凉势力相接，成为雄据江南的较为强大的势力。
此后，徐达又参与了与陈友谅的大战，徐达亲自指挥池州大战，给敌军以极大的杀伪。
在金陵战役时，又驻守要地，立功最多，并且复太平、取安庆。
特别是在江州战役甩，他率兵攻占汉江之沌口，阻遏陈友谅的汉阳战舰，不仅困住陈友凉，使其不敢离开武昌去援助求救之地，而且极大的便利于攻打江西各地。
三战三胜之后，徐达因功“特进中书省右丞”。
其后，徐达又受命移师庐州与张士诚部对峙。
在朱元璋统一天下的过程中，最惊险的莫过于鄱阳湖大战。
此次大战，徐达“身先诸将”，冲锋陷阵，打“败其前军”，给敌人以较大杀伤，使“军威大振”。
后因防张士诚利用郡阳湖之战，“乘虚入寇”，命徐达回守建康，以解除后顾之忧，元璋坚信不疑地说：“吾以达留守，缓急可百全也。”
后来又主持了平定张士诚的战役。
平定江南之后，徐达率军二十五万人由淮安出发，进军山东，势如破竹，连克沂州、济宁、济南等地。
接着，徐达指挥明军沿黄河西进，攻取河南，迅速攻克永城、归德、许昌、开封等地。招降驻守洛阳的元梁王阿鲁温，大败李思齐、张思道。
洪武元年七月，徐达大会诸将于临清，明军沿运河北进，连克德州、直沽至河西务，打败元将俺普达朵儿只进巴所率领的元兵，“元都大震”。