朱元璋改枢密院为大都督府，任命李善长兼领府司马，晋升为行省参知政事。
之后，朱元璋称吴王，授李善长为右相国。
李善长通晓典故，裁决事务非常迅速，又善于辞令。
朱元璋有所招纳，总是命他写成文书。
朱元璋前后率军征讨，都命李善长留守，将吏顺从，居民安然，为前线将士运输兵饷、粮饷，从不缺乏。
李善长曾请求专卖两淮之盐，设立茶法，都是在再三斟酌元制、去其弊端之后提出来的。他恢复制钱法，开矿冶铁，制定鱼税，国家财富日益增加，使得百姓也不再贫困。
公元1367年九月，朱元璋论平吴之功，封李善长为宣国公。后，改官制，以左为大，以李善长为左相国。
朱元璋当初渡江时，经常使用重典。
有一天，他对李善长说：“法有连坐三条，不是太过分了吗？”
李善长因此请求除大逆之罪外，全部去掉连坐之罪。朱元璋于是命令他与中丞刘基等裁定律令，颁示朝中内外。
朱元璋即帝位后，追封自己祖先及册立后妃、太子、诸王，都由李善长担任大礼使。