一九四七年上半年，他在陈毅、粟裕同志领导下，率四个纵队又两个师参加了莱芜战役、孟良崮战役、胶东保卫战等重大战役，在孟良崮战役中，歼灭了国民党“五大主力”的王牌军队74师。毛泽东说：“陈毅打孟良崮，南边听粟裕的，北边听许世友的。”可见许世友在孟良崮战役中的地位。许世友接连取得胶东保卫战和张(店)周(村)、昌(乐)维(县)、兖州诸战役的胜利，粉碎了国民党对山东的重点进攻。之后率部进军津浦路，参与指挥了济南战役、即青战役、长山列岛战役，一九四八年九月，他和谭震林、王建安同志一道，按照中央军委和华东野战军指挥部的部署，指挥部队经八昼夜激战，攻克山东省会济南城，歼灭国民党军十万余人，基本上解放了山东省，使华东、华北两大解放区完全连成一片。为中国人民的解放事业做出了巨大贡献。中华人民共和国成立后，任山东军区司令员，中国人民志愿军第三兵团司令员，华东军区第二副司令员，中国人民解放军副总参谋长，南京军区司令员，国防部副部长兼南京军区司令员，广州军区司令员，中共中央军委常委。一九五五年被授予上将军衔。是第一、二、三届国防委员会委员，中国共产党第八届候补中央委员，第九、十、十一届中央政治局委员。在中国共产党中央顾问委员会第一次全体会议上被选为中央顾问委员会常务委员、副主任。
