1945年8月15日，日本宣布无条件投降。侵华日军和伪军听从
蒋介石的命令，拒绝向八路军、新四军投降。新四军向拒不投降的日伪军展开全面反攻。到9月2日，共解放县城40座，重要集镇400余个，歼日伪军2.8万余人，占领了武汉外围和南京、太湖、天目山之间的广大乡村和中小城市，将苏中、苏北、淮南、淮北根据地连成了一片。8月26日，中共中央任命
陈毅为新四军军长，
饶漱石为新四军政治委员；后又任命
罗炳辉为第二副军长。9月，根据中共中央在同
国民党和平谈判中作出的重大让步，新四军在浙东、苏南、皖南的部队分别撤到长江以北。10月，执行中共中央作出的向北发展向南防御的战略部署，新四军军部北移
山东临沂，并兼山东军区领导机关；新四军部分主力和留在山东的八路军部队组成津浦前线野战军，后改称山东野战军；仍在华中的新四军部队，组成华中军区和华中野战军。在此期间，新四军第3师开赴东北，第5师与八路军第359旅、河南军区组成中原军区，调离新四军的建制。1947年1月下旬至2月3日，新四军兼山东军区以及所属华中军区、华中野战军、山东野战军合编为华东军区和华东野战军，新四军番号至此撤销。