1945年8月26日，中央任命陈毅为新四军军长，回华中工作。9月在赶赴华中路上，中央的命令又追了过来，改道去山东，接棒即将“挺进东北”的罗荣桓。10月20日，中央正式任命陈毅为新四军军长兼山东军区司令员。11月13日，中央又任命饶漱石为华东局书记兼新四军政委（之前8月26日已任命其为新四军政委），统一领导山东和华中工作。

山东、华中两大野战军合并

（左起：叶飞、丁秋生、韦国清、邓子恢、陈毅、唐亮、粟裕、陈士榘、谭震林）

初到山东，饶漱石（先后在军调部、中央工作，后回山东）、陈毅的工作开展得并不理想。

一是罗荣桓“挺进东北”的时候带走了6-8万人，绝大多数是主力部队，因此留在山东的大多数为军区部队，也就是二线部队。这些二线部队战斗力较弱，急需通过训练、整编来提高战斗力。

二是津浦前线野战军及后来的山东野战军刚组建的班子作战指挥能力还不够。陈毅去山东时，带去了红军时期在江西省军区的老部下宋时轮，并由其担任参谋长。宋时轮是作战型战将，而非参谋型将领。因此，一开始野战军的作战很不理想。后来换上陈士榘后有所改善。之前，赖传珠担任新组建的山东野战军第一纵队政委（搭档叶飞）后，饶漱石、陈毅甚至一度想调粟裕来担任新四军参谋长，后来因为粟裕工作走不开而没有调成。

三是野战军部队较少。饶漱石、陈毅在山东整编了两个纵队，一个是叶飞赖传珠的第一纵队，另一个是罗炳辉（罗炳辉牺牲后，由韦国清继任）的第二纵队。除了两个纵队之外，还有谭希林、曾希圣的第七师和何以祥、丁秋生的第八师。第七师，是新四军著名的经济师，抗战期间主要以生产、经商为主，为新四军及中央提供经济支持，实际战斗力并不高。第八师，由山东军区部队改编而来，也属于二线部队。

四是与粟裕的华中野战军各自为战，没能统一指挥，没能集中优势兵力、各个歼灭敌人。相对而言，粟裕的华中野战军实力还比较强健，有第六、七、八、九、十纵等五个纵队，其中第六、八纵队后来扩编为第一、六师。

1946年9月“两淮”失守后，华中率先认识到必须集中优势兵力歼灭敌人，建议华中、山东两大野战军合并。华东局、山东军区、新四军军部和中央都很快批复同意，1946年9月两大野战军合并。一开始只是指挥机构合并，部队没有真正合并，部队名称也没有统一，但是能够联合作战了。“两淮”失守，虽然最终以撤退结局，损失巨大，陈毅也备受质疑，但是客观上也为山东、华中两大野战军的合并创造了有利条件。

1947年1月，华东局、华东军区、华东野战军均被冠以“华东”名称，党政军真正统一了，山东、华中的部队也进行了整编。陈毅、饶漱石分别任华东军区司令员、政委，陈毅还担任华野司令员兼政委，粟裕、谭震林分别担任华野副司令员、副政委。华野开始逐渐发展成为中国人民解放军一支强大的野战主力部队，陈毅也终于迎来华东革命事业的新转机、新高峰。