抗日战争全面打响后，组织上安排他相继担任了新四军第一支队司令员、新四军军长、苏北指挥部指挥和山东军区司令员等职务。

他带领部队在江苏和山东地区沉重打击了日寇，巩固了抗日根据地，鼓舞了人心。

解放战争时期，他又陆续担任了华东野战军司令员、中原野战军副司令员和第三野战军司令员等职务。

期间和粟裕默契配合，在黄桥战役、孟良崮战役、淮海战役和渡江战役中发挥了重要指挥作用。

而在上海解放后，陈毅担任了上海市市长。这一期间他严肃部队纪律，坚决不拿群众一针一线，解放军入场倒地就寝的照片也是广为流传。

在经济上，他也果断采取稳定措施，保证了商品的共赢，同投机势力坚决作斗争，稳定了上海工商业的大局。

也恰是因为在上海任上的优异表现，让周恩来决定将他调任国务院。

1954年，他被调任国务院总理等一系列的职务，期间他主持了一系列的外交工作，包括不限于同缅甸、尼泊尔、阿富汗等划定边界，解决历史问题。

另外，他还改善了同法国、日本等大国的关系，参加亚非会议和日内瓦会议，这也让中国外交走了出去，度过了最艰难的时段。