1941年皖南事变后，任新四军第4师参谋长兼淮北军区参谋长。张震协助彭雪枫同志率领第4师指战员和豫皖苏边区广大军民进行了3个月艰苦的反顽作战，为打退国民党顽军东进苏北与北上山东的行动，起了重要的战略配合作用。1941年秋，张震兼任抗日军政大学第4分校副校长，负责编修教材，指导演习，努力加强第4师部队的教育训练。1942年11月，日伪军兵分五路对淮北抗日根据地进行冬季大“扫荡”，张震与彭雪枫、邓子恢同志一道将第4师师部和后方机关分批转移，指挥各旅、团与敌反复周旋，给日伪军以重大杀伤，挫败了日伪军的“扫荡”。

1943年3月，张震与彭雪枫同志指挥第4师第9旅一举粉碎东路进犯山子头地区的国民党顽固派韩德勤部，生俘韩德勤及其部属千余人、击毙数百人，粉碎了顽军东西合击新四军的图谋，进一步巩固和扩大了淮北抗日根据地。1944年8月，根据中共中央关于向河南敌后进军的指示，张震与彭雪枫同志指挥部队进行西进战役。1944年10月，在砀（山）南战役中，全歼顽军第30纵队700余人，成功打通了新四军同陇海路北八路军的联系。随后张震与韦国清同志一起指挥了华中地区反顽作战中规模最大的战役——永城北部保安山战役，歼顽军3600余人。

1944年12月，兼任新四军第4师第11旅旅长和淮北路西军分区司令员。1945年5月至7月，张震率部发起以歼灭伪军第15师为目标的宿南战役，歼灭伪军1900余人，解放20余万人民群众，使淮北路西根据地的8个县完全连成一片，受到新四军军部专电嘉奖。在频繁战斗的间隙，张震著文立言，撰写了《东征以后》《周年回忆》《三个月来反顽斗争在军事上的初步总结与今后任务》《论宿东游击战争经验》等文章，总结平原游击作战和反顽斗争的经验。

到抗日战争胜利时，张震参与领导创建的豫皖苏边区抗日民主根据地，成为全国19个著名的敌后抗日根据地之一。全国解放战争时期，张震同志任华中野战军第9纵队司令员兼政治委员，率部参加陇海路徐（州）海（州）段破击战。