1912年，王必成出生于湖北省麻城县的一个贫苦农民之家，少年投身革命，1928年参加当地赤卫队和共产主义青年团，1929年参加红军，第二年入党，始终战斗在红四方面军各个时期，参加过鄂豫皖苏区历次反“围剿”、川陕苏区历次反“围攻”和举世闻名的长征，三次过草地。

由于他英勇善战，很快由班长、连长、营长而团长、团政委，在长征结束时即由普通一兵成长为红三十军八十九师副师长。

1936年10月，红四方面军到达陕北，久经战火考验的王必成随即进入抗日红军大学学习，为成为一代名将奠定了扎实的军政素质。抗日战争时期，他历任新四军第一支队二团参谋长、团长，新四军苏北指挥部第二纵队司令员，新四军第一师二旅旅长，第十六旅旅长，新四军苏浙军区第一纵队司令员。

1945年11月10日，按照中共中央的指示，华中野战军正式组成，粟裕任司令员，谭震林任政委，王必成任第六纵队司令员。从1946年3月起，第六纵队改为第六师，谭震林兼师长和政委，王必成任副师长。同年7月13日至8月27日，在闻名遐迩的苏中七战七捷中，王必成率第六师参加了七战中的五战，仗仗皆胜，歼敌1.6万余人。

苏中七战七捷后，苏中战场胜利在望，但相邻的淮南解放区形势却不容乐观。王必成也遇到了他军事生涯的最大劲敌——国民党军的张灵甫。在张灵甫的国民党整编第七十四师等部的强攻下，解放军被迫撤出淮南根据地。随后，敌七十四师兵锋直指淮阴。

淮阴是苏皖解放区的首府，因此，粟裕一面飞调成钧、皮定均赶往淮阴城下，阻击张灵甫，一面亲率我第一师、第六师从海安城下撤围，奔赴淮阴。

眼看粟裕援军就要赶到，张灵甫连派夜出一支小部队发动偷袭，突破点就选在防线中央——从战术角度看，最难突破的地段。偷袭得手后，张灵甫挥军入城。一天后，粟裕率援军赶到，但战机已失，只好撤退。张灵甫乘胜挥师南进，3天后又占淮安。当时，很多参战官兵都说：敌整编七十四师比抗战中的日本军队还难打。王必成听到后火冒三丈地说：得和这个张灵甫碰一碰！