在鲁南会战中，国民党军遭受当头一棒，李仙洲的五万人眨眼的功夫便被全歼。

其实这个时候黄百韬就该知道，解放军的战力早已超出他的估计，他需要谨慎对待对手，但问题是，黄百韬一路升上来，心中不免有些飘飘然，他这个杂牌军混成主力军的将领，却忘记了部队战斗力只有打过才知道这个道理。

于是在接下来的进攻沂蒙山区的作战中，黄百韬由于和张灵甫的个人间隙，便置战局于不顾，导致整编74师在孟良崮全军覆没。

当然，黄百韬绝不是孟良崮战役失败的罪魁祸首，张灵甫的责任比他大得多。起初张灵甫归李天霞指挥，后来两人发生矛盾，张灵甫便脱离李天霞指挥，归于黄百韬指挥。

黄百韬敢打敢拼，但不代表他是没有脑子的莽夫，长时间没有发现解放军主力的动向，让黄百韬产生顾虑，他担心遭到埋伏，准备以纵队规模兵力，固守天马岭一带，依战局变化再伺机行动。

张灵甫却不同意，黄埔出身的他是老蒋的心腹大将，整编74师是五大主力之首，所以他看不起黄百韬，也不愿意听黄百韬的指挥，在得到蒋介石的授意后，他孤军深入，想要直取华野指挥中心。

结果是张灵甫的74师掉入粟裕大将早就布好的大网，前有大军，后无退路，被迫登上孟良崮。

蒋介石心急如焚，电令黄百韬等人率军增援。李天霞和张灵甫有仇，故意按兵不动，但黄百韬却不敢违抗蒋介石的命令，他立即让部队全力向孟良崮方向突破。但是在解放军的全力阻击下，25军即使全力作战，还是在距离74师只有几公里的时候失败了。

事后老蒋问责，汤恩伯撤职查办，李天霞就地枪毙（后赦免官复军长之职），黄百韬也遭受无妄之灾，被严厉训斥。

蒋介石不谈张灵甫的孤军深入和自己的指挥失误，而说是黄百韬指挥失当，救援不力，要严惩黄百韬，幸好有顾祝同说情，黄百韬才有亲自陈述的机会。

蒋介石听完黄百韬的辩护，便给了他一个不疼不痒的处分：撤职留任。

黄百韬对蒋介石感恩戴德，作战更加积极，希望立功。