我军乘胜向孟良崮崮顶北侧山洞敌整编七十四师指挥所前进。张灵甫又组织残部千余人，在崮顶利用洞穴、石岩、山缝固守顽抗。我军发挥火力，勇猛冲杀，白刃格斗，迅速全歼了洞外之敌。

我团三连攻占了敌整编七十四师指挥所的洞口。张灵甫命其卫士队长率20余人从洞内冲出，意图向我们实施反冲击，行动当即被我军粉碎。我追问被我击伤（后因伤重毙命）的敌卫士队长洞内情况，他说：“张灵甫师长在洞内。”我叫战士们喊话，命令敌人投降。后见洞内无动静，我即命令部队用轻机关枪、冲锋枪及手榴弹，向洞内猛烈射击。过一会儿，听得洞内有国民党士兵喊叫：“你们不要打了，张师长已经被你们打死了。”我下达停止射击命令后，瞬间出现了短暂的寂静。为防止敌人诈降，身经百战的战士们高声大喊：“举起双手，从里面出来！”片刻，用枪挑着白衬衣的敌电台报务员便闪现在眼前，十几名战士立即冲进山洞，只见洞内敌人尸体横七竖八，血污满地。我问被俘虏的敌报话机台长：“哪个是张灵甫？”他战战兢兢地指着被击毙的师长张灵甫。张灵甫的尸体倒在洞内报话机旁，手里拿着报话机话筒，尸体还是热的，头部是被我冲锋枪弹击中而毙命的。被我俘虏的敌报话机台长说：“几分钟前，张师长还向蒋委员长呼喊求救，蒋委员长要他再坚持3个钟头。通完话还不到3分钟，张师长就被你们打死了。”至此，敌整编七十四师指挥所被我团胜利攻克。

我军将张灵甫尸体埋在山东省沂水县野猪旺村村后的山岗上，并在坟前竖一木牌，上写“张灵甫之墓”

被俘的敌七十四师参谋长魏振钺被押送到我第六纵队司令部，他对纵队首长说：“俘虏我的那个部队已经活捉了张灵甫。”纵队首长立即派作战参谋陈亮同志到我团俘虏中查找张灵甫。我当即向他说明张灵甫在战斗中被我击毙时的情况，并把从张灵甫身上搜查出来的证件（胸章：中将师长张灵甫）、手枪、望远镜、照片等，一并交给陈亮同志带回。

后来，纵队首长又让被俘的该师辎重团团长黄政、五十八旅一七二团团长雷励群、张灵甫的侍从秘书张光第等人辨认尸体，这具尸体的后脑被枪弹炸烂，血与脑浆均已干涸，他们都确认是张灵甫。在上级查明张灵甫确已被击毙后，我团奉命将张灵甫的尸体用担架抬着随部队转移。两天后，将其埋在山东省沂水县野猪旺村村后的山岗上，并在坟前竖一木牌，上写“张灵甫之墓”。当时，新华社曾发布新闻，望其家属到该处收尸。

所谓张灵甫“自杀说”，不过是国民党的一种宣传手段

对于张灵甫之死，国共双方一开始就有不同的声音。战役结束后第二天，南京的国民党中央电台就广播说，张灵甫“舍身成仁，自杀身亡”。在国民党《第一兵团蒙阴东南地区战役详报》中，对张灵甫的“自戕”也有具体描述。蒋介石还声称“张灵甫精忠报国，舍身成仁，堪为党国英魂之典范”。