彭德怀和左权的指挥所就设在离关家垴千余米外的一孔破窑洞中。彭德怀放下电话，走出窑洞，举起望远镜观察阵地。他见战士们不顾性命往上冲，然后纷纷倒下，心中焦急。他为牺牲的士兵感到痛心，更对战斗的胶着状态深感不安。彭德怀没想到这块骨头竟这么难啃！

刘伯承看到各攻击部队损失较大，非常痛心。他从前沿阵地给彭德怀打电话建议部队暂时撤围，另寻战机。彭德怀对刘伯承说：“冈崎大队所剩人马已不多，我们不能给敌人喘息的机会，应该一鼓作气坚决消灭！”刘伯承回道：“我的彭老总，这样打我们赔不起呀！”彭德怀耐着性子说道：“我的老兄，敌人援兵正在逼近，一旦放虎下山，立刻就会得到援兵的接应。”“那就以后再收拾他！关家垴的地形对我不利，我军伤亡太大了！”刘伯承回道。

但彭德怀仍坚持打下去。最后，刘伯承生气了，对彭德怀大声说道：“你这是赌气，蛮干！这一仗，我不同意再打！”彭德怀也按捺不住直往上蹿的犟脾气：“拿不下关家垴，就撤销第一二九师的番号，杀头不论大小！”在769团指挥所，刘伯承无奈地再次拿起望远镜观察前面的攻击地形。忽然，连接关家垴陡崖崖顶与壕坎之间的斜坡上隐隐露出的黄土吸引了他的目光。

刘伯承问道：“壕坎上面的斜坡是土质的吗？”769团团长郑国仲回答：“是黄土坎。”他计上心来：“挖暗道，通上去！”郑国仲一听，大喜。于是，他一面组织火力佯攻，吸引日军的注意力，一面组织人员从壕坎下面挖掘通往关家垴山顶的暗道。

10月30日16时，第二次攻击开始。此时，769团已成功地挖通了通往关家垴山顶的暗道。发起攻击后，769团再次对日军进行猛攻，其中一部经暗道向关家垴山顶爬去，另一部隐蔽在壕坎下面。同时派突击队攀上陡崖。

关家垴山顶的日军以为八路军还从斜坡往上攻，正全神贯注地盯着斜坡，没想到八路军突然从他们屁股后面冒出。一阵手榴弹响过之后，关家垴山顶阵地上的日军顿时陷入混乱之中。隐蔽在壕坎下的突击队趁势迅速冲上去，双方随即在关家垴山顶展开激战。769团的后续部队也不断攻上垴顶，加入战斗，最终控制了制高点。

同时，772团和决死第1纵队25团、16团等部也先后攻上关家垴。经过激烈的肉搏，日军一部被歼，其余则退到了半山腰的窑洞中，拼死抵抗，火力仍然很猛。八路军向关家垴连续发动了18次进攻，终于攻占了日军的第一道防线。然而，由于八路军缺少重型武器，围歼日军余部的战斗进展缓慢。直至深夜，日军仍顽强地据守在窑洞中。经过10月30日一天的激战，八路军虽有斩获，但冈崎大队仍控制着两处主要阵地。

悲壮的胜利

从武乡县、辽县出动的2500多人的日军增援部队正在向关家垴挺进，黎城等地的数千名日军机动部队也在向关家垴靠拢。385旅和新编第10旅已与增援的日军交上了火。陈赓又派出一个团前去支援。关家垴之战，已打成了一场八路军4个旅（决死队1个旅含2个团）与4000多日军的大会战。