虽然黄维有这些可取之处，但作为一军之统帅，黄维却是非常不合格的。此人作战十分呆板，活像一个书呆子。作战时，黄维特别喜欢在书本上找依据，动不动就“兵法云”，活像当年“纸上谈兵”、葬送45万赵军的赵括。

1948年8月，国民党在进行“兵团制军改”，胡琏本是12兵团众望所归的司令官。然而在这个关键时刻，黄维却来截胡了。

原来，桂系的白崇禧一向与中央系的胡琏不睦，因此极力阻止胡琏担任12兵团司令。为了和白崇禧进行妥协，蒋介石最终将黄维推上了12兵团司令的位置。毕竟他曾一度在广西任职，和白崇禧非常熟悉。

不过也有国民党将领回忆，即使白崇禧不反对，蒋介石也不会让胡琏担任12兵团司令。这是因为胡琏为人刚直敢言，多次和蒋介石顶牛。而黄维呢？则对蒋介石极其盲从和崇拜。蒋介石用人，从来都宁用听话的狗，也不用不听话的人。

黄维就职后，其选择的幕僚人选也和他一样，都是未经战场的人。在驻马店，黄维召集师团以上的军官进行训话，他竟然宣称：

“自己对解放军作战是外行，这次来当司令官只是过度，几个月就走。”

黄维的一番话，致使全军哗然。黄维自己都承认自己是外行，又如何领导内行呢？如今国共正处于生死决战之时刻，主力兵团司令竟然只是个过渡？简直视军国大事为儿戏。从此以后，第12兵团军心离散、士气大跌。

杨伯涛说：

“自我获知黄维来当司令官，心情异常沉重。自内战两年多来，目睹友军纷纷败亡，我们是死里求生勉力挣扎。逆知在黄维这样一个人手下，更会加速败亡。前途险恶，覆辙可待。”

原本，蒋介石期望以黄维为正，胡琏以副职的身份负责指挥。然而胡琏认为兵团司令非自己莫属，没成想到手的鸭子却飞了。因此恼恨异常的他，借口父亲病重，请假去了汉口。父亲去世后，胡琏又借口自己患上了牙龈炎，去上海医治牙病，小病大养起来。

胡琏本是18军的灵魂，没有他的指挥，使12兵团的战斗力急剧下降，也为该兵团在淮海战役的覆灭埋下了伏笔。