并且就在这个时候，国民党政府的最高决策者面对这些决堤放水的提议，觉得如同一块烫手的山芋，哪一个也不愿意动。黄河这条巨龙，一旦被放出来，谁能收拢？在此之后，不但活着的人难以宽恕你，连死去的怨魂也不会放过你，历史也终究会给你留下一笔。他在徘徊犹豫，瞻前顾后。

1938年5月，豫东战事情况紧急，国民党军委会副主任姚琮，从实战经验的视角，再次提出了决开黄河大堤、水阻日本侵略军的建议。之后国民党将官何成璞、刘仲元、谢承杰、晏勋甫等人也提出了相似的观点。

6月3日，日本侵略军占领兰封，逼近开封城，陇海线、平汉线风雨飘摇，郑州朝不保夕。最后国民党当局无路可走，只能批准决堤，与此同时致电第一战区司令长官程潜，让他执行。

在那时候，国民党当局决策者命令程潜挖堤放水，程潜拍了一份请示电报给老蒋，说让他再来一个正式的电令，他才好执行命令，急得老蒋大骂程潜是个老滑头。之后程潜回忆道：他并不是耍手段，只是从张学良那边得到了经验教训。那一年，年轻，没有收到正式命令的少帅放弃了东三省，扛下了背负一生的"黑锅"。此次挖堤放水，终将祸及万千老百姓，有一道正式的命令，未来国人追责也好有一个交代。

人们如今不清楚国民党当局最后接纳了谁的建议，但有一点可以肯定，花园口决堤并不像之前认为的那样是权宜之计，也不是手足无措地处于被动反应，而是经历过事前斟酌和思想准备的过程。

在明确了"以水代兵"策略以后，国民党军队着手准备决堤。只不过，决堤时是否使用爆破，即黄河大堤是人力挖的还是炸开的，迄今为止有两种截然不同的说法。一是"挖堤说"，认为整个决堤过程都是人力来挖的。参加决堤行动的新八师参谋处上尉熊先煜在随笔上说：1938年6月6日，新八师着手执行命令决堤计划，具体情况如下：

决堤的过程十分紧张，官兵们用铁铲、十字镐、钎子、筐、箕、杠等挖运工具轮流换班作业，直至9日早上，总算成功地挖开了黄河大堤，释放出浑浊的黄河水。

另外一种说法是"炸堤说"，认为在决堤过程中使用了爆破方式，这也是一种较为广泛的说法，初中历史教科书和大部分中国近现代史书本都选择了这个说法，当初参加其事件的很多士兵也确认了这个说法。