由于参谋有功，陈诚又将郭汝瑰推荐为暂第五师师长。作为黄埔五期的学员，郭汝瑰升任师长已经算是非常快的。但对此，郭汝瑰却一点儿也不开心。郭汝瑰刚到任，即感受到了国民党政府惊人的腐败。

一开始，郭汝瑰认为国军败给日军，是因为装备落后和指挥失误。到了暂五师接任师长后，才明白国军的失败绝不仅是硬件的落后。他清点人马，发现暂五师原定编制是7000多人，但实际却只有3000多人，很显然有人在吃空饷。国民党许多军官，都是平时谎报人数吃空缺，一旦打起仗来就谎报伤亡要补给。这样腐败的军队，简直没救了。

进入国民党中枢之后，郭汝瑰对于蒋介石也幻灭了。郭汝瑰初入黄埔军校时，对蒋介石还颇为崇拜，毕竟他曾亲眼见过北伐军长驱直入，横扫军阀的情景；也见识了蒋介石在中原大战中纵横捭阖，击破冯玉祥、阎锡山和李宗仁联军的意气风发。一开始，郭汝瑰认为蒋介石应该是个出色的军事家。

但深入接触之后，却发现蒋介石的政治手段厉害，但军事上并不高明，从没有提出过战略性的见解。蒋介石最推崇的，莫过于曾国藩的兵法，也就是“结硬寨，打呆仗”。这种战术对于落后的军队有效，但对付日军却万万不可。只要一点被突破，就是全线溃退。

郭汝瑰曾多次听蒋介石的讲话，翻来覆去就是礼义廉耻、定静安虑、不成功便成仁，这种陈词滥调。更令郭汝瑰不满的是，即使在抗战中，蒋介石依然没有放弃剿共、反共的念头，经常制造反共高潮。

郭汝瑰终于明白，国民党从上到下都烂透了，担负不起民族复兴的重责。由此而，郭汝瑰又回想起自己年轻时入党的经历，以及共产党领导的敌后根据地的进步景象，感到中国的希望在共产党那边。因此他一直在寻找机会，和共产党恢复联系，但一时却苦无门路。

1945年4月，郭汝瑰终于通过故友找到了机会，和共产党人任廉儒取得了联系。在家中，郭汝瑰对任廉儒敞开心扉，表示自己早已将国民党的高官厚禄视为粪土，一心想到延安去。

任廉儒不知郭汝瑰的底细，因此一开始位置可否。但他认为此事事关重大，因此还是将之汇报给了董必武。对于郭汝瑰这位国军高层，董必武非常重视，于是找了个机会和他约谈了一次。