首先，陈赓是坚定的共产党员和爱国者，而蒋介石则是独裁者、买办和革命的投机者。当时在黄埔，学生们分成了陈赓、蒋先云带领的“青年军人联合会”以及贺衷寒带领的“孙文主义学会”。两拨人针锋相对，一见面就会骂对方是反动派。有一次蒋介石请学生们吃饭，结果两派学生一言不合，在宴会上用餐具打了起来。

1926年3月发生了“中山舰事件”，国共破裂逐渐公开化。数月后，蒋介石在大会上宣布，本校学生凡是跨党的，必须声明愿脱离哪一党。很显然，身为国民党的蒋介石已经准备分工。作为蒋介石的得意门生，陈赓的选择自然备受瞩目，因此不少人劝他脱共。谁知陈赓毫不犹豫地公开了共产党的身份，退出了国民党。

除了政见不合，陈赓对蒋介石本人也是看不起的。作为蒋介石的侍从参谋，陈赓经常出入他的指挥所。据1949年逃到台湾的一位国民党老军人（他是陈赓的旧部）回忆：

“我的老班长（陈赓）当年就看不起蒋介石，当时蒋介石在作战指挥间隙打开收音机，听的竟然是上海的股市”。从此以后，陈赓就认为蒋介石不是一个真正的革命者。”

“升官发财，请走他路；贪身怕死，莫入此门”。当年陈赓是一门心思革命，进入黄埔军校。当他看到蒋介石一面指挥作战，一面收听故事，就知道蒋介石不是自己要跟的人。

有一次陈赓像往常一样进入蒋介石的办公室，发现一本黄埔学生和各级负责人的名册，每个共产党人的名字都有一个红圈。很快陈赓便找到了自己的名字，上面果然也有个红圈。旁边还有标准：“此人是共产党，不能带兵。”

看了这个名册，陈赓感到自己已经不可能再与蒋介石共事了。于是他在争得周恩来同意的情况下，向蒋介石递交了辞职信。他说自己母亲病重，需要自己照顾。据说当时蒋介石只是微微一笑，就问他：“你是不是看到了什么？”

然而即便如此，蒋介石依然批准了陈赓的辞职，还给他发放了路费。不仅如此，蒋介石还塞给他一个绸子封面的“特别通行证”。持有此路引，就可以随时面见蒋介石。然而陈赓终其一生，都没有用过这个牌子。