1896年，张发奎出生于广东韶关的一户书香之家，父亲担任了县衙的小吏。

8岁时，他进入私塾，后又进入县立高等小学堂。按照正常的成长预期的话，他应当会成为一名文人。

但造化弄人，1911年他与同学李君外出游泳时，李君不慎溺死，害怕被牵连的他选择出走广州。在广州他当过染织学徒，后选择了从军，而这也彻底的改变了他的一生。

1912年，随着辛亥革命的洪流清政府被推翻，张发奎考入广州陆军小学，并加入了同盟会。之后他又考入武昌第三陆军中学。

1916年，毕业后的张发奎进入粤军，凭借着战争中优秀的表现，职务也不断擢升。

从孙中山侍卫到中尉、上尉，及至1922年时担任总统府大本营警卫团第三营营长。在陈炯明叛变后，虽然与陈炯明有师生之情，但却拒绝了陈炯明的相邀坚决抵抗。

1925年，张发奎担任了国民革命军第四军独立旅旅长，南征后又擢升为第十二师师长。

1927年1月，凭借着北伐战争的优异表现，晋升为第四军军长。后又兼任十一军军长，担任第四方面军第一纵队司令官等职务。

众所周知的一点是这一阶段中时值国共第一次合作期间，兼又受到孙中山先生影响，同时他更趋向于是一个职业军人（以打赢胜仗为目标），也让他对于共产党员并无其他国民党将领那般歧视，是以在他的部队内也加入了众多的共产党员。

这其中就包括了叶挺将军、叶剑英元帅、贺龙元帅等一众人等。当时叶剑英元帅是他的参谋长，贺老总则是他麾下20军军长。至于徐向前元帅当时还只是他军部的参谋，101这样的人物也只是一名连长，陈毅元帅甚至于还只是他麾下特务连的一个准尉文书。

开国大将中张云逸，许光达、粟裕、徐海东、谭政和罗瑞卿6位大将也同样出自他的麾下，粟裕甚至于还只是学员，罗瑞卿也只是副班长。

另外，许继慎、卢德铭、周士第、郭沫若.恽代英、高语罕亦是在其麾下任职。

之所以张发奎的军队能够成为如此之多的优秀共产党员的“家”，当然都是得益于上面我们提及的原因。值得提及的是即便是在第一次国共合作破裂、宁汉合流后，他本人也并没有像一些军阀那般展开大屠杀，而是采取了让共产党人员离开部队的措施。

诚如他所说的那般：“我认为革命力量不应该分裂……我对军事的兴趣远高于政治”。