他是一个争胜好强的人，不愿屈居于对手门下，拂袖而去，在上海客居在一个亲戚家。恰逢黄埔军校在上海招生，经过一位同乡介绍，便立即到广州报考黄埔军校。

报考军校并不顺利，胡宗南在体检过程中被卡住了。原因是自己身材过于矮小，检察官要将其淘汰。他据理力争，因为太激动，与检察官争执起来。

恰好军校党代表廖仲恺来到检查室，看到到这名小个子青年言词激昂，参加军校心切，又有一定的文化水平，特批破格录取。

在初试步入官场，因乡情的关节受挫的他，意识到他与蒋介石同乡，是一个宝贵的资源，很想加以利用。苦于自己也是其貌不扬，攀附无门。他比较有心计，意识到要想与蒋介石接近距离，应投其所好。

他发现蒋介石是一个爱起早床的人，每天天不亮准时到操场跑步，不管天气如何，日复一日，活动很有规律。决定每天要比校长起得更早，到操场练操，期望能够进入蒋介石的视线。

果然，此计奏效。原来蒋介石早上跑步，操场空无一人，现在突然发现有一个人比他到得还要早，就发问道：“前面是谁？”胡答道：“学生胡宗南！”蒋介石不仅记住了他的名字，而且颇有好感。他调阅了胡宗南案卷，发现这个学生也是一个浙江老乡，于是特别关照，黄埔军校毕业后，分配胡宗南到军校教导团见习，不久就被提升为上尉。

同年9月，第二次东征出发前，他又被提升为副营长。北伐战争接近尾声的时候，升任为第一师少将副师长，几个月后，又升为第一军第二十二师师长，其受提拔的频率之高胜过攀云梯。

还有一个人，那就是汤恩伯了。他进入蒋介石的视线，与上述两人有所不同。蒋介石除了从小事观察识人外，还注重一个人的气量和才识。汤恩伯被蒋所重用，费了一番周折。