与上面两人相比，汤恩伯虽然也是浙江人，但却有些不同，他生就一付行伍相。有人曾对后来已得势的他做过这样的描述：汤恩伯是个黑头大汉，身上的服装，灰的、黄的、连同军帽皮带的颜色，总是凑成几节，暑天坐在汽车里，总是一只裤腿包着鞋跟，一只裤腿卷上膝盖，除接见外宾，很少见到他有整洁的时候。

常言道江山易改，本性难移。恐怕这些劣习不是后来当了大官后才有的，可能在黄埔军校也是一个粗人相。实际上，他是个外粗内细，工于心计的人。

汤恩伯出身贫寒，早有投军之志，但苦于无钱，后来虽然从军，但因为部队溃败，流浪街头。正在走投无路时，遇到一位同乡准备东渡扶桑，急需一名保镖随同护送，于是他就担任起这一角色，与这位同乡一起去日本。

在日本明治大学法科主修政治、经济。但他醉心于军事，对法科并不感兴趣。1925年弃学回国，经留日同学介绍，到当时浙军第一师师长陈仪那里求职，汤恩伯毛遂自荐，陈仪一见便接受了他，并出面负责保送和资助他到日本留学。他对陈仪感激不尽，将自己的名字由“克勒”改为“恩伯”，以示奉陈仪为自己的恩师。

在北伐战争期间，陈仪归顺了蒋介石，把汤恩伯推荐给蒋。蒋介石见了汤后，觉得汤仪表不凡，随之命其到南京中央陆军军官学校，担任大队长。

汤恩伯虽然是由陈推荐，且又是蒋的同乡，但由于不是蒋亲自选拔的人，所以开始对汤并不太重视。后来陈仪予以点拨，说蒋介石最喜欢《步兵操典》一书，建议他写文章以引起蒋介石的重视。

汤恩伯早年擅长舞文弄墨，写文章对于他来说不是什么难事，当即写了一篇《步兵中队操练之研究》，送给蒋介石。