张国焘携家眷逃台后，举目无亲，一切都只能靠自己了。当时正是冬天，他急于找地方将全家安顿下来，奔波数日，才终于在台北租到了一栋房子。

张国焘想继续为国民党效力，可一年过去了，国民党既没有给他安排“工作”，也没有过问他的生活。尽管他念念不忘自己是“国民党六届中央委员”，但国民党却似乎将他遗忘了。

不久，他住地一带的房子由行政院批示，被改作东南行政长官公署，强行征收。潦倒的张国焘深知“胳膊拧不过大腿”，只好于迁移台湾的第二个冬天，再次带着全家迁移了。这一次他的目的地是香港。

1949年冬，张国焘带着妻子和三个儿子离开台北，来到了香港。

1950年朝鲜战争爆发时，张国焘已在香港安顿下来。他每天没什么事，便订了几份报纸，专门研究战争的前景问题，有时也就此写点评论寄给小报，赚点零钱花。随着战争的继续，黄金价格一路飞涨。于是他以全部家当5000美金作押，在金融市场上干起了“炒黄金”的生意。

不出张国焘所料，黄金价格一直持续走高。但是突然黄金一夜之间价格大跌，等张国焘明白过来是怎么回事的时候，已是跌得惨不忍睹了。

祸不单行，张国焘的妻子杨子烈一天上街买菜时，不幸跌倒，摔断了臀盘骨，成了跛子，行动很不便。接连的打击，使张国焘处境极为困窘，经济与精神上的压力，令他一下子老了许多。

在香港，张国焘为了自己的安全，采取了“超然”的政治态度，与国、共两党都保持着相当的距离，专与中间派人士来往。张国焘与同在港的原国民党桂系要人程思远来往密切，似乎对自己的过去有所省悟。