不过在婚恋问题上，徐总却长期心灰意冷。他怀念冤死的妻子程训宣，对亡妻的母亲汪秀芝终生尽孝，照顾到老。直到建国后，他也不忍把程训宣的死讯告诉老人，经常对汪秀芝说，训宣的工作又调动了，所以不能见您。从北京调到陕西，又调到青海，再调到新疆，最后调到了苏联。善良的老人始终相信这个朴实的女婿，直到1972年，汪秀芝以96岁高龄辞世。临终前，老人看着徐帅给她剥开的桔子，微笑着流下了眼泪。她拉着徐帅的手说：“向前，你是个好心人。训宣跟着你，我死也放心了！”孔老师看到这段材料时，差点掉泪。

其实一直有不少红军女官兵喜欢徐向前，而且他手下还曾经有一个“妇女独立团”，一千多个活泼健壮的姑娘，葱茏青翠，可徐帅就是始终提不起情绪。听说有的干部没事去妇女团瞎转悠，他对妇女团政委张琴秋（陈昌浩夫人）大发雷霆说：“你那团是战斗队，不是老婆预备队。妇女团应作个规定，不准谈情说爱，不准男同志去团里乱串，不准结婚，不准……”结果妇女团都说徐总是个“怪人”，是“封建脑瓜”，“看见妇女就苦苦个脸”。

直到1940年，徐总到山东工作时，才经劝说与女干部王婧结了婚，生有一女，取名徐鲁溪—建国后到中科院物理所读研究生，曾任国家信息中心主任。三年后徐王二人因感情不合分了手（一说因为王不想再要孩子）。徐向前从山东调回延安，先是落马负伤，后是身染疾病，变得更加落落寡欢。据东博书院心理二所专家分析，徐帅属于老成持重型，不喜欢那些啥也不懂啥也不会就知道疯跑疯玩的黄毛丫头。

直到1946年的“五四”青年节，经一些“老大姐”说合，45岁的陕甘宁晋绥联防副司令兼参谋长徐向前，与36岁的延安保育院院长黄杰喜结良缘。婚礼的仪式很另类，先是打扑克—当时延安最高级的游戏，接着杀了一只鸭子大吃一顿（孔老师对这个最感兴趣），然后就共入洞房了。黄杰，湖北江陵人，也是资深老革命。

少女时代为逃婚而离家出走，是徐向前20年代在武汉军校的学生，跟著名女烈士赵一曼同学。她1928年入党，十几年出生入死，是一位拥有传奇经历的女英雄，在上海跟着周恩来干地下工作时曾被捕入狱，经宋庆龄援手免于重判。被捕前，黄杰与中共重要领袖曾中生结婚，不久曾中生被聂荣臻派往鄂豫皖苏区担任特委书记，与徐向前成为战友，可不幸于1935年也在张国焘的肃反中被杀。共同的革命理想和相似的痛苦经历，使徐向前和黄杰成为肝胆相照的终生夫妻。

他们生了两个孩子：徐小岩和徐小涛。徐帅很喜欢孩子，有时候给他们拉胡琴。每当此时，徐鲁溪就嚷道：“爸爸又在杀鸡哩！”徐帅听了，开怀大笑。黄杰建国后在纺织部管人事，2007年以97岁高龄去世，遵其遗嘱，徐帅后人将部分徐帅骨灰与黄杰的一道，撒入长江。