另据日军战史资料记载，在1月1日的战斗中，日军第3师团直属加藤大队大队长被击毙。守军在其尸体上缴获了日军的作战计划、命令以及携带的弹药数字不足的文件。薛岳看到后，非常高兴地敲着桌子说：“虽仅一张薄纸，却比万挺机枪还重。”

1月2日，日军第3师团继续组织进攻。守军顽强抵抗。守备南门外修械所高地的预10师第28团，战至仅剩58人，终于保住了阵地。第30团将日军第6联队第7中队歼灭大半。经过两日的战斗，日军第3师团因补充困难，弹药将尽，已无力组织强有力的攻击，被迫改为守势作战。

1月2日晚，蒋介石为鼓励士气，致电薛岳和第10军军长李玉堂等守城官兵，指出：“此次长沙会战之成败，全视我第10军之能否长期固守长沙，以待友军围歼敌人，此种光荣重大任务，全国军民均瞩目于我第10军之能否完成，亦即我第10军全体官兵成功成仁之良机。敌人悬军深入，后方断绝，同时我主力正向敌人四面围击，我第10军如能抱定与长沙共存亡之决心，必能摧破强敌，获得无尚光荣。望激励所部完成使命，无负本委员长及国人所期为要。”

1月3日拂晓，日军第6师团加入攻城战斗，攻击长沙北门、东门、南门间守军阵地，激战终日。日军除一个中队一度至湘江岸边外，其余全部被守军击退。

围攻长沙城的日军死伤惨重，弹药将尽。且处于被中国军队包围状态下，面临绝境，不得已在3日夜间决定撤退。这时，阿南惟畿司令官无可奈何地写下一句诗：“今更莫把惊惧生，兵家胜败是常情”以此安慰情绪低落的幕僚们。

日军为了隐蔽其撤退企图，于1月4日撤退之前，对长沙市区再次发动猛烈攻击，均被守军击退。当日晚间，第3师团和第6师团乘夜暗脱离长沙战场。

日军在撤退时仓皇失措，许多尸体未及处理，作战物资到处遗弃。据时任第九战区司令长官部参谋处处长的赵子立回忆说：“第10军首先发觉日军由长沙南部撤退，即派小部队向长沙北部夜袭，这更增加了日军的混乱。当时正值隆冬，他们把大衣军毯撂了许多，带不了的武器也来不及破坏了。日军非万不得已是不在战场遗弃尸体的，这次却未及烧完。”日军撤退的翌日早上，赵子立同薛岳等由岳麓山回长沙二里牌驻地，车过八角亭后，看见日军遗弃的尸体很多，二里牌也有少数尸体和死马。后来参谋长吴逸志由耒阳回到长沙，让人把已经掩埋的日军尸体全部扒出来，埋在一起，堆一个高台子，并立石留念，上书：“倭寇万人冢”，傍书“陆军中将吴逸志题”。虽然没有万人，但冢中也有几百具尸体。

第10军保卫长沙，苦战四昼夜，终于击退进攻之敌。1月9日，国民政府军事委员会向第3师、第190师、预备第10师授予民族荣誉旗，授予李玉堂二等宝鼎勋章，并晋升为第27集团军副总司令兼第10军军长。

日军狼狈溃退，我军追歼逃敌

预计到攻击长沙的日军即将撤退，蒋介石于日军撤退的前一日，即1月3日，训令薛岳司令长官：“一、该战区应速严令各部向长沙附近敌人围击，务确实截击敌人归路，包围捕捉敌人于战场内而歼灭之。二、应速以一部先期击破汩罗江敌人，占领各渡口，并即令孔荷宠部配合游击队，迅速向武昌挺进袭击。三、如敌突围北窜，应以第73军由长沙下游渡江，另以一部由金井附近分向汩罗江北岸超越追击，封锁汩罗江各渡口，阻止敌人退却，主力向敌跟踪猛烈追击。

同时以有力一部向岳阳挺进，乘虚袭取之。四、向敌追击时，第10军仍应守备长沙。”同日，蒋介石又电薛岳，指出：“一、此次湘北会战，特应注意下级干部及士兵之战功，随时予以奖赏，并呈报本会备查。二、新墙河以南及汩罗江两岸地区，应即发动群众，乘敌后方空虚，彻底施行交通破坏，使敌退却时不能迅速脱离战场。”