当然，杜月笙也不是没有劝过张啸林，在去香港之前，他曾多次劝张啸林离开上海，无奈张啸林不仅不听劝告，反而将他大骂一通，并且执迷不悟地继续同日本人狼狈为奸，出卖国家和民族的利益。此时的张啸林，处境已经十分危急，军统在他府中安插了内线，随时都会取他性命。杜月笙远在香港，眼看着自己的拜把子兄弟命悬一线，但民族大义当前自己又不能有所作为。此时的张啸林，自以为有了保镖和日本宪兵的保护就可以安枕无忧，完全不知道自己末日已近。

1940年8月14日，一辆汽车驶进了张宅大院，从车上走下来的是张啸林的得意门生吴金桂，时任伪杭州锡箔局局长。吴金桂一进门，就被管家迎上了楼。张啸林和吴金桂相谈甚欢，突然从楼下传来一阵嘈杂的喧闹声，吵到了张啸林的好兴致。他两步跨到阳台一看究竟，原来是林怀部在和司机吵架。张啸林将半个身子探出阳台，冲着林怀部大骂，林怀部也毫不示弱，拔出了枪。林怀部一枪射中了张啸林，子弹从咽喉贯穿到后脑，张啸林还来不及惨叫一声，就已经鲜血淋淋地挂倒在了阳台上。

见此情形，一旁的吴金桂连忙打电话给日本宪兵队，刚拨通号码，还来不及通话，就被赶到楼上的林怀部一枪击中后脑，吴金桂只得和他师傅张啸林一起踏上了黄泉路。林怀部又对着张啸林的尸体补了几枪，确信张啸林已死后才飞步出门，刚到门口，就被冲上楼来的几名保镖拦腰抱住，林怀部面无惧色地把枪往地上一丢，振臂高喊：“大丈夫一人做事一人当。”从容就擒。

在陈恭澍的《上海抗日敌后行动》一书中却披露了这样一些事实，张啸林被杀后，陈恭澍曾经接到“第二大队”的书面报告：由该队所布置的内线，已经发挥作用，完成了任务。由此可以说明，林怀部正是由军统特务安插在张啸林身边的内线，林怀部的杀张锄奸行动也是由军统精心布置的。张啸林一生都有一个做官的梦，但是一辈子也没当过官，最终也是因为他的这个做官梦让他丧了命。因为一直没能和日本人达成协议，虽然他做了汉奸，但却没能当上一天汉奸官。