蒋介石给他修建了一座“子超”楼，耗资106952块大洋，楼高6层，长33.34米，宽20米，形制大气端庄，富有层次，门前十级汉白玉台阶，级数象征着辛亥革命双十节，两侧各两盏进口欧式路灯，极其典雅精致。楼前还有两株参天雪松，树苗从印度引进，以寸计金，价格不菲。从南望去，这两株雪松仿佛构成一个“林”字，仰视大楼正立面，又好似“森”字间架结构。

蒋介石越是尊崇林森，林森就越低调。他常年深居简出，为人低调，奉行“不争权揽利、不作威作福、不结党营私”的“三不”原则，对蒋介石是绝对配合、绝对支持、绝对“服从”。遇到有可能触发蒋介石忌讳的事，林森也都坚决地避嫌。

一次洛阳卫戍司令陈继承到南京公干，去拜访林森。林森拒绝说：“以后武官直接去见蒋（指蒋介石），文官去见汪（指汪精卫），不必到我这里来啦。”陈继承是黄埔系将领，当时还兼任第一军军长。这个第一军可了不得，是当年蒋介石起家发迹之地，陈继承之于蒋介石的意义可想而知。平时林森见几个武官、司令倒也不是什么大不了的事，但唯独这位陈承继绝不能接见，蒋介石的爱将，他哪里敢凌驾其上呢。

林森手下有一个秘书，想借着主席秘书的头衔，去参加一些政府高官、要员的宴会。林森得知后训斥他说：“当好你的秘书就行了，认识那些要人作甚？”他因此给自己的手下人定了几条规矩：不发表意见、不参加宴会、不写条子。弄得手下人讪讪无趣，虽然出入的主席府，也是天字第一号的衙门，平时却无人搭理，连油水都捞不着。

这种处世风格使其备受冷落，国民党内很多人都不重视林森这“一国之尊”，甚至直言他只是“国府看印的”。有一次讨论某省新任命官员，林森心血来潮地提出，该省某某人在教育方面颇有能力，可以让他当教育长。谁料该省主席丝毫不尊重林森的提议，当场提名了另外一人。后来正式任命的教育长，就是省主席推荐的那人。下级官员推翻政府主席的建议，实属罕见。林森虽然心里不舒服，却也没有找这个省主席的麻烦。其实他心里清楚得很，当真去找麻烦，蒋介石或许会给他一个面子，但是然后呢？在蒋那里落下把柄，可就得不偿失了。