1948 年3月，徐介藩回国的申请经苏联共产党(联共)中央审核，获得批准，他偕同夫人马尔多夫斯卡和3个女儿回到阔别20余年的祖国。徐介藩回国后，留在哈尔滨等待分配工作。中共东北局的领导同志考虑到他俄文方面的特长，决定安排他到中共中央东北局编译局工作，出任《毛泽东选集》俄文总编辑，同时转为中共党员，证明人为李立三。

由于徐介藩在黄埔军校时期的入党介绍人和证明人许继慎早已牺牲，考虑到徐介藩的实际情况，组织上决定他的党龄从1926年2月在广东航空学校时期算起。

东北全境解放后，徐介藩于1949年2月调任中长铁路驻沈阳办事处副处长，并且兼任中共东北局直属党委委员、副书记，不久又担任书记。

1949 年6月，中共中央决定由刘少奇率领包括高岗、王稼祥在内的中共中央代表团赴苏联进行友好访问，这是新中国成立前夕我党的一次重要出访，有着重大的历史意义。

考虑到徐介藩长期在苏联工作和生活，熟悉俄语和苏联的情况，中央调他和师哲、戈宝权、邓力群一同前往苏联。访问结束后，徐介藩随王稼祥留在莫斯科，一方面接收国民党政府驻苏联大使馆，另一方面筹备新中国的大使馆。

1949 年10月2日，苏联宣布承认中华人民共和国，中苏两国建立大使级外交关系，徐介藩被任命为中华人民共和国驻苏联大使馆一级参赞。此时，徐介藩尚拥有中苏两国国籍，他认为自己本来就是中国人，现在更是中华人民共和国的外交官，所以不能拥有双重国籍，就办理了退出苏联国籍的法律手续。

1949 年底至1950年初，毛泽东第一次赴苏联进行访问，并且与苏联最高领导人斯大林进行了会谈。在《中苏友好同盟互助条约》签订之前，毛泽东和斯大林由于意思表达在双方之间产生误会等原因，发生了不快。