古北口战役失利后,112师移驻宣化。张廷枢和驻扎怀来骑兵二师师长黄显声,不顾蒋介石威胁利诱,与冯玉祥将军民众抗日同盟军建立了联系。
1933年4月底,中共张家口特委指示,将秘密党员张公干、李平一、郭永照等同志,派往东北军112师、骑兵二师,准备策应抗日同盟军。张公干、李平一刚到112师,张廷枢就对他们说:“是我请你们共产党来的,这事只能我一个人知道。”
张廷枢与黄显声是志同道合的挚友。当时,东北军中有“张不离黄,黄不离张,张黄不分”之说。他们主张国内大联合,一致抗日。当时,在112师和骑兵二师内,官兵们可以看进步书籍,唱进步歌曲。这两个师内,均有许多共产党员,并有共产党组织“中共工作处”。张廷枢、黄显声还经常请共产党执任教官,为官兵们上政治课。当时,共产党员刘澜波,在骑兵二师任教导队队长;张公干、李平一在112师创办军训队。
对于蒋介石消极抗战、积极反共的做法,张廷枢强烈不满、坚决反对,但多次设法抵制却一直未果。于是,1935年12月,张廷枢向张学良提出请假辞职。张学良婉言挽留;张廷枢声泪俱下,诉说日寇侵占东北、蹂躏同胞罪行。最后,张廷枢话语铿锵地表示:“如果东北军去打日本,我第二天就来报到!”
在张廷枢影响下,还有4位东北军高级军官,一并辞职。