1937年“七七”卢沟桥事变爆发,日军大举入侵,国势垂危。
李家钰出自民族义愤,通电请缨杀敌。并作诗一首::“男儿仗剑出四川,不灭倭寇誓不还;埋骨何须桑梓地,人间到处是青山。”(《李家钰传》P279 巴蜀书社),
蒋介石同年8月令李家钰等部川军出川抗战。李家钰接电令于9月初率四十七军104、178两师约一万八千人从西昌出发,部队单衣草鞋,行程4000余公里,12月始抵达晋东南抗日前线,布防于太行山区之长治、长子、黎城、潞城一带。李家钰在抗日前线,深受全民团结救亡高潮和共产党抗日统一战线政策的感召和鼓舞,对过去积极从事内战的罪愆有所悔悟,幡然致力于国共合作,杀敌致果。李家钰部驻防长治,与八路军炮兵部队联防守城,双方关系融洽。八路军一二九师刘伯承师长因公经长治,李家钰曾敦请他向四十七军营以上军官讲授抗日游击战术。李家钰并先后派遣几位营长,到八路军总部抗日游击战术训练班学习。
1938年春,李家钰在国共合组的“第二战区东路军”总、副指挥朱德、彭德怀统一指挥下,率部在东阳关、长治一带同装备精良的日军入侵部队下原熊弥的108师团104旅团(一万多人兵力)激战两役。长治保卫战中,李家钰军104师312旅624团据城死守两昼夜,在日军飞机、大炮轮番轰击下,北门陷落,官兵奋勇对敌展开肉搏巷战,毙伤敌寇一千余人。此役李家钰部营长杨岳岷、连长杨显谟、夏抚涛、陈绍虞、黄高翼等壮烈殉国,副团长杜长松负重伤。东阳关之战,营长周策勋殉国(以上伤亡者除杨岳岷、夏抚涛两人外,皆蒲江县人)。李家钰部对日军初战虽挫敌凶焰,然官兵伤亡亦逾千人。后黎城县政府在东阳关建“川军抗日死难纪念碑”,以抚慰忠魂。同年3至5月,李家钰奉命率四十七军,在八路军和抗日游击队配合下,连续猛攻并收复了被日军侵占的晋南平陆、芮城、安邑等县城及原八路军据点多处,战绩卓著。
1939年冬,李家钰积功升任三十六集团军总司令,统辖陈铁的十四军、高桂滋的十七军、四十七等三个军七个师兵力。1940年春,李家钰得悉八路军朱德总司令由武乡赴洛阳开会途经其驻地时,曾派兵一个连前往迎接并设宴款待。当晚,朱德就团结御侮,抗日及民主等问题,同李家钰促膝磋谈至深夜,当时,第一次反共高潮刚刚过去,朱德举杯问道:“其相兄,他日你若奉命与我军兵戎相见,你当如何”。李举杯道:“我当效晋文公退避三舍,再战”两人相视而笑。次晨,朱德一行跨越晋(城)博(爱)公路日军封锁线时,李家钰为安全计,增派一个加强连,掩护朱德顺利过境。
1940年4月,李家钰指挥47军及三支抗日游击队,在晋城以南天井关一线,予进犯日、伪军以重大杀伤,毙伤敌一千多人。所部104师曾一度克复陵川县城。