阎锡山在大连蛰居期间，一面总结自己的从政经验，一面遥控山西军政大局，伺机而动。他根据儒家的的中庸之道，将自己20年的从政经验总结为“中的哲学’，认为不偏不倚、情理兼顾、不过不及是为“中”，人事得中则成，失中则败;承认矛盾，要用二的分析法分析矛盾，以求得“矛盾的不矛盾”，使矛盾对消，达到适中，以求生存;认为事理有母理与子理之别，母理讲的是该不该，子理讲的是能不能，母理是不变的，子理服从母理，人事以生为最高母理。这就是说，他研究和运用“中的哲学”，全是为了自己的存在。他还摭取并曲解马克思主义著作的某些词句，反对“金代值”，主张实行“物产证券”(产多少物发多少券，劳动者又以券换物);反对“资私有”，主张实行“资公有，产私有”，“按劳分配”，认为“按劳分配是资本主义到达社会主义必经过的桥梁”。这个所谓“物劳学说”是无法实现，他也不打算实现的，但他却定为干部的奋斗目标，目的是用以抵制马克思主义和共产党。

    与此同时，他密切注视国际与国内形势的发展，图谋东山再起。当他得悉日本帝国主义将发动大规模的侵华战争时，便以高价收买机师，于1931年8月5日乘飞机潜回大同，随即转赴家乡河边村“隐居”。

    “九一八”事变后，太原学生于12月18日举行抗日救亡的示威游行，遭到国民党山西省党部的镇压，学生穆光四被枪杀。阎锡山深恨国民党人在中原大战前后对他的攻讦，遂令太原清乡督办杨爱源封闭国民党山西省党部并逮捕其负责人。这是国民党在山西遭到的第三次厄运。

    日本帝国主义在“九一八”事变后，大举侵占中国东北，中华民国主席蒋介石的不抵抗政策遭到全国人民的反对，一致对外、抗日救亡的呼声日益高涨。蒋介石无奈，不得不表示捐弃前嫌，与曾经的反对势力言归于好，团结御侮。1931年12月，在国民党第四次全国代表大会上，阎锡山的中央执行委员被恢复。阎为了取得舆论支持和蒋介石的谅解，后来向中央提出《请政府检拨十万劲旅死守锦州以救危亡案》和《请政府及时确定十年自强计划案》;山西省政府主席徐永昌则通过各种关系向蒋表示自己力不胜任，只有阎锡山可以收拾山西残局;不久，阎锡山又指示部下将在押的国民党山西省党部负责人以易地审判为名，押往郑州释放。于是，蒋介石乃授意国民政府于1932年 2月20日任命阎锡山为太原绥靖主任。

    阎锡山东山再起后，为了缓和他与蒋的矛盾并消除蒋对他的疑虑，提出“自强救国”、“造产救国”等口号，成立了经济建设委员会，制订了山西省政十年建设计划，组建了山西人民公营事业董事会，全力以赴地进行经济建设，并把三分之一以上的军队用于筑路，以表示不再穷兵黩武;对蒋介石的重大决策，表面上则完全拥护。1933年 3月11日，蒋介石到石家庄商讨华北问题，阎在晋见之前，曾于 9日电蒋表示：“山向来追随钧座，受国家之优遇，亦当追随钧座，赴国家之危难。中央为保全国土而忍辱，锡山愿与钧座分祸;如为发扬民族精神而奋斗，愿随钧座牺牲。”言词恳切恭顺，从而取得蒋的谅解，使他得以在山西继续掌权。

    阎锡山充分利用争取到的和平环境，依靠自力更生，在数年之内创建了包括采矿、冶金、采煤、发电、机械、化工、兵器、水泥、皮革、毛纺、造纸、卷烟、火柴等轻重工业厂矿的西北实业公司，修筑了长达 860余公里的同蒲铁路，成立了山西省营业公社，整顿了山西省银行，新建了铁路、盐业、垦业等银号，并为“四银行号”成立了实物准备库，到抗日战争前夕，在山西形成了一个庞大的官僚资本体系，资产达到 2亿银元。其规模之大，投资之少，速度之快，效益之高，在国内名列前茅。同时，他认为不把群众组织起来会给共产党留下空子，须用组织来抵抗共产党的组织，于是成立了青年救国团、建设救国社等团体，后来又将其合并组成山西自强救国同志会，作为他推行政令的组织保证。这样，他的经济和政治实力都得到了增强。