1883年10月10日(清光绪九年九月初八)，出生于山西省五台县河边村(今定襄县河边镇)一个以经商为主的小地主家庭。九岁入私塾，读过《三字经》等启蒙读物与部分四书五经。14岁辍学，随父阎书堂(字子明)到五台县城内自家开设的吉庆长钱铺学商，参与放债收息及金融投机。1900年在一次投机中惨败，负债两千吊，父子二人被迫逃往太原躲债。金融投机虽然短暂，但却为阎锡山后来进行政治活动积累了原始经验。

    1902年，在太原当店员的阎锡山，考上了山西武备学堂学军。1904年被保送到日本留学，先入东京振武学校，毕业后入日本陆军士官学校第六期。在资产阶级民主革命思潮的响下，他于1905年10月加入同盟会，曾会见孙中山并参与制订了同盟会的“南响北应”的战略决策，即同盟会在“南部各省起义时，须在晋省遥应”。从此，阎锡山登上了政治舞台。

    1909年，26岁的阎锡山毕业回国，任山西陆军小学堂教官、监督。当年11月，奉召赴京参加陆军部举办的留日归国士官生会试，考列上等(分优上中三等)，被赏给陆军步兵科举人并授予协军校(相当少尉)的军衔。当时陆军部提出新军协统以下军官须以学生或带过新军者充任，阎锡山在几个月之内即升任山西新军第四十三协第八十六标教练官与标统(相当于上校团长)。在此前后，阎锡山同其他同盟会员秘密进行革命活动，把山西新军的领导权基本上掌握在同盟会员和革命同情者的手中。

    辛亥后，在太原的同盟会员密谋响应，但因新军有枪无弹(当局害怕起义收走了子弹)，未能发难。10月28日，第八十五标奉命出发南下平乱，领到了子弹，阎锡山等同盟会员当即决定起义。29日晨，该标同盟会员杨彭龄、张煌等宣布起义，公推管带姚以价为起义军总司令。起义军攻入城内，杀死山西巡抚陆钟琦，成立军政府，公推阎锡山为都督。

    堵塞惊恐。立即命令第六镇统制吴禄贞率部镇压。吴本向往民主革命，先前曾参加过唐才常的自立军反清起义和华兴会的长沙起义，早已是个革命者，此时准备联合山西民军在北方革命，遂邀阎于11月 4三分法关会晤，商定共组燕晋联军，吴任大都督兼总司令，阎任副都督兼副总司令。阎即派兵一营开赴石家庄，与第六镇官兵共同截断京汉铁路，扣留了清政府运往武汉前线的军用物资，阻止袁世凯入京就任清政府内阁总理大臣，并拟挥师北上推翻清廷。袁恨之入骨，收买吴的卫队长将吴刺死，燕晋联军的雄图大略遂告失败。11月15日，清政府改派张锡銮为山西巡抚，并命曹锟第三镇进犯山西。12月13日，清军攻占娘子关。阎锡山采纳同盟会员景梅龙的建议，决定分兵南北，继续战斗。阎率民军一部北上绥远，曾攻克包头、萨拉齐并向归绥(今呼和浩特)进军;副都督温寿泉率民军一部南下河东，配合山西民军攻克运城、绛州并围攻临汾，在后方和侧背对清政府构成极大威胁。南北议和结束、清帝退位以后，阎锡山于1912年4月返回太原，仍以都督名义掌握山西的军权。

    参加辛亥革命是阎锡山一生中最光彩的一页。孙中山于1912年9月视察太原时曾说：“去岁武昌起义，不半载竟告成功，此实山西之力，阎君百川之功。……倘非山西起义，断绝南北交通，天下事未可知也”阎锡山夤缘时会登上都督宝座并获得如此评价，在国内是仅有的一人。