1932年10月，他随红四方面军向西转移，途中因患重病，在无法跟上主力部队的情况下，靠一路乞讨返回鄂豫皖苏区，参加了鄂东北特务四大队，先后任班长、分队长。

1933年冬，他奉命率一个分队圆满地完成了护送鄂豫皖省委委员、宣传部长成仿吾中央苏区汇报工作的任务，受到省委领导的表扬。1934年3月，他任红二十五军手枪团中队长。在仰天窝突围和攻打罗田的战斗中，他率手枪分队先后掩护吴焕先政委、徐海东军长脱险。

5月，调任红二十五军二二四团一营政委。7月中旬，在长岭岗战斗中，他与营长指挥全营将敌排哨消灭，与兄弟部队一起，共歼敌5个营。战斗中他身负重伤，留下终身残疾。

1934年11月，红二十五军长征。陈先瑞任红二十五军第二二三团政治处主任，途中参加了独树镇等多次战斗，过卢氏县城时再次负伤。12月上旬，进入陕西东南地区。12月下旬，陈先瑞带领第二二三团七连到鄂西的郧县和陕东南的旬阳、山阳、镇安、柞水等地打游击，开辟新的根据地，并组建鄂陕游击师，担任师长。

他把七连分成若干小组，以自然村为片，发动群众，宣传“五抗”（抗捐、抗税、抗税、抗丁、抗债）斗争，打土豪，分田地，建立抗捐军、游击队和苏维埃政权，很快建立起了比较巩固的根据地。1935年2月，中共鄂陕特委成立，游击师改为游击总司令部，陈先瑞任总司令员，统一指挥各路游击武装。

1935年7月，红二十五军主力继续西征北上。他与郑位三等留在商洛山中，领导和坚持鄂豫陕革命根据地的游击战争。9月，中共鄂陕、豫陕两特委合并，成立中共鄂豫陕特委，并组建红七十四师，陈先瑞任特委常委、红七十四师师长。

从1935年7月至1936年12月，在中共鄂豫陕特委的领导下，陈先瑞率领红七十四师，在与上级失去联系的情况下，转战于鄂豫陕三省边界24个县境，经历大小战斗上百次，打破了敌人三次大规模围攻，歼敌4000余人，缴获各种枪械3000余件，牵制敌人十几个旅的兵力，有力的配合了陕北革命根据地的斗争和红军主力长征，红七十四师也由几百人发展到1700多人，胜利地坚持了鄂豫陕边区的游击战争。

西安事变后，红七十四师改编为南路抗日军，陈先瑞任军长。1937年1月，为支持张学良、杨虎城部阻击蒋军进攻，红十五军团与红七十四师会师于商县。

在改编谈判中，党中央和毛泽东在电报中多次提到陈先瑞，要求国民党给陈部以独立番号。根据国共双方谈判协议，陈部继续留驻陕南，以防内战再起时便于同陕北红军相呼应。同年10月，毛泽东在接见陈先瑞时，给予很高评价。

抗日战争全面爆发后，1937年8月，红七十四师改编为八路 军第一一五师留守处，陈先瑞任主任，率部驻在三原、耀县、洛川之间，负责保障延安至潼关的交通，保持前后方的联系。10月，陈先瑞任西北留守兵团警备第四团团长，担负保卫陕甘宁边区的光荣任务。

1944年10月，陈先瑞受命率挺进豫西，开辟抗日根据地，组建河南人民抗日军第三支队，任支司令员兼政委。1945年2月，他率部进入豫西，立即以登封、密县为依托，迅速向临（汝）禹（州）郏（县）发展，积极发动群众，宣传抗日主张，建立群众组织，消灭地方反动武装，将根据地扩大到禹县以西、郏县以北、临汝以东的大片地区。3月下旬，粉碎了日伪军1600人的进攻，进一步巩固和扩大了豫西抗日根据地。

5月，为了打通与新四军第五师的联系，使河南军区开辟的根据地和第五师在豫中嵖岈山开辟的根据地连成一片，根据中央军委的命令，陈先瑞率第三支队向南召以东，鲁山、方城方向发展。

在兄弟部队的配合下，先后打下临汝以南技纸坊、寄料街、背孜街、大营、梁洼和鲁山以西的襄河、上汤、中汤、赵村、二朗庙、东村、王坪等地，直逼南召西北的马市坪，建立了鲁山、南召两个抗日县政府，5个区政府，组织了抗日人民团体。

其间，受军区党委委派，同国民党冀察战区司令长官高树勋进行谈判，并达成了双方停火、互不侵犯、互通情报、共同抗日的协定，这次谈判对后来争取高树勋部起义起了重要作用。

7月，他率第三支队越过鲁山，经叶县、舞阳通过许南公路，到达嵖岈山地区的李香楼，与豫中工委、豫中兵团会合，重新组成了豫中地委、豫中军分区和豫中行署，陈先瑞任地委副书记兼军分区司令员。8月，他指挥分区部分，扫除日伪据点及敌占城镇，攻占交通要道，组织地方武装趁势收复失地，很快占领了叶县、舞阳、西平、遂平、泌阳、方城间的广大乡村和城镇，巩固和扩大了豫中根据地。

抗日战争胜利后，10月，陈先瑞率部随军区主力南下桐柏山区与李先念领导的新四军第五师胜利会师，任河南军区副司令员兼独立第三旅旅长，参加了中原军区组织的桐柏、双沟、祁仪等战役。

1946年3月，任中原军区第二纵队第十五旅政委。6月，蒋介石调遣30万大军对中原解放区大举围攻。

中原军区部队于6月26日开始突围。他与旅长王海山率第十五旅随第一纵队为南路军，由光山县的泼陂河向西突围，打破敌整编第六十六师和整编第七十五师的阻击，7月1日越过平汉铁路封锁线，继续西进。在粉碎敌军的层层围追堵截后，于7月底进入武当山地区，取得突围的胜利。

8月，根据一纵队指示，他率第十五旅在武当山以西地区发动组织群众，打土豪分田地，坚持游击战争，创建鄂西根据地。10月，奉命率部东渡汉水，重返陕南，与中原突围的北路军会合，任豫鄂陕军区副司令员兼参谋长，先后粉碎敌人两次大规模“清剿”，有力地配合了华北、华东战场的作战。

1947年1月，豫鄂陕军区成立第一、第二野战纵队，陈先瑞任第二野战纵队司令员。在第一野战纵队东进豫西后，陈先瑞率部继续坚持豫鄂陕边斗争，组织内线部队向西行动，配合第一野战纵队在外线作战。

3月20日，他奉命率部北渡黄河，向山西晋城开进。8月，陈先瑞调任西北民主联军第三十八军副军长。奉命率三十八军第十七师、第五十五师编入陈谢兵团，挺进豫西，配合刘邓大军千里跃进大别山。

按照兵团指示，第三十八军和第二十二旅为第一梯队，强渡黄河，抢占沿河阵地，掩护大部队渡河，而后，乘胜向陇海路出击，攻占会兴等地，并以一部向东奔袭张镇和观音堂车站，切断灵宝、陕县间敌人的联系。

接着，陈先瑞率部连克灵宝、卢氏、陕县等城镇，西过潼关，直逼西安，有力地配合了西北野战军和刘邓大军主力作战。

9月，陈先瑞率三十八军第十七师从潼关万全地区南下入陕，开辟豫陕鄂根据地。这是他第三次进入陕南。从9月下旬的年底，陈先瑞率第十七师与第十二旅相配合，先后攻占了洛南、商县、商南、山阳、镇安等十几座县城，解放了陕南广大地区，建立了豫陕鄂边区行政公署，成立了第二、第四军分区。

豫陕鄂边区的开辟，不仅直接威胁到胡宗南在关中地区的统治，而且配合了西北、中原人民解放军的作战。

1948年1月，正当陈先瑞率第十七师在陕南创建根据地的时候，又接电令，调他任豫西军区副司令员，带兵指挥豫西剿反霸斗争。他坚决贯彻“以政治攻势为主，军事压力、发动群众相结合”的方针，采取分进合击，以驻、堵、追的办法，经过短短一个多月的斗争，共歼灭土匪一万余人，除南阳、郑州、灵宝等几个孤立地点外，基本肃清了豫西的匪患，受到陈赓司令员的称赞。

6月，中共中央中原局和中原军区决定成立陕南军区，下辖十二旅、十七师和两郧、商洛军分区。陈先瑞任陕南军区副司令员，这是他第四次进入陕南。

1949年初，为了巩固新生的政权，维护社会秩序的安定，陈先瑞领导指挥部队，在陕南和宛西一带开展了声势浩大的清剿匪特斗争。至4月底，土匪基本被剿灭。

5月，按照中原军区命令，中国人民解放军第十九军正式组建，陈先瑞任陕南军区副司令员兼第十九军副军长。为了配合第一野战军挺进西北，策应我军在关中战场的攻势，拖住胡宗南部，他与军领导率十九军西进作战，先后突破敌苦心经营的白河、平利、安康三道防线，解放了陕南全境。陈先瑞四次进入陕南，为创建鄂豫陕革命根据地作出了贡献，被毛泽东主席誉为“红军的陕南王”。

1949年12月，陈先瑞任汉中军管会主任。1950年5月，任陕西军区副司令员兼参谋长。11月任第十九兵团政治部主任，离开西安到山东兖州集结，准备出国参加抗美援朝战争。

为抓好出征前的临战训练，陈先瑞组织兵团政治部和各级政治机关狠抓新兵教育。同时配备各级干部党员，并按照兵团党委要求，起草和颁发了《赴朝鲜作战守则》。

1951年2月，十九兵团跨过鸭绿江。入朝后的进军沿途，到处是断壁残垣，焦土碎瓦，战争给朝鲜带来巨大灾难。陈先瑞指示政治机关利用这些活生生的教材，对部队进行教育，加深对美帝国主义的仇恨，激发抗美援朝、保家卫国的斗志。

4月，兵团奉命参加第五次战役。为打好出国第一仗，他组织兵团政治部起草了《打好出国第一仗的战斗动员会》。

4月22日，第五次战役第一阶段开始。第十九兵团为右翼突击集团，先后突破临津江，向敌纵深开进，攻占了李承晚伪军第一师及英军第二十九旅的防御阵地，夺取道乐山，进占议政府。在战役的第二阶段，第十九兵团在高阳至加平的宽大正面上钳制西线美军主力，保障三兵力、九兵团在东线歼敌。

战役第二阶段结束后，敌人利用我军转移的机会，实施“磁性战术”，为确保涟川、铁原一线安全和兄弟部队北移行动，十九兵团第六十五军奉命在议政府、清平川一线阻击敌人。由于敌人集中了4个军13个师的兵力，在飞机、坦克、大炮的配合下，不断发起攻击，六十五军的阻击任务异常艰巨。

他和兵团领导接到六十五军的告急电报后，立即调六十三军赶去支援，并向六十三军、六十五军发了紧急政治动员令，要求各级政治机关和政工干部，加强战场鼓动工作，开展杀敌立功竞赛，及时宣扬英雄模范事迹，对表现突出的战士，批准火线入党、入团。

在政治动员令的鼓动下，部队涌现出许多可歌可泣的英雄连队和英模人物。第六十三军、六十五军经过13个昼夜的浴血奋战，胜利地完成了阻击任务，为兄弟部队的休整和志愿军总部的战略调整，赢得了宝贵的时间。

1952年8月，陈先瑞任第十九兵团副政委，在没有兵团政委的情况下，他担起了兵团的政治工作重任。他深入前线，在坑道中与战士同吃同住，开展爱国主义和国际主义教育，总结出有建树性的政治工作经验，先后协助司令员杨得志、韩先楚组织指挥了反敌“夏季攻势”、“绞杀战”、“秋季攻势”和开城保卫战以及金城反击战等战斗，为抗美援朝作出了杰出的贡献，被朝鲜民主主义人民共和国授予一级国旗勋章。