1928年4月朱德和陈毅率部到达井冈山 ，5月4日红四军成立，朱德为军长，红军中终于有了一个会打仗的人成为军事主官。张宗逊任第十一师第三十一团第一营二连连长；5月参加草市坳战斗，改任永新县游击大队大队长；6月23日，湘赣国民党军队对井冈山发动第一次“会剿”，张宗逊率永新县游击大队连夜到龙源口配合主力作战，粉碎了“会剿”；6月25日再次任第三十一团第二连连长；8月7日湘赣国民党军队发动第二次“会剿”，张宗逊从永新县小江区连夜回井冈山，参加了黄洋界保卫战；1929年1月第三次“会剿”开始，张宗逊任红四军三纵队九支队副支队长；2月参加大柏地战斗；3月9日任红四军第三纵队第九支队支队长，14日参加了长汀战斗；5月23日参加一打龙岩，6月3日二打龙岩。1930年6月红军再次进入长汀整编， 张宗逊任红一军团第十二军（罗炳辉代军长，谭震林任政委）代参谋长；8月在吉安编成红十二军第三十六师，张宗逊任师长；12月29日参加第一次反“围剿”的龙冈战斗，张宗逊率领红三十六师支援红三军第九师作战，全歼国民党十八师。1931年4月第二次反“围剿”开始，5月16日张宗逊在白沙袭扰敌四十三师，俘获甚多；5月27日参加攻打广昌，31日参加建宁战斗；7月参加第三次反“围剿”。1932年7月参加第四次反“围剿”；10月在闽西成立新的红十二军，张宗逊任军长。1933年2月第五次反“围剿”开始，张宗逊参加了东陂、草台岗战斗；6月红一方面军奉中央军委命令实行大师大团编制，张宗逊任红一方面军独立第一团团长；11月中旬调任红五军团第十四师师长兼广昌警备司令。1934年4月28日进入红军大学（在瑞金）学习；6月任红军大学校长兼政治委员；10月长征开始，张宗逊任红军中央纵队参谋长，一周后调任红三军团第四师师长，在通过敌人的封锁线时，部队损失惨重。1935年2月上旬，红三军团在云南的威信（扎西）进行了缩编，张宗逊任第十团团长；2月28日，在率红十团同敌人争夺遵义城西南郊的战斗中腿部负伤，伤口恶化送总卫生部治疗；6月红一、四方面军在懋功会师，7月23日张宗逊被任命为红四方面军第四军（军长许世友，政委王建安）参谋长；8月31日参加了包座战役；9月被张国焘胁迫南下，同分裂行动作坚决斗争，10月9日被调任红四方面军红军大学（校长刘伯承，政委何畏）参谋长兼高级指挥科科长。1936年2月13日，红四方面军开始向北行动，6月与红二方面军会师，继续北上，10月和中央红军在会宁会师；11月26日，张宗逊任红军大学第二学校上级干部队队长。1937年1月3日到保安，7日被任命为军委一局局长，13日随军委纵队进驻延安，19日兼任富县、甘泉警备司令。