由于1937年春钱之光与张元培的太原之行圆满地完成了中央赋予的采购任务，所以中央选调钱之光、张元培到西安八路军办事处工作。钱之光任处长，张元培从“抗大”提前毕业，任副处长。按分工，西安八路军办事处保险柜由张元培掌管，办事处的经费开支都经张元培核准。

　　张元培等人在西安卓有成效地开展工作。八路军西安办事处，成了北平、天津、南京、上海及南方各地下党组织与延安党中央的联络站，成了热血青年奔赴延安的中转站。张元培等办事处人员，一方面，以公开、合法的身份，宣传《中国共产党抗日救国十大纲领》，发动群众，组织群众，以文化界为基础，做好上层人士的统一战线工作；另一方面，在西安采购大量军需物资，运回延安，以保证延安广大军民之需。1938年5月至8月，张元培数次亲自押运军需物资到延安，为延安的物资保障立下了汗马功劳。

　　1938年10月底，武汉沦陷。日军兵锋逼向长沙，长沙军情紧急。周恩来、叶剑英奔赴长沙，开展抗日工作。在西安的张元培、童小鹏奉命带领一支20余人组成的干部队，匆匆赶赴长沙，协助周恩来。

　　11月10日，张元培赶到长沙。周恩来听完张元培的汇报后，作出指示：“长沙已紧急，好好休息，11日即转衡阳，带一些人和物资，协助李涛把衡阳办事处建立起来。”同一天，日军由武汉南下，攻陷湖南北部门户岳阳，长沙告急。聚集在长沙的各军政机关纷纷撤退。

　　在周恩来的周密布署下，政治部第三厅工作人员由田汉等率领，于11月12日凌晨撤离长沙。

　　11月12日，国民党军政要员先后撤离长沙，湖南省政府迁到沅陵。周恩来、叶剑英决定在长沙城内的第十八集团军（即八路军）办事处再住一夜，第二天早上动身去湘潭。国民党地方军警当局误信日军迫近长沙的谣传，奉行蒋介石“焦土抗战”的策略，在长沙纵火，使周恩来、叶剑英遇险。

　　周恩来、叶剑英在长沙大火中遇险、脱险的简要经过是：周恩来、叶剑英争分夺秒地工作了整天，晚上又操劳到深夜，疲倦至极。凌晨两点多，他俩刚睡下不久，长沙城内突然四处起火，他俩的住所也烈焰腾空。危难关头，张元培等人急忙冲进二楼的卧室，叫醒周、叶首长，拉起就走。此时，大火已蔓延到院子里，烈焰已封住了大门。张元培等人冒着生命危险，掩护、帮助周、叶首长冲出烈火。待张元培等人冲出院子时，火魔已吞噬了他们的住所。长沙城内，街上到处是火，张元培等人护着周、叶首长，沿湘江步行，撤到长沙城外。

　　11月14日，周恩来费了整天时间，收容匆忙撤退的人员，整理用品。同一天，八路军驻衡阳办事处正式成立，并设立电台与延安、重庆等地联络。张元培受组织的重托，担任八路军驻衡阳办事处处长。

　　11月25—28日，蒋介石召集南岳军事会议，讨论抗战新阶段的战略方针。周恩来、叶剑英出席了此次会议。会议决定在南岳举办西南游击干部训练班，教官由中共派遣。中共中央及毛泽东同意此事。

　　在周恩来的直接领导下，衡阳办事处与国民党当局联合创办南岳游击干部训练班。训练班由汤恩伯、叶剑英负责，教官由叶剑英、李涛等共产党人担任，教材编写的依据是毛泽东的《抗日游击战争的战略问题》、《论持久战》等论着及八路军、新四军在敌后开展游击战争的经验。

　　南岳游击干部训练班共办了三期，培训学员1500多人。它是国共合作的产物，为抗日培养了一批打游击的人才。

　　1939年8月，奉周恩来之命，张元培前往贵阳筹办八路军驻贵阳通讯处，担任贵阳通讯处主任。在贵阳，张元培把新加坡、越南等国家送来的抗战物资转运延安。另一方面，他广泛宣传共产党领导下的八路军、新四军的战绩，发动各界人士参加抗日救亡运动。

　　1939年11月，张元培调任八路军驻重庆办事处副处长（处长钱之光）。

　　抗日战争时期，重庆是中国的政治、军事、经济、文化中心。国民党政府及各国驻华使团都迁在重庆，重庆的局面极为复杂，政治环境相当险恶。

　　为统一领导抗战大后方党的工作，中共中央成立了南方局，由周恩来任书记。南方局和八路军驻重庆办事处在一起办公，张元培的工作之一，是负责南方局、办事处的后勤保障。

　　八路军驻重庆办事处原设于重庆市机房街70号，处在市区，不利于秘密工作。另外，随着工作人员的增多，原有房子不够用。周恩来指示钱之光、张元培在重庆近郊选定办事处新址。在地下党的帮助下，张元培选定红岩作为办事处的新址。

　　南方局、办事处迁往红岩，一迁就扎了八年。

　　新四军副军长项英把“党指挥枪”这一真经念歪了，对叶挺军长很不尊重，叶挺在新四军军部受项英制肘，工作难以开展。1938年8月，叶挺表示欲辞去新四军军长一职，经周恩来竭力挽留，叶挺在新四军多留了一段时间。项英一方面积极执行“右”倾路线，片面强调统战，放弃独立自主原则，另一方面，进一步冷遇叶挺，连中共中央一些重要指示也对叶挺封锁。叶挺深感英雄无用武之地，于1938年11月离开新四军去香港。叶挺的辞职，各方反响甚大。周恩来力劝叶挺回新四军，并严肃批评项英。

　　项英在其后的时间内，一方面对国民党反共的警惕性不高，一方面继续排挤叶挺。叶挺离开新四军，来到重庆。蒋介石放出风声：叶挺已离开新四军，新四军问题须重新解决。

　　在周恩来的耐心说服下，叶挺于1940年7月9日，动身回新四军。张元培奉周恩来之命，与叶挺的警卫副官邱南昌、刘九洲一同护送叶挺回新四军。途中，张元培无微不至地照顾叶挺，与叶挺建立深厚的感情。

　　叶挺一行抵达新四军军部后，张元培先后担任新四军军需处处长、新四军后勤部副部长、苏北粮食管理局局长等职。

　　1941年1月4日，新四军军部和直属部队9000余人奉命北调。1月7日，国民党军7个师8万余人，对行至皖南茂林地区的新四军9000余人发动突袭。经七昼夜血战，新四军弹尽粮绝，除约2000人突围外，大部壮烈牺牲。军长叶挺被扣。项英、袁国平、周子昆等遇难。这，就是震惊中外的“皖南事变”。担任突围第二梯队队长的张元培，临危不惧，奋勇杀敌，突破国民党军的重重包围，胜利地到达苏北抗日根据地。

　　1941年1月17日，国民党的军事委员会悍然宣布撤销新四军番号。1月22日，中共中央任命陈毅为新四军代军长，刘少奇为政治委员，张云逸为副军长，赖传珠为参谋长，邓子恢为政治部主任，在苏北盐城重建新四军军部。

　　新四军军部重建之初，武器、弹药、器械、药品等物资紧缺。张元培奉军部之命，佩戴上国民革命军上校军衔徽章，带上几个随从，到国民党统治区浙江金华采购物资。

　　张元培一到金华，就受到军统特务和宪兵的监视。张元培对跟踪监视他的国民党宪兵进行抗日统一战线和爱国主义宣传教育，化敌为友。在接下来的一段时间，这名具有正义感和爱国心的宪兵明对张元培监视，实则暗中保护张元培，张元培在金华采购和筹集到大批军需民用物资，出色地完成军部交给的任务。

　　1942年，张元培进入华中党校学习，毕业后，他历任新四军六师十八旅五十一团政治处主任，七师独立团政治处主任，沿江支队兼沿江军分区政治部副主任、副政治委员兼政治部主任，七师参谋处长，驰骋苏北战场，率部杀敌，屡建军功。