1934年10月中央革命根据地第五次反“围剿”战争遭到失败，红军第一方面军主力开始长征。 红四方面军5月中旬占了茂县、理番。不久，张国焘率左路军穿过松潘草地到达阿坝后，拒绝继续北上，南下再过草地，希望能在西康创建根据地，但屡遭挫折，部队损失严重。由于张国焘的左倾分裂主义的破坏，张思德和左路军所有红军指战员一道，两次翻雪山，三次过草地，历尽万苦千辛，进入草地后不久，战士们带的粮食就已经吃尽只能靠吃野草充饥。 在长征途中的数次战役中，张思德曾三次负伤.
　　1937年抗日战争全面爆发，张思德因身体还没有完全康复被编入警卫连负责警卫关中云阳八路军留守处和荣誉军人学校。在此期间，他表现十分突出，1937年10月,张思德被批准加入中国共产党，成为一名光荣的共产党员.

　　1940年春天，张思德被分配到中央军委警卫营担任通讯班班长。那时条件艰苦，送信没有交通工具，甚至连雨衣、雨布都没有，全靠战士两条腿。在通讯工作中，张思德一向拣重担子挑，每当有艰险出现，他总是第一个站出来。他练就了一身跋山涉水的本领能被战友们形象地称为通讯班的“飞毛腿”。同时，为了完成在各种复杂条件下的通讯任务，张思德利用晾干的猪尿泡做文件袋、用葫芦瓢装信件，保护文件在雨天或过河涉水时不被浸湿损坏。每当说到张思德出的点子，班里的战士们都会伸出大拇指。张张思德经常和大家一起说说笑笑。但就在这说说笑笑的时候，他也不忘记做思想工作，获得“编外指导员”的雅号。

　　 1941年,张思德所在的警卫营奉命开进南泥湾，披荆斩棘，开荒种地，风餐露宿，战胜重重困。广大官兵用自己的双手和汗水，将荒无人烟的南泥湾弯成了“平川稻谷香，肥鸭遍池塘。到处是庄稼，遍地是牛羊”的陕北好江南。
　　1943年春，张思德被选派到毛主席身边当警卫战士，他十分激动，暗暗下定决心，一定要好好工作，做毛主席的忠诚卫士。为了保证毛主席有个好的工作和生活环境，他经常主动为驻地打扫卫生、铺石垫路、修补窑洞，兢兢业业地做好每一项工作。在执勤时，总是轻手轻脚，生怕干扰了主席的工作。