由于王明“左”倾冒险主义的错误领导，导致了第五次反“围剿”的失败。1934年10月，中共中央、中革军委率领中央红军开始长征。彭绍辉奉命率领第十五师掩护红三军团转移。红三军团刚一行动，敌人就追上来了。为了阻击敌人，第十五师在石城大垴寨一带摆开了战场，彭绍辉和师政委萧华亲临前沿阵地指挥战斗，战士们英勇顽强，不怕牺牲，打退了敌人一次又一次的进攻，胜利地完成了阻击任务。
1935年2月10日，中央红军部队进行了整编，第--十五师被撤销，人员分别编入第一、二两个师，以加强主力。彭绍辉被调任红一军团司令部教育科长。
当教育科长和当师长是不一样的，到达岗位后，他却遇到许多具体问题，比如，警卫员被取消了，所乘马死了也未再配，彭绍辉在工作和生活上自然会遇到很多困难。他却没有丝毫怨言，更不向组织述说自己的困难，仍然一如既往地积极完成担负的任务，他制订行军作战的教育计划，并组织部队实施。不论白天黑夜，也不论是行军还是宿营，他都坚持值班，管理军团直属队，组织侦察、警戒、行军教育等。人们看到一个原来当过师长的独臂人跑来跑去忙碌着，而且连一匹马也没有，都投以钦佩的眼光。
第二次占领遵义后，彭绍辉被调回红三军团。因为他当过师长，彭德怀见面就说：“你回来了，可是没有适当的工作岗位。”看着自己熟悉的老领导，彭绍辉什么也没说。过了一会儿，彭德怀用征询的口气问：“你去搞教导营好不好？”“好！”彭绍辉立即说，“只要是干革命，什么工作都行！”
红三军团的教导营，有三个连队、一个营部。彭绍辉担任教导营长后，就和营政委李志民一起，率领教导营奋勇行进在长征路上，渡赤水，袭金沙，翻雪山。
一天，彭绍辉接到一份电报。电报是周恩来发来的，上面说，毛泽东、朱德等中央领导第二天经过芦花（今黑水县），要在教导营吃午饭。读过电报之后，彭绍辉很兴奋，毛泽东、周恩来、朱德都是他尊敬的领导人，他要好好招待一下他们。可查遍全营什么好吃的东西都没有。怎么办？他亲自带人到附近东山村找到了两羊皮口袋青稞和一只羊，准备为中央领导做些好吃的饭菜。
彭绍辉等人带着弄到的青稞和羊刚走下山，毛泽东、周恩来、朱德等就到了教导营。彭绍辉见磨青稞面已来不及了，就对炊事班说：“快煮稀饭，炖羊肉块，放些辣椒。”说完，彭绍辉就去见中央领导。周恩来见面就问：“搞到青稞和羊给老乡钱了吗？”
彭绍辉看着周恩来，心想：他想得真细啊！便说：“请周副主席放心，每一羊皮口袋青稞给了一块大洋，一只羊给了两块大洋。”周恩来满意地点点头，说：“在少数民族地区，要特别注意民族政策。”说话间，饭菜做好了，毛泽东、周恩来、朱德等中央领导和教导营的指战员们一起吃午饭。
