二十八军东渡黄河，进入山西，为抗日道路的开辟作出了重要贡献。同年四月十四日，在与敌激战中，刘志丹亲临前线指挥，侦察敌情，不幸中弹，英勇牺牲，年仅三十三岁。习仲勋得知噩耗后，立即策马东奔，站在山顶目睹刘志丹被装入一口简陋的棺材，由军民抬回保安，内心悲痛欲绝。同年六月，中共中央为纪念刘志丹，将保安县更名为志丹县，毛泽东亲笔题词，赞誉刘志丹为“群众领袖，民族英雄”。
在了解习仲勋等人的经历后，毛泽东得知他们曾遭右倾错误迫害，含冤入狱，不禁感慨陕甘根据地能成为党中央和红军的落脚点，离不开这些干部的辛勤付出。他痛惜刘志丹和谢子长等优秀干部的牺牲，也为许多同志所受委屈感到不平，认为他们都是人才，应得到重用。
一九三六年九月，习仲勋被毛泽东破例选中参加重要会议，并亲自会面。当时，国民党调集重兵疯狂“围剿”关中苏区，习仲勋受命前往旬邑，担任关中特委书记。途中，他遭遇土匪包围，但因会说黑话且名声在外，土匪首领马老三爽快地放行了他。
到达旬邑后，习仲勋召集会议，分析当前形势。秦木兰反映，敌人实施保甲制度，企图瓦解党组织和游击队，导致关中地区人力、武器匮乏，陷入困境。习仲勋则认为，同志们隐蔽起来说明他们未投敌且信任党组织，当前首要任务是联系各地党员，动员大家拿起武器，恢复组织，与敌人斗争。同时，他还成功劝降了一些反动民团，化敌为友，短短数月便打开了局面。
同年十二月十二日，张学良、杨虎城在西安发动兵谏，扣留蒋介石。中共中央派周恩来等前往西安，促成了西安事变的和平解决。这一事件成为时局转换的关键，十年内战基本结束，国内和平初步实现，国共两党实现第二次合作，共同抗日。
随后，习仲勋去见彭德怀，得知八路军准备东渡黄河，而他需要在一个月内征集三百人的预备营，补充到贺龙的一二零师。然而，关中苏区多山区，兵源匮乏，郭炳坤费尽周折只招募到三十人，且素质参差不齐。此时，李三娃主动请缨参军，但习仲勋认为他年纪尚小，安排郭炳坤送他回家，鼓励他好好学习，将来为国家做贡献。李三娃听从了习仲勋的劝告。最终，在习仲勋的不懈努力下，他成功从关中招募了足够的人数，甚至超额完成了一个团的招募任务，令贺龙十分高兴，将自己心爱的手枪赠予了他。
一九三七年八月，中共中央革命军事委员会发布命令，将红军主力改编为国民革命军第八路军。八路军各部于八月至十月间，分别从泾阳、富平等地出发，东渡黄河，奔赴抗战前线。习仲勋回到富平，先探访了昔日的学校，又回家探望了二妹习东英、小妹习雁英以及三叔习宗仁。
