1930年初，陕西省委指示各地党组织派出党员秘密去十七路军开展兵运工作，积蓄力量，等待时机，在条件成熟时发动武装起义，壮大革命力量。这年春天，习仲勋被中共陕西省委委派到长武县杨虎城部警备三旅三团一营从事兵运工作。

    两当兵变失败后，习仲勋转赴渭北、三原等地开展革命工作。1933年3月，习仲勋任陕甘边游击队总指挥部政委、中共陕甘边特委军委书记、陕甘边革命委员 会副主席，参与创建以照金为中心的陕甘边革命根据地。1934年2月起任陕甘边革命委员会主席，中共陕甘边特委代理书记、军委书记，陕甘边苏维埃政府主 席，参与领导军队反击国民党军“围剿”。

    1935年，中央红军长征到达陕北后，毛泽东在几处村落墙壁和大树上，看见张贴的《陕甘边苏维埃政府布告》，上面署名“主席习仲勋”。后来，毛泽东在瓦窑堡见到习仲勋后，十分惊讶于他的年轻，此时习仲勋年方22岁。

    1945年，抗日战争胜利，32岁的习仲勋任中共中央组织部副部长。原中共中央西北局书记高岗等一大批高级领导干部奉命调往东北工作，在遴选新的西北局 书记一职时，毛泽东说：“我们要选择一个年轻的担任西北局书记，他就是习仲勋同志。他是群众领袖，是一个从群众中走出来的群众领袖。”就这样，年轻的习仲 勋开始负责西北地区全局工作。