1927年大革命失败后，我们党从血的教训中更加深刻体会到，革命不是请客吃饭，也不是绘画绣花，不能那样雅致，“须知政权是由枪杆子中取得的”。

然而，拿起“枪杆子”的斗争，并非一帆风顺。

在陕甘地区，从陕西省委组织发动的清涧、渭华、旬邑等武装起义，到后来刘志丹、谢子长、习仲勋等深入陕甘地区国民党和地方军阀队伍中开展的兵运工作，都因敌强我弱而失败了。

我们党最懂得从挫折中汲取教训，革命先辈认识到，“搞革命武装，依靠在旧军队里的合法地位招兵买马是不行的，这个教训已经很多了。

还是要走井冈山的道路，发动群众，搞土地革命”。于是，刘志丹和谢子长分头组织农民武装，开展游击斗争，两支队伍后合并改编为中国工农红军陕甘游击队。

游击队的斗争，虽以游击战为主要作战形式，但亦须有巩固的革命根据地作为依托，而根据地的建设和巩固，绝对离不开老百姓的支持。

1932年初，因军阀变本加厉地向农民索粮催款，陇东人民被迫组织起一支农民自卫民团奋起反抗。

当时正在陇东一带活动的陕甘游击队趁势将这支队伍改编为赤卫军，为此后陕甘边革命根据地的建立奠定了群众基础。1932年3月，陕甘游击队以正宁县寺村塬为中心发动和组织群众，创建了陕甘边第一个革命根据地。

同年12月，在宜君县转角镇，陕甘游击队正式改编为中国工农红军第26军第2团，标志着陕甘地区有了正规的工农红军队伍。

1933年3月，中共陕甘边区特委在耀县照金镇成立，并于4月召开了陕甘边区第一次工农兵代表大会，宣布成立以周冬至为主席、习仲勋为副主席的陕甘边区革命委员会。红色政权建设初具规模，土地革命斗争轰轰烈烈。但革命根据地的巩固，亦非一帆风顺。

1933年10月，正值“左”倾错误路线盛行，再加上军事力量对比依然敌强我弱，在红军主力转入外线作战而内线驻守力量薄弱的情况下，照金根据地遭国民党重兵进攻而失守。

陕甘边区特委召开紧急会议，决定建立以陕北安定、陇东南梁、关中照金相互支持的三路游击区，以南梁为中心创建陕甘边革命根据地。

虽兵分三路，但不失核心，陕甘边革命根据地由此打开了游击战的新局面，随后又打破了国民党军对陕甘边根据地的第一次“围剿”，创建了安定、绥清、神府及葭吴等苏区。

到1934年8月，陕甘边革命根据地已经覆盖18个县，面积达到2.3万平方公里。毛泽东曾评价陕甘边革命根据地这种“狡兔三窟”式的创建办法“很高明”。

1934年11月，陕甘边区苏维埃政府成立，习仲勋当选为苏维埃政府主席。苏维埃政府的成立，标志着陕甘边革命根据地进入了大发展时期。

一边建设根据地，一边开展武装斗争。此时，国民党正发动对陕甘边和陕北革命根据地的第二次“围剿”。为统一指挥两个根据地红军和游击队协同进行反“围剿”作战，1935年2月5日，陕甘边区特委和陕北特委召开联席会议，成立了中共西北工作委员会。