旬邑暴動失敗后，陜西各地又接連在中共陜西省委的領導下，舉行了幾次武裝起義，但都很快失敗了。在起義中幸存下來的力量，大多轉移到距離國民黨統治中心較遠的陜甘邊界地區活動，寧縣東部子午嶺山區就是其活動的重要地區之一。這時，大小軍閥紛紛搶占地盤，擴充力量，加之連年饑荒，破產農民紛紛依附，軍閥勢力發展很快。隴東軍閥陳圭璋就在寧縣起家，勢力范圍很快擴大到慶陽、平涼各縣。根據這一形勢，以開展“兵運”建立革命武裝的斗爭形式迅速展開，即打入軍閥部隊內部，策反士兵嘩變，拉出人槍，組建革命武裝。時任中共陜北特委軍事委員會書記的劉志丹，把兵運的目標投向駐在寧縣的陳圭璋部隊，開始在寧縣的軍事活動。

1930年11月20日，劉志丹帶領游擊隊在合水縣太白鎮收繳了地方民團的武器，使游擊隊擴充到400多人。之后，在固城進行整編，共編為4個連，劉志丹任總指揮。次年2月中旬，國民黨軍隊從東西兩面對游擊隊進行“圍剿“，陜北軍閥井岳秀，隴東軍閥陳圭璋也積極配合，企圖一舉消滅這支新生的革命武裝。為了擺脫敵人，保存力量，劉志丹部隊向南轉移。當行至寧縣湘樂鎮張陂原時，忽然與陳圭璋部謝斗的混成旅遭遇，敵人步、騎兵配合猛攻，劉志丹指揮游擊隊沉著反擊，從上午堅持到下午，打退了敵人一次次沖擊，雙方均發生較大傷亡。敵人在東西攻擊受阻的情況下，派騎兵迂回到游擊隊的后面，進行前后夾擊。游擊隊腹背受敵，損失嚴重，加之彈藥消耗將盡，只得撤出戰斗，突圍到付家山，轉經金村退至麻子掌稍事休整后繼續向東轉移到蘆堡梁，才擺脫了敵人的尾追。時值大雪封山，部隊彈盡糧絕，只能找來腐爛的野果、核桃充饑，點篝火御寒，處境極端困難。為度難關，救護傷員，劉志丹派馬錫伍等人前往小石窟，與當地民團團總羅連城取得聯系，得到羅的接濟，游擊隊始得以休養。之后，劉志丹又按照陜西省委指示，與楊虎城騎兵旅蘇雨生部合作，出任該部補充第二團團長，以圖保存實力，求得發展，但劉志丹的兵運活動引起蘇的注意，遂被扣押，補充第二團也被繳械后改編為運輸隊，由陜西省旬邑縣移駐彬縣。不久，劉志丹在黨組織營救下獲釋，于當年6月前往平涼，經陳圭璋警衛團長劉保堂舉薦，被陳任命為新編十三師直轄十一旅旅長。劉志丹與劉保堂遂帶領一個步兵營到寧縣，駐防早勝一帶，很快成立旅部，以曹華民為書記官，陳鴻賓為參謀長，張秀山為手槍隊隊長，并由高崗負責劉志丹與陜西省委的聯絡工作，同時在寧縣城設立辦事處，收容張陂原等地失散人員。各地失散人員聞訊紛紛會集寧縣，很快集中起一支隊伍，開始整訓。