1927年3月，黄参加了上海工人第三次武装起义。"四一二"反革命政变后，他到武汉准备入中央军事政治学校学习，但由于宁汉合流后汪精卫也开始"清党"反共，遂离开武汉，辗转返回陕西三原，在家乡开展革命活动。

1928年4月，黄领导了三原县万名农民群众的交农斗争。5月上旬，根据中共组织指示，以他为总指挥，组织武字区武装力量，领导了与渭华起义相呼应的三原起义。

1929年春，陕西灾情严重，黄按照中共陕西省委指示，在三原武字区成立地方筹赈委员会， 带头捐粮，救济穷苦农民。同年9月，他在武字区成立了中共三原特别支部并任书记，领导泾阳、淳化、三水(今旬邑)、正宁(属甘肃省)、彬县等地中共组织和中共党员开展革命斗争。

1930年2月，国民党三原驻军以"组织灾民扰乱社会治安"的罪名将黄逮捕关押。他不怕严刑拷打，表现了一个共产党员的崇高气节。不久，在中共组织和人民群众的营救下获释出狱。 同年6月，与共产党员陈云樵在三原武字区长坳堡组织成立渭北灾民自救队， 陈任队长，黄任政委。7月上旬，在中共陕西省委第五次扩大会议上，被选为省委候补委员，11月，中共陕西省委派黄去天津中共中央北方局工作。12月，中共中央常委会议决定取消北方局，中共陕西省委划归新设立的中共河北省委领导，河北省委派黄去山西从事士兵运动。

1931年夏，中国工农红军晋西游击队成立，黄任政委。后来，这支革命武装在强敌围攻下西渡黄河，改为陕北游击支队，与杨琪的民间武装以及刘志丹联络的少量民间武装会合， 改编为中国工农红军陕甘游击总队。

从1932年4月至1934年，黄先后担任陕甘游击队第五支队政委、陕甘游击队总指挥部政治部主任、陕甘游击第一步兵大队政委、中共渭北特委委员、渭北(原富耀)革命委员会主席、陕甘边区游击队总指挥部总指挥、红二十六军第四十二师政治部主任、陕甘边区第三路地区办事处主任、陕甘边南区革命委员会主席等职，为西北红军和苏区建设做出了重要贡献。

1935年9月， 黄在陕北错误肃反中被捕关押，直到毛泽东和中共中央率红一方面军长征到达陕北后，始获释出狱。

1936年春，任红军大学政治教员。

1937年秋，任庆阳县抗敌后援会主任。

1938年到安吴青训班学习，并任农民连连长。后来，他曾去延安马列学院学习，受到高岗的政治迫害，被迫离开陕甘宁边区，并失去中共组织关系。 解放战争时期，黄活动于渭北一带，筹集资金，购买枪支，组建武工队;争取和策动国民党地方武装起义;破坏交通，袭击国民党军运输车辆，为西北野战军南下关中、 解放西安创造有利条件。