随后，马君武省长邀请韦拔群出任南丹、东兰县长，推辞不就，于1921年9月回到家乡东兰，秘密组织了改造东兰同志会及国民自卫军，号召农民起来“打破不平”、“救家乡、救广西、救中国”，从而成为广西农民运动先驱。

    1923年，组织农民自卫军三次攻打东兰县城，夺取县城，成立了东兰革命委员会，公布四条政策：取消一切苛捐杂税，废除各种契约，提倡民族平等和男女平权。“三打东兰”是中国现代农民革命运动史上最早的一次武装起义。

    由于他在家乡闹革命屡遭土豪劣绅的镇压，以致被通缉，1924年8月离开家乡赴广州，1925年1月进入第三届广州农民运动讲习所学习。结业后被委派为农运特派员，返回广西继续开展农民运动。1925年5月，回到家乡，广泛进行宣传、发动群众，更加积极地开展农民运动，组织农会、农军，大力开展反对帝国主义，反对封建军阀、打倒贪官污吏和土豪劣绅的斗争。经宣传发动，农民群众纷纷觉悟，东兰县各区、乡相继成立了农民协会。8月，东兰县农民协会成立，任军事部长。为了进一步发动群众，同年9月，领导创办了广西最早的农民运动讲习所，先后在东兰开办三期农讲所，任主任，为右江地区各县培训农运骨干500多人，有力推动了广西农民运动的迅速发展。

    1926年夏秋，中国共产党为加强对左、右江农民运动的领导，成立了苍梧、镇南、田南三个农运办事处，他先后任田南农运办事处主任兼一路农军总指挥。1927年蒋介石发动四一二反革命政变后，桂系军阀伙同地方反动武装于8月大举进攻东兰，妄图血腥镇压农民运动。韦拔群亲自率领提前结业的第三届农讲所学员和右江地区的四县农民自卫军迎击敌人，一度围困敌人达一个月之久，沉重打击了敌人的气焰。四一二反革命政变后，他领导右江地区的农民自卫军，坚持公开的武装斗争，打击敌人。在斗争中发展和壮大了农民武装，为红七军的诞生奠定了基础。1926年冬，加入中国共产党。

    1929年出席广西省第一次农民代表大会，当选为广西农民协会副主任委员。12月，参与领导百色起义，建立右江苏区，任右江苏维埃政府委员、中共工农红军第七军前敌委员会委员、红七军第三纵队司令员。1930年3月，韦拔群与邓小平一道在东兰武篆领导土地改革的试点工作。1930年10月任红七军二十一师师长。11月红七军主力离开右江苏区时，他奉命负责留守右江革命根据地，同时把二十一师的绝大部分兵力、武器补充给北上的部队，仅带领数名警卫员和一个红军番号返回右江地区，留在家乡发动群众，组织扩建部队，很快重新组建起红七军二十一师，任师长，在极其艰苦的条件下领导坚持游击斗争，反击国民党军的多次“围剿”。1931年11月被选为中华苏维埃共和国中央执行委员。这一年，率红军先后粉碎了桂系军阀对根据地发动的两次“围剿”，保卫和巩固了右江革命根据地。1932年10月19日在第三次反“围剿”中遭叛徒暗害，不幸牺牲。