1931年3月中旬，敌人先后调集10多个师10余万兵力，准备对鄂豫皖苏区进行第二次围剿。鉴于第一次围剿中部队行动不一致，被红军各个击破的教训，敌军改取“追堵兼施”的作战方针，以3个建制师(缺2个旅)组成“追剿”队，专寻红军主力作战；其余部队分布于苏区周围，配合“追剿”部队堵击和“清剿”。第一步计划合击新集、七里坪，歼灭鄂豫边红军；第二步转向皖西作战。4月上旬，敌各线堵击部队开始在苏区边沿区展开清剿，皖西之敌乘红军主力未在，首先侵入麻埠，进往独山，伺机进攻金家寨。红4军决定集中主力求歼深入皖西苏区之敌，4月25日，一举攻克独山镇，全歼守敌1个多团，首战告捷。入侵皖西之敌仓皇退出苏区。
敌追剿部队乘红军主力在皖西作战之际，相继侵占新集、七里坪。敌进入鄂豫边苏区以后，因地势险恶，道群众反对，时时处于我人民游击战争袭扰包围之中，惶惶不可终日，不敢久留。5月上旬，敌准备实施第二步计划，转向皖西寻我红军主力作战时，红4军迅速西进，在符湾歼敌第53师近千人，5月底围攻黄安、宋埠间敌供应线上之桃花店据点，先后歼敌近4个营。敌追剿部队到处扑空，各线堵击部队处处挨打，蒋介石梦想5月底肃清鄂豫皖红军的第二次围剿又告破产。
鄂豫皖苏区第二次反围剿时，中共六届四中全会后的党中央派张国焘、沈泽民、陈昌浩到达鄂豫皖苏区。5月，张国焘在新集召开会议，根据中央决定，撤销原有的党和军队的领导机构，成立中共鄂豫皖中央分局、新的鄂豫皖革命军事委员会和中共鄂豫皖省委，由张国焘任中央分局书记兼革命军事委员会主席，曾中生、邝继勋任副主席，沈泽民任省委书记。不久，还成立共青团中央鄂豫皖分局，陈昌浩任书记。红4军的领导干部也作了调整，军长仍为邝继勋，政委曾中生。7月，鄂豫皖边区召开第二次苏维埃代表大会，选举高敬亭为鄂豫皖苏维埃政府主席，王平章为人民委员会委员长。
7月中旬，红4军军长徐向前(邝继勋已调任第13师师长)、政委曾中生为配合中央苏区第三次反围剿作战，率军部和个多团兵力，冒着酷暑，由豫南地区南下作战。他们从实际出发，转战英山、薪水(今浠水)、罗田、广济等地，连克四城。歼敌7个多团，生俘5000个人，牵制了敌准备调往江西的部分兵力，有效地配合中央苏区的反围剿斗争；同时扩大了地方武装，筹集一批经费，形成了以英山为中心的新苏区。但张国焘借口红4军没有按他的主张，攻占英山后出潜山、太湖，相机攻占安庆，威胁南京，而“错误”地擅自南下靳黄广作战，严令红4军火速返回。红4军北返后，即宣布撤销曾中生的职务，由陈昌浩接任政治委员。接着召开会议开展批评与斗争，并在红军和地方中开展大规模的肃反，先后以所谓“改组派”、“第三党”、“AB团”等莫须有罪名，柄杀了戴克敏、曹学楷、许继慎等一大批党政军领导干部，严重地削弱了党和红军的战斗力，损害了党的威信，破坏党的民主集中制和军队内部的民主生活，造成党内盲目服从的气氛，使张国焘逐步建立起军阀主义的家长式的个人统治。
