紅二十八軍的將士們，第一次送走的，是在鄂豫皖第四次圍剿中敗退的紅四方面軍；紅二十八軍的將士們，第二次送走的，是奉命撤出鄂豫皖的紅二十五軍。紅二十八軍卻留在了大別山區，開展了三年艱苦卓絕的游擊戰爭。
1932年10月，紅四方面軍撤出鄂豫皖根據地開始，蘇區遂淪為敵佔區，中共鄂豫皖省委於12月決定恢復根據地的各級黨組織並組建紅二十八軍。
1933年1月上旬，由紅二十五軍第221團和特務營為基礎，成立中國工農紅軍第二十八軍，軍長廖榮坤、政委王平章、政治部主任程啟波，轄兩個團一個特務營，共約3000人。
王平章
4月，紅二十八軍一部留在皖西，主力轉戰至鄂東南與紅二十五軍會合，並進行整編，以集中力量對付國民黨軍對鄂豫皖根據地的“圍剿”。紅二十八軍主力改編為紅二十五軍73師，留在皖西的部隊和部分游擊隊組成紅二十八軍第82師。
1933年10月，紅二十五軍74師部分部隊返回皖西，與紅二十八軍82師會合，重建紅二十八軍，軍長徐海東，政委郭述申，下轄82師、84師兩個師。
1934年4月16日，紅二十五軍達到皖西於商城豹子巖和紅二十八軍會師，紅二十八軍再次編入紅二十五軍。
1934年11月，鄂豫皖省委根據中共中央的指示，率領紅25軍離開鄂豫皖根據地，進行長征。
1935年2月3日，中共鄂豫皖省委決定將分散在鄂豫皖各地的紅軍游擊隊集中起來，重新組建紅二十八軍，由原紅二十五軍75師政委高敬亭負責完成了組建工作。全軍共1400餘人，高敬亭任政委兼軍長。
1937年12月底，高敬亭、肖望東代表紅二十八軍到漢口八路軍辦事處，參加了中共中央長江局召開的部隊改編會議，確定紅二十八軍和大別山紅軍游擊隊改編為新四軍第四支隊。
高敬亭
1938年2月16日，新四軍第四支隊完成組建，高敬亭任司令員，林維先任參謀長，政治部主任肖望東(後戴季英)，轄第7、第8、第9團、手槍團和直屬隊，共3100餘人。支隊機關以紅28軍機關為基礎，設參謀處、政治部、經理部、衛生部。
林維先
新四軍第四支隊領導人：
第7團由紅28軍第244團第1營、部分便衣隊和新兵編成，團長楊克志(後林英堅)，政治委員曹玉福。
第8團由鄂豫邊區紅軍游擊隊編成，團長周駿鳴，政治委員林愷。
第9團由紅28軍第82師特務營、鄂東北獨立團、部分便衣隊和新兵編成，團長顧士多，政治委員高志榮。第9團於1938年7月撤銷，12月重建，團長詹化雨，政治委員胡繼亭。
梁從學
手槍團由紅28軍手槍團、部分便衣隊和新兵編成，團長詹化雨，政治委員汪少川。1938年7月撤銷手槍團，成立教導大隊和挺進團。教導大隊大隊長李世安，政治委員江嵐。挺進團團長成鈞(後梁從學)，政治委員祝世鳳(後彭勝標)。
第4支隊還領導東北流亡抗日挺進縱隊、第2遊擊縱隊、淮南抗日遊擊縱隊等抗日武裝。
1938年3月8日，新四軍第四支隊在紅安七里坪召開東進誓師大會，會後開赴皖中、皖東抗日前線。
留下來的紅軍處境十分艱難。國民黨軍隊與地方民團，實行“移民並村”“埋雷霸路”“路路跟蹤”“伐林搜山”“半夜摸魚”(半夜摸進村搜查),瘋狂殺害紅軍傷病員和革命群眾，房子、莊稼和樹木全都被燒燬，年輕女性被賣到外地，許多無辜平民被餓死甚至慘遭殺害，製造了很多無人區。
高敬亭在與中共中央和省委失去聯絡的困難條件下，率領重建後的紅二十八軍，始終堅守鄂豫皖蘇區，進行了三年艱苦卓絕的游擊戰爭，摔打和錘鍊出一支百鍊成鋼的紅軍部隊。
三年期間，紅二十八軍以不足2000人的兵力，轉戰於鄂豫皖邊區的崇山峻嶺，成功粉碎了國民黨的“清剿”，牽制了國民黨軍最多時達到約68個團，約17萬人，殲敵18個營另15個連，以及大批反動民團武裝。
紅二十八軍是中共工農紅軍主力長征北上後，唯一成建制地留在南方堅持鬥爭的紅軍部隊。
紅二十八軍，雖未長征，卻不亞於長征！
