1942年8月1日，山東縱隊正式改編為山東軍區，黎玉任山東軍區副政委時在沂水留影。
六
1941年，在敵、頑夾擊和天災禍害之下，山東抗日根據地出現了嚴重困難局面，根據地日益縮小。這年底，日軍出動5萬餘人對沂蒙山區發動空前規模的大“掃蕩”，魯南區被壓縮到“南北十餘里，東西一條線”、“一槍打透”的地步。其他地區也被分割成若干碎塊。但就在這種極端困難情況下，山東分局、八路軍第一一五師和山東縱隊的主要領導人之間發生了嚴重的分歧。他們各自向中央申訴自己的意見，互相批評對方。中央一面令徐向前回延安彙報，一面多次電示山東的主要領導人，要他們加強團結，但成效不大。山東黨的集體領導沒有形成，自然影響了根據地的鞏固工作。
1941年夏山東分局、一一五師和山東縱隊領導在濱海合影。左起：陳士榘、羅榮桓、黎玉、趙鎛、朱瑞、蕭華。
中共中央委託劉少奇赴延安時經過山東，妥善處理好問題。1942年4月10日，劉少奇到達山東分局、八路軍一一五師駐地濱海區臨沭縣朱樊村。劉少奇一到山東，就開始了緊張的工作。他先後和山東分局書記朱瑞談話三天，接著又同第一一五師代理師長陳光、政委羅榮桓談了一天一夜，然後又和山東縱隊政治委員黎玉談了一天。他還主動聽取主動向他反映情況的各部門的意見，仔細翻閱山東分局黨刊《鬥爭生活》和黨報《大眾日報》。經過半個多月的調查研究和認真分析，劉少奇基本找到了山東問題的癥結。在劉少奇的幫助指導下，山東地區的各領導人統一了思想，提高了認識，對山東所面臨的重大問題也從原則上組織上得到了解決。5月4日，黎玉和朱瑞、陳光、羅榮桓致電中共中央，就山東分局的團結問題彙報。電報說：“在少奇同志直接領導下，總結了我黨我軍在山東四年工作並佈置了今後工作。在政治上工作上彼此一致的精神下促成了分局委員會各同志間空前的團結與進步。”這期間，作為山東分局和山東縱隊的主要負責人之一，黎玉做了大量的工作。在總結工作時，劉少奇對黎玉在山東的工作作出了積極的評價，說黎玉是“本地化了的外來幹部”。這是對黎玉恢復山東黨組織，建立山東抗日武裝，建立山東抗日根據地所做工作的最好概括。
1942年4月在山東合影。前排左起：黎玉、劉少奇、蕭華、羅榮桓；後排左起：周長勝、陳光、梁興初、杜明。
抗日戰爭全面爆發後，中共中央要求各抗日根據地加強群眾工作，將廣大人民群眾動員到抗日戰爭中來。根據中共中央的指示，各抗日根據地相繼開展了減租減息運動。但在山東抗日根據地，直到1942年5月，減租減息運動還沒有普遍開展起來。
黎玉對開展減租減息運動，減輕人民負擔，改善人民生活十分重視。1941年5月，他在《山東抗日根據地建設問題》一文中就要求切實做到減租減息。在1942年1月《中共中央關於抗日根據地土地政策的決定》下發後，黎玉對照這個《決定》，檢討了山東抗日根據地的土地政策。黎玉認為，正是因為山東抗日根據地沒有認真地實行減租減息與交租交息的土地政策，所以群眾積極性還不是普遍地高漲，根據地是不鞏固的。黎玉指出，要團結各階層人民，發動廣大的群眾參加抗日鬥爭與民主建設的積極性，來支援敵後的長期抗戰，就必須認真地實行減租減息與交租交息的土地政策。黎玉強調，提出徹底認真地實現減租減息與交租交息的土地政策，是山東目前刻不容緩的緊急工作任務。黎玉要求山東省戰時行政推行委員會根據中共中央決定，“立即審查我們對土地政策執行的情況與深入詳盡的調查研究，制定山東執行的法令，配合農會迅速實現這個法令”。5月，山東分局作出了《關於減租減息改善僱工待遇開展群眾運動的決定》和兩個補充指示。為加強群眾運動的領導工作，山東分局成立了群委會，黎玉任書記。同月，在黎玉主持下，山東戰時工作推行委員會制定頒發了《改善僱工待遇暫行辦法》《租佃暫行條例》和《借貸暫行條例》，並在全省施行。同時，中共山分局在魯中區沂南縣薄板臺村召開全省“雙減”工作會議，黎玉代表分局山東對減租減息工作進行具體部署，確定以濱海區莒南、臨沭兩縣為“雙減”實驗中心縣；以沂南縣橫河村、馬牧池，沂水縣埠前莊為魯中區“雙減”和增資試點村；以文登縣沙柳村、萬家莊，牟海縣十區為膠東區為“雙減”和增資試點區。會後，由山東分局、山東縱隊、省戰工會和抗大一分校抽調200多名幹部組成兩個“雙減”工作團，分赴莒南、沂南進行試點。黎玉親自帶領一個工作團到沂南縣具體指導減租減息運動。黎玉總結出“二五”減租經驗，並將之推廣到各地，使群眾性的“雙減”運動在全省範圍內轟轟烈烈地開展起來。以“雙減”運動為主要內容的群眾運動的深入開展，大大提高了廣大群眾，特別是貧苦農民的積極性，從根本上改善了黨與人民群眾的關係，推動了各項工作的迅速發展，使根據地一天天地得到恢復和發展。
黎玉在全民族抗戰時期使用的日本軍用皮包
抗日戰爭進入1942年後，日軍為了支援太平洋戰爭和南亞戰爭，急謀鞏固後方。這年的3月和10月，日軍連續推行第四、第五次“治安強化運動”，對山東抗日根據地進行大規模“掃蕩”。面對日偽軍的大規模“掃蕩”，黎玉堅持在內線鬥爭，領導山東軍民粉碎日軍的封鎖、“掃蕩”和“蠶食”。10月底，日軍以一萬餘人，分12路對在沂蒙地區北部的山東軍區機關進行合圍。11月初，黎玉率領軍區機關向沂山轉移。2日，在對崮峪被日偽軍8000餘人包圍，黎玉決定憑險堅守對崮峪附近的笛崮山，待天黑後再尋機突圍。從上午10時開始至天黑，先後擊退敵8次進攻。晚7時，黎玉指揮部隊突圍時負傷，右手食指被打斷。此戰共斃傷敵600餘人，我傷亡、失去聯絡的也有幾百人。之後，日軍又連續進行了三次“拉網合圍”，尋找山東軍區機關，但均撲空，在魯中軍民的打擊下，被迫於11月上旬結束“掃蕩”。
黎玉在對崮峪戰鬥中負傷後，即留在魯中區黨委幫助工作。1943年2月10日，痊癒返回山東分局後，黎玉致電彭德懷並報中央書記處，就統一山東領導問題提出了領導機構實行一元化的具體建議，並在電言中說：“我個人任何工作均可。一個方案在分局幫助軍區與黨政工作，一個方案到魯中區任區委工作，不影響分局領導，並能加強地區堅持。”3月12日，毛澤東、朱德、王稼祥以中共中央和中央軍委的名義決定：第一一五師與山東軍區合併，羅榮桓為司令員，黎玉為副政委，蕭華為政治部主任。3月13日，山東分局書記朱瑞、山東軍區司令員兼政委羅榮桓、副政治委黎玉等，在有各地區主要負責人參加的山東軍政會議上，傳達了中央的決定，新的山東軍區正式成立。從此，山東抗日根據地建立了統一的軍事領導中心，解決了統一指揮山東武裝部隊的問題，從而使山東抗日根據地從戰略方針和軍事上達到了完全統一。
黎玉儲存的山東縱隊文獻
9月，中央調朱瑞到延安工作，羅榮桓接替朱瑞任中共山東分局書記。此時，中共山東分局委員有羅榮桓、黎玉和肖華。具體分工是：羅榮桓任書記兼鋤奸委員會書記並負責整風，黎玉任副書記兼組織部長和群委會、財委會書記，肖華負責軍隊政治工作和武工隊工作。至此，山東抗日根據地完全實現了一元化領導。
從這時起，黎玉便與羅榮桓在一起工作，朝夕相處。他們經常住在一個村莊，有時還住在一個院子裡。黎玉對羅榮桓十分尊重，也十分關心。他經常到羅榮桓處商量工作，彙報情況。這時羅榮桓得了嚴重的腎病，時常尿血，雖經多方治療仍不能根除，時好時壞。為了照顧羅榮桓的身體，黎玉在參與全面領導，做好自己分管工作的同時，主動把許多具體、瑣碎的任務承擔起來。由於黎玉和羅榮桓的緊密團結，密切配合，山東抗日根據在在實行了一元化領導後，有了堅強、統一的領導集體，實現了山東黨在思想政治上的一致，組織上的集中統一，保證了黨的方針政策的貫徹執行。
1944年，山東抗日根據地的形勢發生了明顯好轉。廣大軍民在羅榮桓、黎玉、肖華等人的領導下，不僅粉碎了敵人的“掃蕩”、“蠶食”，而且開闢了大片新的抗日根據地。到1944年6月，山東抗日根據地擴大了一倍以上，新解放村莊一萬多個。
