新中國成立後，軍隊建設按照蘇聯編制，成立8總部，分兵是總參謀部、總政治部、總後勤部、總有訓練總監部、總幹部部、總財務部、總軍械部、武裝力量監察部。
此外還設有陸軍、海軍、空軍、防空軍、公安軍五大軍種。這導致體制重疊、龐雜，運作效率不高。
身為副總參謀長的張愛萍認為，按照傳統的司令部體制好，總幹部可以與總政治部合併，總財務部可以與總後勤部合併，軍械部、裝備部、訓練總監部可以合併到總參，監察部用處不大，可以撤銷。
為此，他向負責軍委工作的彭德懷彙報。
彭老總對於張愛萍的設想，是支援的，但也有顧慮，因為各單位都在井然有序地進行工作。拆廟的工作一時不好解決，直到1957年才算敲定。
對於八總部合併相對比較容易一些，可在討論是否撤銷公安軍和防空軍的問題上，發生多次爭執，張愛萍甚至與防空軍司令員楊成武派了桌子，撂了狠話。
當時，防空軍也是按照蘇聯編制進行，防空軍只有地面部隊，如果調動飛機，需要向空軍借調。如果遇到打仗，空軍能否分出來一部分給防空軍呢？
空軍有自己的地面部隊，相對較弱，防空軍有自己的地面部隊，卻沒有自己的飛機，如果兩個軍種合併，不等於優勢互補嗎。而且他們在執行任務，都基本上一樣。
對於能否撤銷防空軍，需要找防空軍司令員楊成武做工作。在張愛萍看來，哪一支部隊都不是自己的私有財產，應該從全域性出發考慮。可他找楊成武時，人家都不在，是不是故意躲著他，不得而知。
之後，在一次討論會上，張愛萍與楊成武坐到一起分別闡述各自堅持撤銷和不撤銷的理由。
楊成武認為防空軍經過幾年的發展，已經初具規模，完全可以獨立執行任務。從旁人的角度可以理解，防空軍畢竟從無到有，再到強，付出很大心血才發展起來。說撤銷就撤銷，部隊戰士們會怎麼想。
站在軍隊建設高度上講，合併確實是有益無害的。為此，在討論時，楊成武說：吃我？歷來是我的部隊吃掉人家！這把張愛萍給激著了，張愛萍拍著桌子喊道：“我今天就是要吃掉你！”
會議沒有辦法開下去了。
其實，在處理這樣的問題時，張愛萍說話比較直接，沒有注重方式方法，他也知道自己的脾氣和性格。
不過，最終1957年1月，軍委確定撤銷防空軍，將防空軍併入空軍。
張愛萍與楊成武在撤併問題上，沒有個人恩怨，一切都是為工作，只是站的角度不同而已。
