在開國少將中，擔任過三個大軍區正職的將領並不多見，郭林祥將軍就是其中一位。
他先後擔任成都軍區、新疆軍區、南京軍區政委，而且還擔任過總後勤政委、軍委紀委書記兼總政副主任，可以說倍受重用。
1985年，軍隊迎來精簡整編，他從南京軍區調任北京任職，他思想上是不願意的，決定京官難當。楊尚昆對他說：必須來這，這是組織決定的，並不是哪一個人定的。
既然是組織決定，他只有服從命令。
不過，他對楊尚昆說，自己只幹一年就下來。
當上任軍委紀委書記幾個月後，中央又任命兼任總政部副主任，並且日常工作由他來主持。身兼兩職後，他的工作重心在總政，軍隊紀委的日常由副書記主持，大事向他報告。
他認為作為軍隊政治工作和紀律檢查機關，必須加強自身建設的重要性，只有建設好，才能有效抓好政治和紀檢工作，才能為全軍樹立表率。
他在擔任軍隊紀檢和政治工作時，提出很多建設性的意見，形成檔案報告，傳達到全軍中，也解決許多歷史遺留問題，像一些老幹部待遇低等問題。
不知不覺在任5年，直到1990年已經76歲的他，主動邀請從工作崗位上退下來，軍委同意他的邀請。
不在其位，不謀其政。
他保持一種良好的心態，生活比較規律，做一些力所能及的事情，使得他腦子比較清醒，記憶力沒有衰退。生活規律形成後，他的精神狀態很好，90歲時很多人很羨慕他是怎麼保養的。
他對家人、親屬進行優良傳統教育，讓他們牢記革命成功勝利不易，幸福生活來之不易。
