1982年3月25日，時任軍委秘書長的楊尚昆，正式將鐵道兵司令員陳再道、政委呂正操和曠伏兆以及鐵道部的劉建章、劉祥林召集來，當面傳達了鄧小平“撤銷鐵道兵”的指示，並且堅定的表示“沒有二話可講”。
此前訊息剛剛傳出來的時候，軍中就已經開始議論紛紛，不少人都提出了異議，對於這一決定並不認同，而為了能將鐵道兵保留下來，陳再道等人更是做了很多努力。可到如今，鄧主席的態度還是如此堅決，眾人只能無奈接受。
不過隨後鄧主席也託楊尚昆給了鐵道兵們一個正式回覆，雖然只是短短的一句話，卻讓眾人心服口服，那麼鄧小平當時究竟說了什麼？他又為何堅決要裁掉鐵道兵？這一決定對於我國未來的發展又有怎樣的影響呢？
1975年，鄧小平第二次復出，緊接著便開始整頓起了軍隊的工作，這時，解放軍副參謀長何正文向他提出了裁掉鐵道兵的建議，鄧小平將此事放在了心上，沒多久便同意了何正文的建議。
隨後，中央軍委正式召開了會議，擬定要將鐵道兵保留14萬人，再由國務院和中央軍委一起領導，人員就不計入軍隊的定額，所需要的經費也是計入國家的工程費用，至於工程技術業務就交給鐵道部指導。
這一方案剛出爐，就引起了大多數鐵道兵同志的反對，加上之後因為國內形勢變化太快，相關方案也沒有施展開來，此事便耽擱了幾年。一直到國內形勢出現好轉，鄧小平第三次復出，並且正式成為了中央領導集團的核心，裁撤鐵道兵一事便再次被提及了起來。
當時國家決定將鐵道兵所需要的全部費用單獨計算，次年，又將其與國防費分開。而鐵道兵為了給軍隊減輕負擔，便開始嘗試“軍費自給”，為此還主動接下了不少國家鐵路計劃外的建設任務，可即便如此，也改變不了他們即將被撤掉的命運。
1980年下半年，中央軍委制定了有關於軍隊的精簡方案，其中就提到要將鐵道兵裁減至17萬人，並撤銷壓縮相關機構。
次年，在鄧小平擔任了中央軍委主席，正式成為了人民軍隊的最高統帥後，便立即下達了相關指示，於是軍委秘書楊尚昆就立即把鐵道兵軍以上的幹部聚集在了一起，討論該怎麼更好的解決鐵道兵的問題。
當時在會上大家一致覺得，鐵道兵在戰場上和和平年代都立下了不少功勞，所以應該保留下來，人員可以減少一些，之後又有人提出可以將他們與鐵路工程局合併，仍然是屬於軍隊系列，只不過就是不吃軍費自負盈虧。但合併一事究竟是怎麼個合併法？是士兵改成工人？還是工人改成士兵？沒人給出個合理的解決方法。
1982年，鄧小平提議要撤銷鐵道兵建制，把人員併入鐵道部基建隊伍，訊息傳出之後，便迅速在軍中引起了討論，反對聲也是此起彼伏，當時司令部的門檻都快要被踏破，因為幾乎每天都有軍官跑來找司令員陳再道，希望他能努努力，向中央提出保留鐵道兵。
陳再道在司令部已經工作了五年，對於這支軍隊也有了很深的感情，現在眼看著它即將不復存在，自然是要為此事多多奔走。
於是，為了確認命令的真假，陳再道立即去找了解放軍總參謀長楊得志，詢問他鐵道兵是不是真的要脫下軍裝和軍隊脫鉤，而對方停頓了片刻後，回覆了他一句：“是的”，隨後就簡單將事情解釋了一下，陳再道聽完後心裡很不是滋味，但無論如何他都得將此事告知眾人。
在2月份召開的鐵道兵常委會上，陳再道正式宣佈：“小平同志已經拍板，鐵道兵和基建工程兵與軍隊脫鉤，併入鐵道部！”眾人討論過後表示願意遵從國家的決定，但還是希望能留下鐵道兵，很快，他們便集體將意見上呈給了鄧小平。
幾天過後，解放軍副總參謀長張震約見了陳再道，在與他商量過後，便承諾一定會把他們的意見傳達給鄧主席。結果沒想到，鄧小平給出的回答還是一樣，鐵道兵不能留下任何人，必須全部都轉業。
同年3月，軍委秘書長楊尚昆又將陳再道、呂正操、曠伏兆以及劉建章、劉祥林等人召集到了一起，當面向他們下達了鄧小平的指示——“撤銷鐵道兵建制已經做了決定，沒有二話可講。”眾人得知已經沒有迴轉的餘地，便接受了命令。
其實鄧小平的態度之所以如此堅決，也是因為考慮到很多方面的問題，早在抗日戰爭時期，毛主席就多次實行過“精兵簡政”的政策，這樣也方便於我軍能輕快的與日軍戰鬥，並在最後獲得勝利。
新中國成立之後，裁軍行動依舊在繼續，當時國內的各項工作都在緩慢有序地展開，國家的財政支出也在一年年的增長。而當政府發現投入到軍事領域的支出尤其多的時候，為了不給國家造成負擔，裁軍也就被提上了日程。之後就算是遇上了抗美援朝，相關工作也沒有停止，到了1958年底，全軍的總人數已經降為了240萬。
然而進入六十年代之後，隨著國家在國際社會上面臨的困境越來越多，周邊的環境也時刻存在著危險，軍隊的數量便又開始增長起來，短短十幾年的時間就猛增至640萬。
直到鄧小平上臺，開始整頓軍事之後，他才深深意識到，雖然國家仍舊面臨著戰爭危險，但總的來說國際上的形勢還是趨於和平，所以還是減少些軍隊開支為好。
當然這也只是一部分原因，根據他的瞭解，當時軍隊已經十分“臃腫”，軍中還出現了散漫、驕奢、懶惰的現象，如果不進行精簡，將來萬一打起仗來，必然是要耽誤事的，所以鄧小平便準備先給軍隊“消腫”，而鐵道兵也就首當其衝。
不過與別的軍隊相比，鐵道兵這支隊伍是很特別的，也是很受人尊敬的，它最早出現在1946年，當時國共兩黨之間剛開始交戰，而它也還叫做東北人民解放軍護路軍，領頭人則是蘇進。同年5月，經東北民主聯軍司令部命令，鐵道司令部正式成立，蘇進便被任命為了司令。
隨後，東北民主聯軍司令部又給鐵道司令部調過去了一部分人兵力，而他們的主要任務就是待在鐵路沿線的橋樑、隧道以及車站的附近，勘察有沒有特務或者土匪活動，同時還要配合鐵路上的員工搶修鐵路橋樑。當時因為有了他們存在，國民黨軍和土匪的破壞計劃大多都未能成功。
到了1948年，鐵道司令部再次加入了一千多名鐵路員工，同時還吸收了擁有八千多人的二線兵團，共同組成了東北人民解放軍鐵道縱隊，並且又分設了政治、工程、供給、衛生等部門，官兵總共加起來能有17000多人。
規模越來越大，任務也就越來越重，隨著戰事逐漸吃緊，為了能讓前線的解放軍及時獲得補給，鐵道縱隊一直都忙碌在華北和東北地區搶修鐵路，及時地支援了多場戰役，而當時他們的口號就是“野戰軍打到哪裡，就把鐵路修到哪裡！”
新中國成立前夕，中央軍委又下達命令，將第四野戰軍鐵道縱隊擴編成中國人民解放軍鐵道兵團，並且由軍委鐵道部部長直接領導，於是鐵道兵又增加了為了三萬多人。而到了1949年底，鐵道部隊已經修復訊號232站，橋樑976座，線路1629公里以及車站房屋5898平方米，可以說是“戰功累累”。
1950年10月，中國人民志願軍前去抗美援朝，一個月後，鐵道兵團也加入了戰場，主要負責工程保障。
初期他們面臨的形勢非常嚴峻，當時志願軍中還沒有航空兵，這就讓美軍在空中佔據了極大優勢，他們常常開著轟炸機過來投炸彈，把志願軍的鐵路補給線給炸的一片狼藉。而除了有美軍的威脅之外，自然災害也是一大影響因素，像朝鮮就曾發過一次大洪水，使得本就已經遭到毀壞的鐵路更加破敗不堪。
不過這並不能難倒鐵道兵團，憑藉著過往的豐富經驗和頑強英勇的意志，他們不懼艱險，頻繁反覆對鐵路進行修補，甚至犧牲了很多官兵，最後不僅完成了任務，還將通車裡程從原來的一百多公里延長至了一千三百多公里。
連當時的美國空軍都曾感慨，即便他們一直在轟炸共產黨的運輸系統，但北朝鮮卻一直有火車在行駛，他們都是世界上最堅強的建築鐵路的人。
等到從抗美援朝戰場上回來，鐵道兵團便被統一編為了中國人民解放軍鐵道兵，也正是從這個時候開始，鐵道兵正式成為了一個兵種，而毛主席和朱德還相繼為《鐵道兵》報題了詞，不久後，鐵道司令部正式在北京成立。
沒過多久，鐵道兵又接到了新的任務，那就是修建鷹廈鐵路，主要就是為了解決臺灣問題。早先清政府就提過這一想法，奈何當時力量不夠，他們也搞不出這麼大的工程，於是就沒繼續下去，既然現在有了鐵道兵，就可以正式開始施行。
當時的鐵道兵們一面要在風高浪急的情況下“填海”，一面還要對付敵機的突襲，可以說是困難重重，但在眾人的共同努力下，僅僅過了22個月，鷹廈鐵路就順利完工，而在接下來的幾年裡，鐵道兵又相繼修建了成昆、貴昆等多條鐵路。
之後抗美援越戰爭正式拉開序幕，鐵道兵便又趕赴了越南，面對美軍的狂轟濫炸，他們仍舊不畏艱險視死如歸，為了完成任務，就算是冒死也要繼續下去。等到戰爭結束之後，犧牲的鐵道兵已經達到了392名，負傷人數更是多達1862名，但正是因為有了他們的付出，才在戰場上開闢出了一條勝利的道路。
時間來到1974年，鐵道兵的人數已經達到了43萬人，而他們的歸屬也開始被提上了日程。此時世界局勢逐漸穩定，國家也需要進行裁軍，不能投入太多的財力在軍事方面，至於鐵道兵也已經完成了他們的任務，為了國家未來的發展，不能再繼續保留。
然而這支存在了二十多年的部隊，曾經在戰爭年代和和平年代都建立了無數軍功，說撤掉就撤掉的話，顯然是不太容易，當時連很多老將軍都持反對態度，更有人提出，不如將他們拆開來分到不同的軍區也行。
再就是鐵道部的司令員、政委以及各個相關人員，都希望中央能將其保留下來，萬一將來再次發生戰爭，他們還能再上。然而面對這一提議，鄧小平卻始終堅持最初的想法，撤銷鐵道兵，並將其併入鐵道部。
其實他很明白戰士們對於部隊的深厚感情，所以為了給眾人一個交代，他也真誠地回覆道：“打起仗來，鐵道部都是鐵道兵！”。
而有了鄧小平的這句話，鐵道兵便不再有任何疑問，他們也知道即便自己不再是鐵道兵，但只要是鐵道部還在，他們堅守著的鐵道事業、承擔的使命以及國家的信任永遠都在！
