自唐末以來，皇帝怕武將武將怕小兵，宋太祖手段毒辣，其中驕兵橫行。自唐末以來，武將橫行霸道，顛倒朝廷成了皇帝的剋星，而武將手下的兵痞也不是好惹的，往往為了錢財或女人，發動兵變殺死或趕走武將，為了討好這些兵痞武將只能放縱他們欺壓百姓，為此形成了皇帝怕武將武將怕小兵的怪圈，宋朝要長治久安，就必須跳出這個怪圈。
宋太祖採取了循序漸進的方法，陳橋兵變時太祖，只能低聲下氣地與驕兵悍將商量求他們入城不要殺掠，太祖既未出騎手下清兵還很囂張，曾有人晚上夜巡時，到宰相範志家討酒喝坐下就賴著不走，宰相無奈拿出白金千兩，這才呼嘯而去，太祖聽說此事只悄悄地把那清兵趕走了事。
春天朝廷徵民夫來修駿都城，流民服企圖逃走，一個禁軍小軍官一怒之下殺了十幾個名副小隊長或是把逃亡者的左耳割去，武夫濫刑在以前是很普遍的，而兵部尚書連夜上奏痛陳其弊，請殺了驕兵以謝天下，宋太祖非常讚賞大臣的意見，但多方考慮之後還是發配了事。
宋晉軍攻蜀時，太祖還許諾將士任取財物，由於引起了大規模反抗，太祖十分後悔，以後攻佔之前就十分強調紀律，收拾悍將太祖要開始狠狠整治驕兵，首先從禁軍中淘汰出老弱與驕兵到地方，然後把一些強壯又精通武藝計程車兵作為兵將頒佈各地，令各地照此樣抽送精兵，禁軍的待遇高於地方，他又從禁軍中挑出一些更為精壯的做為皇帝的侍衛稱為諸班值，這些侍衛經過精心挑選，武藝都十分了得。
有一次，地方獻來一頭猛虎，皇帝來觀賞令人餵它一條羊腿，誰知猛虎吞嚥過快羊骨梗在喉中，太祖對左右使各顏色一個侍衛便伸手從虎口中取出羊骨，而自己一無所傷。又一次一隻漂亮的小鳥在宮中最高樓的屋頂上啼叫，太祖隨口說有誰能替我抓到它，便有一個侍衛應聲出列攀巖走壁抓到了這隻鳥，看的人嚇得魂飛魄散，而他神色自若，所以侍衛的待遇地位又在禁軍之上，然而侍衛如果不聽話照樣要嚴懲。
平蜀之後，太祖從蜀軍中挑了一些精兵，做侍衛，稱為川電軍，不久，朝廷舉行大典按列善錢給侍衛兵，可川電軍士兵要比老侍衛少五千錢，這些川兵在後蜀時都是天不怕地不怕的驕兵，誰受得了這個便一窩蜂跑到登文古院鬧起事兒來，太祖大怒吼到朝廷賞賜我說了算，你們是什麼東西？當即下令把帶頭的40個人當眾斬首，其餘士兵發配邊遠地區廢除川電軍編制，其他禁軍士兵要敢亂鬧，更要嚴懲，
有一年，太祖對一個禁軍軍官說你的部下是剛招來的，有的可能還沒有結婚，如果有願意嫁士兵的婦女就讓他們成親，公家可以為他們備些酒肉，那個軍官一聽誤會了太祖的意思，就縱容士兵大搶婦女弄得整個京城騷動不安，太祖聽說之後十分震驚，馬上派部隊出發抓了100多個士兵當場斬首，並且告訴地方官以後士兵鬧事要馬上報告，有時這種嚴懲也是非常殘酷而沒有道理的，一次內酒房失火，太祖命名將主管軍官以下數十人統統殺死，內部人院被逼無奈供出了失火士兵便馬上綁起投入火中，從此各單位都不敢大意，宮裡再也沒有出事，就是用這種毒辣的手段，宋太祖才制住了驕兵，正如俗話所說，不要命的服不要臉的。
