木村兵太郎是日本埼玉縣人，1888年9月出生，畢業於陸軍士官學校和陸軍大學，歷任參謀本部部員、駐德國大使館武官、陸軍大學教官等職。
1929年倫敦裁軍會議時，他作為隨員參加了會議，當時就積極主張擺脫西方國家對日本的約束，鼓吹自主發展軍備。
“九一八”事變爆發後，木村先後任野炮第二十二聯隊聯隊長、整備局統制課長、兵器局長、第三十二師團師團長等職，1940年，升任關東軍參謀長。
是時，由關東軍挑起的諾門罕戰役剛剛結束，日本中央軍部遷怒遭受重挫的關東軍，由梅津美治郎和木村兵太郎接替關東軍司令官和參謀長職務。木村上任後，繼續堅持陸軍派的強硬立場，積極醞釀關東軍特別大演習，籌劃對蘇開戰。
1940年7月，東條英機就任近衛內閣的陸軍大臣，上任伊始就暴露出實施軍事獨裁、發動更大戰爭的野心，積極拉攏和拼湊自己的親信班底。
時為陸軍大將的木村兵太郎成為東條的首選物件，被推舉為陸軍省次長。從這時開始，木村作為東條最為信賴的部屬之一，夥同東條等人把戰火燒向太平洋戰場。
1941年10月，近衛內閣宣佈總辭職，東條英機趁機登臺組間，不僅出任內閣總理大原，還身兼陸軍，軍需、內務大臣等職，木村兵太郎雖然仍居陸軍省次長之職，但實際上與軍務局長武非章共同執掌起陸軍省的大印，為東條內閣發動更大的軍事冒險籌劃一切。
10月24日，東條內閣主持召開大本營聯席會議，按照陸軍省提出的計劃，全面部署了對美開戰的一切事宜、會後，南方陸軍部隊迅建向作戰地點集結，海軍也以鹿兒島為模擬作戰場所，終日進行襲擊珍珠港的作戰演習。
在這一系列的軍事部署中，木村是具體的策劃者和指導者。11月5日，御前會議召開，最後批准了木村等人提出的陸軍省對美、英、荷作戰計劃，決定於12月初正式宣戰。
1939年3月9日，木村兵太郎被任命為日本侵略軍第三十二師團師團長，從此他開始步入了職業軍閥生涯，開始了對中國人民生命的踐踏。木村兵太郎上任後不久，就立即準備對中國山東抗日根據地進行瘋狂掃蕩。
4月14日，木村兵太郎率領8000多名日軍對魯南抗日根據地進行掃蕩，在他率隊“出征”前對部隊下達命令，要不惜一切代價全殲八路軍及根據地，還要施行“三光”政策。
但是，當日本侵略軍進入根據地後就遭到了八路軍第一一五師的游擊戰的重創，氣急敗壞的木村兵太郎便命令日軍士兵對手無寸鐵的中國老百姓進行血腥屠殺，並將2000多名老百姓關押在新華院集中營做苦工。
從此，這座新華院集中營就成了中國勞工的“閻王殿”，很多山東勞工在被擄掠至日本和東北的偽滿洲國之前，都會被送到新華院集中營進行“訓練”。每一個被送到這裡的勞工，每天都會被抽出200毫升的血，日軍欺騙勞工們說是做化驗，其實是供日軍傷員輸血，有很多人都因抽血過多而致死。有些反抗者會被嚴刑拷打，甚至被放出的狼狗撕咬。
集中營的牆上圍著高壓電網，很多逃跑的勞工都被電死在上面，而被抓回來的，死去勞工的屍體會被剝去衣物，用車拉到濟南西郊的“萬人坑”。濟南的這座“萬人坑”不過是日本侵略者在中國製造的無數“萬人坑”其中很小的一座而已。
木村兵太郎命令偽滿洲國的關東軍將勞工送到礦區，並且命令勞工們在礦山附近挖“萬人坑”，因疾病、礦區事故、勞累等各種原因死去的勞工就被埋在這些“萬人坑”裡。在吉林、遼寧、山西等地都有很多座埋著成千上萬中國勞工屍體的“萬人坑”。
木村兵太郎不僅在中國欠下累累血債，在日本侵略軍入侵東南亞國家時，也率領著日軍在東南亞犯下滔天罪行。
太平洋戰爭打響後，日本陸軍相繼佔領了新加坡、菲律賓等地，1942年5月，又佔領了緬甸。翌年8月，日本政府假惺惺地宣佈承認緬甸“獨立”，並在仰光設立日本駐緬甸大使館。事實上，日本侵略軍從佔領東南亞及太平洋地域的第一天起，就露出兇殘和貪婪面目，瘋狂掠奪這裡的資源，殘酷鎮壓和屠殺當地民眾，妄圖以血與火維持殖民統治秩序。
其中，有被稱作“巴丹死亡行軍”的虐待英美戰俘的惡舉；有在新加坡，馬來西亞等地瘋狂“大檢舉”、“大逮捕”，屠殺無辜平民的暴行。
特別是從1942年11月至1943年10月間，日本佔領軍為了修築泰緬鐵路，強迫數十萬英美軍戰俘和勞工在極端惡劣的環境下服苦役，先後有一兩萬名戰俘和25萬名勞工悲慘死去······這一切都是木村擔任陸軍省次長期間，日本軍隊在各地犯下的戰爭裡行，除陸軍大臣負有責任外，木村也難辭其咎。也會被日軍使用極其殘忍的手段殺害。
1944年7月，東條內閣被迫總辭職後，木村兵太郎出任緬甸派遣軍總司令，木村上任以後，立即制訂了3個作戰方案：一是試圖切斷中印之間的地面聯絡；二是攻擊曼德勒及伊洛瓦底江畔；三是抗擊印度洋沿岸登陸的美英部隊。
10月，木村兵太郎指揮駐緬日軍大舉向中國遠征軍發起進攻，但是在中國遠征軍的猛烈打擊下，日軍丟盔卸甲，四下逃竄。受到如此慘敗，木村兵太郎在日軍大本營前丟盡臉面，於是將一肚子的火氣撒在了緬甸老百姓和俘虜的身上，命令部下對他們進行虐待與屠殺，一手製造了仰光大屠殺。
在戰後接受審判時，木村兵太郎被揭發，在緬甸戰爭挫敗後向部下下達了屠殺的命令，對部下櫻井省三說日軍損失多少士兵就兩倍於這個數字的去屠殺緬甸百姓。當時，日軍損兵6300多人。被殺的戰俘中有中國計程車兵，也有英美軍隊計程車兵。從此，這個殺人魔頭得到了“緬甸屠夫”的惡名。
此外，他對日本軍隊的殘虐行為繼續採取放縱的態度，甚至強徵30餘萬名印度尼西亞壯丁充當“兵補”，驅趕他們到緬甸和新幾內亞作戰。
當時，隨著日本海軍聯合艦隊的崩潰，日軍在東南亞各個戰場也呈現出不可挽救的頹勢。木村拼命組織軍隊固守陣地，力圖扭轉敗局。不論木村兵太郎如何掙扎，也不能改變日本軍國主義最終戰敗的命運。
至1945年年初，中美和英印聯軍逼近仰光，木村面臨著岌岌可危的態勢。4月23日，木村丟下部屬和軍隊，只率幾名隨從乘偵察機倉皇逃出仰光，日本在緬甸等地的殖民統治宣佈崩潰。
日本宣佈無條件投降後，美國佔領當局以木村參與和策劃對美、英發動的侵略戰爭而將其列為A級戰犯嫌疑人。
在遠東國際軍事法庭上，木村兵太郎百般抵賴，法官們想出了一個辦法，讓木村兵太郎和其他幾名戰犯互相揭發。於是東條英機、木村兵太郎、板垣徵四郎、鈴木貞一、星野直樹幾人被同時帶上了法庭。
這些戰犯在單獨受審時都各個拒不交代，但是法官們的這一招讓這些戰爭罪人一下都露出了老底。自己的罪行是不想承認，但揭發起別人來倒是個個起勁，再加上犯罪事實證據確鑿，到最後，每個人都無從抵賴。
1948年11月12日，木村兵太郎被遠東國際軍事法庭判定犯有“共同謀議侵略戰爭罪”，對中國的侵略戰爭罪，對美國的侵略戰爭罪，對英國的侵略戰爭罪，對荷蘭的侵略戰爭罪，以及“違反國際法的戰爭犯罪”等共計7項事名，被判處絞刑。
1948年12月23日凌晨，木村兵太郎在東京巢鴨監獄被執行絞刑，受到了應有的懲罰。
