1937年7月7日，盧溝橋事變爆發，日軍發動全面侵華戰爭。日軍在佔領平津後，開始以速戰速決的戰略方針沿津浦鐵路，平漢鐵路，平綏鐵路分為三路進兵。面對日軍的進攻，國民黨軍隊無心作戰，一直向南潰逃，而八路軍卻迎著敵軍鬥志昂揚地向北挺進。
1937年9月，日寇悍將板垣徵四郎得知國民黨軍第二戰區在平型關一帶正集結部隊後，命令第五師團第21旅團長三浦敏事率第42大隊的第二大隊，野炮兵一個大隊，連同在靈丘的兩個大隊，向西攻佔平型關以西的大營鎮，並消滅該地守軍，控制通向太原的要道，同時板垣徵四郎還下令在渾源的兩個步兵大隊策應三浦敏事的行動。
平型關位於山西東北部古長城上，自古以來就是晉冀兩省的重要隘口，但是這裡山巒疊嶂，地勢險要，關前只有一條通往平型關的公路，這條公路兩側都是陡峭的深谷。尤其是從關前到東河南兩鎮之間的十餘里一段，溝深道窄，溝底通道僅能透過一輛汽車。
1936年，也就是全面抗戰爆發的前一年，板垣徵四郎曾以第二戰區司令員閻錫山在日本炮兵學校師兄的身份，到太原“探望”閻錫山，他來太原並沒有選擇飛機或者經由大同的鐵路，反而步行千里，沿蔚代公路，擇從平型關—滹沱河谷—忻口一線，歷時1個月才到達目的地。“
1937年，板垣徵四郎率第五師團侵略山西的時候，選擇了一條几乎是S形的路線：他西出北京直到張家口，從張家口南下至淶源，突然繞到平型關的左後，走的正是一年前親自考察過的路線。板垣徵四郎還清楚這裡是山西和河北交界的地方，也是一個比較薄弱的環節，但是他沒有想到的是，八路軍115師會提前渡過黃河，在這裡伏擊他。
八路軍115師是由紅一軍團和紅十五軍團改編而來，原紅一軍團主力改編為115師343旅，其中以紅2師改編為685團、紅4師改編為686團； 原紅十五軍團為主改編為115師344旅，其中以紅73師改編為687團、紅75師改編為688團，紅78師合編為兩個營分別補入上述兩個團。 此外，紅一軍團紅1師單獨改編為115師獨立團，原中央軍委騎兵第2團改編為115師師屬騎兵營。其中，騎兵營為師直屬部隊，除此之外，115師直屬還有原紅十五軍團所轄紅74師改編的輜重營、炮兵營，師直教導隊則由編余部隊組建。
115師組建的時候有15000人，全部都是久經戰陣的老兵，不論是兵力，還是武器裝備，還是戰鬥力，都是三個師中最強悍的，被譽為八路軍第一師。後來日軍也評價過這支部隊：“當面之敵幾乎均為20歲以下少年兵，作戰勇敢，遠非以前所遇之敵可比。”
115師東渡黃河後，一直都想打一仗，最後林彪把伏擊的地點選擇了平型關。林彪對此次作戰十分重視，戰前三次趕到平型關地區檢視地形，看地形回來後，警衛員半夜醒來，發現師長還在盯著地圖，眉頭緊鎖著。
最後林彪終於制定好了戰鬥方案，楊得志的686團埋伏在老爺廟一帶，守住袋底，李天佑的686團埋伏在白崖臺一帶，準備分割敵人，687團埋伏在小寨村一帶，等敵人全部進入埋伏圈堵住日軍退路，688團作為師預備隊，楊成武的獨立團阻擊靈丘和來源前來增援的日軍。
1937年9月24日夜，八路軍第115師上萬官兵向埋伏地點挺進，此時晉北地區的天氣已經轉涼，還下起了大雨，但是八路軍廣大指戰員除了少數師級幹部外，廣大指戰員並沒有禦寒棉衣，也沒有雨具，只能冒著雨前行。大雨和寒冷並沒有打亂八路軍指戰員前進的腳步，他們克服了嚴寒，快速地向陣地跑去。
部隊在翻越過一段崎嶇的山路時，轉入了一條深溝，這時候突然大雨傾盆而下，山洪暴發了，攔住了去路，走在最前面的686團最幸運，全都過去了，686團走了一半，另外一半和師部擠在一起，出現了短暫的混亂，還有很多戰士和裝備被山洪沖走，但是團長李天佑和副團長楊勇很快將部隊穩定了下來。
最後水勢越來越猛，只有343旅的兩個團透過，344旅只有一個團透過，另外一個團被山洪阻隔在對面，林彪沒辦法，只能將344旅的一個團作為預備隊，等山洪退後再過來。9月25日拂曉，115師只有三個團到達了戰場。
沒過多久，日軍第五師團第21旅團第21聯隊乘坐第六兵站汽車隊的百餘輛汽車，率先向埋伏地點駛來，後面是第21旅團的輜重部隊，200多輛騾馬大車滿載著禦寒冬裝，行李和彈藥浩浩蕩蕩地裝入狹溝，最後面是一個50人的騎兵隊。
板垣徵四郎率領的第五師團號稱是日軍的精銳之師，侵華兩個月來縱橫千里，從沒有遇到過對手，所有官兵都目空一切，不把中國軍隊放在眼裡，也根本想不到中國軍隊會主動出擊，伏擊他們，所以很容易就進入了林彪為他們設下的“墳場”。日軍進入包圍圈後，林彪立刻派一個參謀跑步去附近國民黨軍的陣地，讓他們一面負責阻擊日軍，一面派部隊前來增援。
等日軍全部進入埋伏圈後，林彪果斷下令開火。三發訊號彈騰空而起，在嘹亮的衝鋒號聲響下，機槍，手榴彈，迫擊炮一起開火，日軍在毫無防範的情況下被打了個措手不及，很多士兵紛紛跳下車，躲到車底下。
八路軍指戰員子在一口氣打光子彈，手榴彈後，立刻發動衝鋒，685團5連連長曾賢生率領部隊，一馬當先衝在最前面，他率領戰士們連續炸燬多輛汽車，曾賢生個頭高大，還練過武，所以很快就砍死了多名敵人。
但是日軍第五師團的戰鬥力也很強悍，在激烈的白刃戰中，5連連長曾賢生身中數刀後倒在了血泊中，685團成功擋住了日軍的退路。日軍的行動很迅速，他們很快就盯上了制高點老爺廟，林彪也看中了這個地方，立刻命令686團三營去搶佔老爺廟，三營在付出了巨大代價後，終於將老爺廟拿下，但是686團副團長楊勇在隨三營爬上老爺廟的時候，被敵人流彈擊中負傷，三營營長也負傷了。
日軍軍機也趕到對老爺廟的八路軍進行轟炸，五六百名日軍趕到飛機來，紛紛湧向老爺廟，向老爺廟發動一輪又一輪的進攻，雙方在制高點上反覆搏殺，刺刀斷了用槍托，石頭，樹枝砍砸，最後林彪將預備隊投入上去，才徹底將口子堵死。戰鬥打到下午一點，日軍主力基本上被消滅。
戰鬥開始之後，為了進行宣傳，115師打算抓幾名日軍俘虜，但是這個決定，卻讓115師官兵付出了沉重的傷亡。在打掃戰場的時候，一位營長背起一名日軍傷兵，準備將其送到救助站救治，但是半路上那個日軍醒了過來，一口咬掉了營長的耳朵。還有一位通訊員在收電話線的時候，發現了汽車底下的日軍傷兵，通訊員拿出紗布為他包紮傷口，但是被日軍傷兵用刺刀一下子刺進了腹部，當場犧牲。
平型關戰役，八路軍115師殲敵1000餘人，自身傷亡800餘人，竟然沒有抓獲一名日軍俘虜，這在紅軍歷史上是從來都沒有發生過的。115師廣大指戰員也都被日軍的驕悍給驚住了，時任115師教導隊政治教育主任的王紫峰在當天的日記中寫道：“日軍這種寧死不投降的精神，是我軍在十年內戰中尚未見過的精神。”
楊成武后來回憶時也說道：“抗戰初期的日軍，大都經過嚴格訓練。他們戰術熟練，槍法準確，野戰服與秋莊稼顏色一致，便於隱蔽，攻擊力強，加上國民黨反動派的不抵抗主義，使他們侵入華北以來，攻城略地，長驅直入，增強了他們計程車氣。日軍刺殺技術強不說，負傷了也不投降，抱住我們的戰士又掐又咬，使我們不得不把他們一個個消滅，增加了我們取勝的代價。”
儘管平型關戰役我軍傷亡慘重，但是卻打出了八路軍的威風，打出了中國軍隊的軍威，振奮了國人的抗戰熱情，同時以牽制了日軍第五師團的進攻，支援了平漢鐵路和同蒲鐵路上的國民黨軍作戰。
