山西省作為我國最重要的煤炭大省，很多煤礦都是很早以前就開始運作的，甚至可以追溯到清朝的末期，因此留下了許多廢棄的礦洞。
上世紀60年代，有一個小孩在放牛的時候，偶然途徑一個神秘的山洞，因為好奇他就進去探索，結果在洞中發現了數量極多的白骨。小孩看到這樣的情景，大為震撼也嚇到了，於是一路奔跑回到村裡告知了大人們。村裡的大人在聽完孩子所說以後，紛紛趕來洞中，檢視情況是否屬實。
村裡的人看到眼前的情景以後，立刻報警。警察來到現場，經過一段時間的勘驗，確認了屍骨的身份確實是屬於人類的，但是由於時間比較久遠了，憑藉他們的技術力量無法在探查出更多的詳細資訊。於是警察就通知了專業的人士——文化保護部門、考古專家都來到了這個現場，將部分的白骨轉移到實驗室，做了仔細的鑑定。經過考古專家的後續調查，在洞中發現了更多的屍體坑。
專家們判斷這些屍體的死亡並不正常，因為這些屍體的排列順序不規則。根據專家的仔細調研，判斷這些屍體的死亡時間應該是在1937年到1944年之間。由於這裡的白骨過多，專家們稱這個坑為萬人坑。
根據部分史料，專家們判斷這些屍體生前是被日軍所殺害的。當時日軍為了達到以戰養戰的目的從中國各地強徵了大量的礦工到山西去挖煤已獲得其中的資源。而日本對於礦工是各種虐待和蹂躪，礦工們一整天在礦井中挖煤，在這麼長時間的勞作下，導致很多礦工出現死亡，再加上礦井中的環境非常艱苦惡劣。使得大部分礦工出現了傳染病，很多礦工因此死亡，而畜生般的日軍就挖了許多的大坑，用來埋葬這些因病而亡的礦工 ，這也就是萬人坑的由來！
