第一次世界大戰結束後，德國被迫簽訂《凡爾賽條約》，其中協約國禁止其發展與生產坦克。
然而到了1920年代中期，德國軍方已體察到未來建立裝甲部隊的需求，故機動兵總司令部參謀海因茨·古德里安於1930年成立了一個工作組。
作戰中的三號坦克，攝於1943年6月
1934年1月，陸軍武器署提出了由三號與四號兩種坦克搭配組成裝甲部隊，前者作為主力，而後者則定位為支援型坦克，而“主力坦克”即由三號坦克來充當。
為了應付調查，三號坦克最初被稱為Zugführerwage較早期的三號坦克裝備的37mm坦克炮，與同時期的坦克相比並不落後。
但是在法國戰役中，37mm火炮卻被發現不敷所需，因此，法國戰役後，三號坦克開始換裝50mm火炮，這使得三號坦克在之後很長時間內能保持其主力的位置。
波蘭戰役中的三號坦克
之後，隨著裝甲更厚的坦克的出現，50mm火炮也不能滿足需要，而三號坦克也沒法裝備更強力的火炮，因此三號坦克N型誕生了，又換裝成了短管的75mm火炮用於步兵支援。
因為其底盤可靠性較高，因此三號坦克擁有多種改進型以及衍生性，其中就包括了三號突擊炮。因為關於設計的爭論，使得三號坦克的服役向後推遲了兩年，在波蘭戰役爆發時，能投入作戰的三號坦克僅有98輛。
庫爾斯克戰役中的三號坦克
在豹式坦克投產後，三號坦克的生產也停了下來。最終，三號坦克一共生產了5644輛。蘇軍使用繳獲的三號坦克（大部分是在斯大林格勒戰役中繳獲的）拆除炮塔後底盤製成的驅逐坦克，安裝T-34的76mm火炮。
這種車輛被蘇軍命名為SU-76I，大約改裝了201輛。有趣的是，有一部分SU-76I又被德軍繳獲，成為了德軍的戰利品。
以三號坦克為代表的一批坦克，在早期雖然火力不夠強，但是卻屬於高速且行程較大的坦克。
