徐晃字公明，河東郡楊縣人。在郡中作吏，隨車騎將軍楊奉討伐賊寇有功，被任命為騎都尉。李莈、郭汜在長安發動叛亂，徐晃勸說楊奉，讓他和皇帝回洛陽，楊奉聽從了他的計策。獻帝渡過黃河到達安邑，封徐晃為都亭侯。
到洛陽以後，韓暹、董承天天爭權奪利，勾心鬥角，徐晃便勸說楊奉歸順曹操，楊奉聽從了他，又反悔，曹操到梁地討伐楊奉，徐晃便投奔了曹操。曹操授予徐晃兵權，派他出擊卷縣、原武的賊寇，大獲全勝，升任裨將軍。
隨曹操征伐呂布，徐晃單獨逼迫呂布的將領趙庶、李鄒等人投降。又同史渙在河內郡斬了眭固，隨同曹操大破劉備，又隨曹操打敗顏良，攻取白馬城，進軍到延津，大敗文丑，徐晃被任命為偏將軍。
以後又同曹洪攻打氵隱強的賊寇祝臂，大破敵軍；同史渙在故市攻打袁紹的運糧車隊，因為功勞最多，被封為都亭侯。曹操包圍了鄴縣，攻破了邯鄲，易陽縣令韓範佯裝獻城投降負隅頑抗，曹操命徐晃進攻。徐晃來到以後，把一封信縛在箭尾射入城中，為韓範陳說利害，韓範悔過投降了徐晃。
徐晃隨即勸曹操說：“袁譚、袁尚都沒有被打敗，那些沒有攻取的城池都在看風使舵，今天要是滅了易陽，明天各城就要拼死守禦，恐怕河北就沒有平定的日子。希望您允許易陽投降為別的城做個樣子，那麼各城就都會望風而降。”曹操認為很對。
徐晃又單獨率兵討伐毛城敵寇，設定伏兵大舉襲擊，攻破了三個駐地。再次隨曹操在南皮擊敗袁譚，討伐平原郡的叛軍，平定了該郡。又隨曹操征剿蹋頓，被封為橫野將軍。
再跟隨曹操討伐荊州，徐晃單率一支軍隊屯紮樊城，又討伐中廬、臨沮、宜城的賊寇。再與滿寵到漢津征討關羽，與曹仁在江陵攻擊周瑜。
建安十五年，徐晃統兵討伐太原郡叛軍，包圍大陵，拔取了城池，殺死敵帥商曜。韓遂、馬超在關右謀反，曹操派徐晃屯駐汾陰安撫河東郡，賜給他牛酒，讓他為祖先上墳。
曹操到潼關，擔心不能渡過黃河，找徐晃詢問。徐晃說：“主公大兵在此地，而敵人不另派兵駐守蒲阪，可見是失策。現在給我一支精兵，從蒲阪津渡河，去充當全軍的先頭部隊，截斷敵軍，就可以抓獲敵人。”曹操說：“好。”派徐晃率領騎兵、步兵四千人過河。
徐晃領兵挖塹立柵還未站穩腳跟，敵將梁興率五千多騎兵、步兵來進攻，被徐晃擊退，曹操大軍得以渡河，於是打敗了馬超的勢力。曹操派徐晃與夏侯淵平定阝俞麋、涉縣的各部落氐族人，同曹操安定會師。曹操回鄴縣，派徐晃與夏侯淵平定涉縣，打敗夏陽的賊寇餘黨，斬了梁興，使三千多戶投降。
再隨曹操討伐張魯，另派徐晃去征剿櫝、仇夷各處山上的氐族人，他們都投降了。徐晃升任平寇將軍，解除了將軍張順的被圍困境，攻破了賊寇陳福等人的三十多個屯兵據點。
曹操回到鄴縣，留下徐晃與夏侯淵在陽平關防禦劉備。劉備派陳式等十多個營的部隊斷絕了馬鳴閣道，徐晃從岔路攻伐，大破陳式的隊伍，敵人被迫自己跳入山谷，死了許多人。曹操聽說後，非常高興，讓徐晃持節，釋出通報說：“這一條閣道是漢中的咽喉險要之地，劉備想斷絕內外聯絡，奪取漢中。將軍這一舉粉碎了劉備的計劃，真是妙計中的妙計啊！”
曹操於是親自到陽平關，帶出漢中的各路軍馬，又派徐晃協助曹仁討伐關羽，在宛城駐軍。碰上漢水氾濫，于禁的部隊被淹，關羽在樊城包圍了曹仁，又在襄陽包圍了將軍呂常。徐晃的部下大多是新兵，很難同關羽作戰，便進軍屯駐在陽陵陂。
曹操又返回來，派將軍徐商、呂建等人去見徐晃，傳令說：“必須等兵馬全集中，再一起向前出去。”敵軍在偃城屯紮，徐晃到達後，設計挖掘塹壕，作出要截斷敵人後路的樣子。敵軍燒燬自己的營寨逃跑了。徐晃佔領偃城，兩面營寨相連，又稍微前進到距離敵人的包圍圈三丈左右的地方，沒有進攻。曹操前後派殷術、朱蓋等一共十二營的部隊到徐晃這兒來。敵人的圍頭有兵屯駐，另外還在四冢駐軍。
徐晃揚言要攻打圍頭的守敵，卻秘密地進攻四冢，關羽看到四冢要被攻破，親率五千步、騎兵出戰，徐晃迎擊，關羽退去，徐晃便乘勝追擊，一鼓作氣衝入敵圍，大破敵軍，很多人自投沔水而死。
曹操傳令說：敵人塹壕鹿角層層包圍，將軍作戰全勝，攻陷敵圍，殺死俘虜大批敵寇，我用兵三十多年，加上聽到的古代善於用兵的人，也沒有長驅直入衝進敵人重圍的，而且樊城、襄陽的被包圍，比起戰國時的莒城、即墨，情況要嚴重得多，將的功勳，要超過孫武和司馬穰苴。
徐晃整頓部隊回到摩陂，曹操出城七里迎接徐晃，設宴慶祝。親自舉杯向他勸酒，慰勞他說：“保全住樊城、襄陽，都是將軍的功勞。”當時各路人馬都集中到一起，曹操巡視各營，士兵都離開佇列觀看曹操，有徐晃的軍營整齊，全體將士站在佇列中不動。
曹操嘆息說：“徐將軍可以說是有周亞夫的風度了。”曹丕即王位，封徐晃為右將軍，晉封逯鄉侯。曹丕即皇帝位後，又晉封楊侯。同夏侯尚到上庸討伐劉備，打敗敵人。文帝命徐晃鎮守陽平關，轉封他為陽平侯。
魏明帝即位，徐晃在襄陽抵禦吳將諸葛瑾，朝廷為他增加食邑二百戶，連同以前的共三千一百戶。病垂危，遺囑用平時穿的衣服收殮他。徐晃為人小心謹慎、作風儉樸。統率軍隊往往不是依靠偵察，先作好不能打勝仗的準備，然後才開始作戰，窮追不捨，爭取實利，將士常常顧不上吃飯。
徐晃常嘆息著說：“古人顧慮遇不上英明的君主，現在幸而讓我遇到了，應該建功效力，哪用自己誇耀自己呢！”始終不多交朋友。
230年去世。朝廷賜予壯侯的諡號。他的兒子徐蓋承襲了爵位。徐蓋死後，兒子徐霸襲爵。明帝分給徐晃食邑，封他兩個兒孫為列侯。
起初，清河的朱靈在袁紹手下擔任將軍，曹操征討陶謙的時候，袁紹派朱靈統率三個營援助曹操，作戰有功。袁紹所派來的那些大將大多要被送回。朱靈說：“我閱人很多，沒有像曹公這樣辦事的，這真是明主啊！現在已碰上了真的明主，還要投奔誰呢？”便留下來不再離開，他所帶的將士都仰慕曹操，全跟著朱靈留下了。朱靈以後也成為良將，名聲僅次於徐晃，官至後將軍，封高唐亭侯。
評：曹操建立這樣的武功，而當時的良將，五個人首當其中。于禁最為沉穩凝重，但最終未能盡節。張郃以機巧善於應變出名，樂進以驍勇果斷著稱，但對照他們的行事，與所聽說的並不相符，也許是記錄有遺漏，不如張遼、徐晃的傳記完備詳盡。
